Detectados los primeros usos de ChatGPT para recrear malware y ejecutar ataques maliciosos

January 17, 2023

ChatGPT es un chat de inteligencia artificial desarrollado por OpenAI, entrenado para mantener una conversación en texto. Es un chat que se basa en el modelo de lenguaje GPT 3.5, y en los últimos días ha sorprendido por lo natural de sus respuestas y por su capacidad para generar y enlazar ideas y recordar las conversaciones previas.

Para poder utilizar este chatbot, solo es necesario disponer de una cuenta en OpenAI, lugar desde donde se puede descargar de forma gratuita. La accesibilidad a esta herramienta es lo que ha puesto en alerta a compañías de ciberseguridad, como Check Point

ChatGPT de OpenAI

A finales del pasado mes de diciembre y ante el creciente interés por ChatGPT, el director técnico de Check Point Software, Eusebio Nieva, alertó de que "cualquier persona con recursos mínimos y cero conocimientos en código puede explotarlo fácilmente".

Ahora, un grupo de investigadores de esta empresa de ciberseguridad ha encontrado indicios de que actores maliciosos estarían utilizando ChatGPT para ejecutar campañas de malware siguiendo métodos habitualmente utilizados en este tipo de acciones, que recoge en una publicación en su blog oficial.

Fue el pasado 29 de diciembre cuando apareció un hilo llamado 'ChatGPT - Beneficios del malware' en un foro clandestino de piratería, en el que su autor compartió sus experimentos con este chatbot.

"He recreado muchas cepas y técnicas de malware basadas en publicaciones de investigación y análisis de estos ataques", aseguró este actor. A su vez, comentó que había utilizado un software malicioso basado en Python para buscar archivos, copiarlos en una carpeta, comprimirlos y subirlos a un servidor FTP codificado.

Tras realizar una serie de pruebas, los investigadores comprobaron que el ciberdelincuente estaba en lo cierto y que podía crear un malware capaz de recopilar archivos de Microsoft Office, PDF o imágenes del sistema.

En caso de que encuentre algún archivo de interés, lo copia en un directorio temporal, lo comprime y lo comparte a través de la web, además, sin añadir cifrado. Esto quiere decir que, al transferir estos archivos sin dicho sistema de seguridad, estos archivos también podrían acabar en manos de terceros.

Check Point encontró otra evidencia de un mal uso de ChatGPT por parte de este actor de amenazas en la creación de un fragmento de Java. Este descarga un cliente SSH común, PuTTY, y lo ejecuta de forma encubierta, utilizando Powershell.

Desde la compañía puntualizan que este script se puede modificar para descargar y ejecutar cualquier programa, incluidas las familias de malware más comunes.

Por otra parte, CheckPoint ha interceptado a otro ciberdelincuente, que se da a conocer por el apodo USDoD, que dijo a través del mismo foro de piratería que acababa de crear su primer script basado en Python.

Después de que otro usuario comentara en este espacio que el estilo del código se asimilaba al de OpenAI, este actor malicioso sugirió que esta le había servido para rematar dicha secuencia de comandos. Tras hacer las comprobaciones pertinentes, la compañía de ciberseguridad concretó que se trataba de un script que se podía utilizar con finalidades de encriptado y cifrado, aunque también con fines maliciosos.

CheckPoint también ha matizado en su blog que interceptó otro tipo de uso de este chatbot, más allá del orientado al malware. En concreto, comprobó que se podía usar para crear scripts enfocados a mercados de la dark web.

Estas plataformas se utilizan para la compraventa de productos o bienes tangibles ilegales, como pueden ser medicamentos, documentos falsos, artículos relacionados con el fraude y herramientas de cometer piratería.

Finalmente, la compañía de ciberseguridad ha comentado que a principios de este año varios actores de amenazas hicieron mención a las malas prácticas con ChatGPT en este tipo de de foros. Entonces, los ciberdelincuentes mostraron mayor interés por generar arte falsificado con DALL-E 3 y venderlo a través de plataformas legítimas, como Etsy.

Para más información sobre este y otros temas
puedes enviarnos un mensaje

contáctanos