WormGPT, la herramienta de IA generativa para ataques de 'phishing'

Los ciberdelincuentes están creando herramientas de inteligencia artificial (IA) generativas personalizadas similares a ChatGPT, pero más fáciles de utilizar para fines maliciosos. No solo están creando estos módulos personalizados, sino que también los ofrecen a otros grupos, según la empresa SlashNext, que obtuvo acceso a una herramienta como WormGPT a través de un destacado foro en línea que se suele asociar con el cibercrimen. “Esta herramienta se presenta como una alternativa blackhat a los modelos GPT, diseñada específicamente para actividades maliciosos”.

WormGPT es módulo de IA basado en GPT-J, un modelo de lenguaje grande (LLM, en inglés) de código abierto desarrollado en 2021. Sus características incluyen soporte ilimitado de caracteres, retención de memoria de chat y capacidades de formato de código.

WormGPT utilizado en ataques de compromiso de correo electrónico empresarial

Los ciberdelincuentes utilizan IA generativa para automatizar la creación de correos electrónicos falsos convincentes, personalizados para el destinatario, lo que aumenta las posibilidades de éxito del ataque. “Supuestamente, WormGPT fue entrenado en una amplia gama de fuentes de datos, concentrándose particularmente en los relacionados con malware”, según la empresa.

El desarrollador de WormGPT lo describió como “el mayor enemigo del conocido ChatGPT” que “te permite hacer todo tipo de cosas ilegales”. ChatGPT incorpora una serie de salvaguardas diseñadas para evitar que fomente o facilite actividades peligrosas o ilegales. Esto hace que sea menos útil para los ciberdelincuentes, aunque con un diseño rápido y cuidadoso se pueden superar algunas de las barreras.

SlashNext probó WormGPT usándolo para generar un correo electrónico que no solo fue notablemente persuasivo destinado a presionar a un administrador de cuentas desprevenido para que pague una factura fraudulenta. “Los resultados fueron inquietantes. Produjo un email que no solo fue notablemente persuasivo sino también estratégicamente astuto, mostrando su potencial para ataques sofisticados de phishing y BEC”.

Beneficios de usar IA generativa para ataques BEC

El uso de IA generativa democratiza la ejecución de sofisticados ataques BEC, según SlashNext. Esto permite que los atacantes con habilidades limitadas utilicen esta tecnología, lo que la convierte en una herramienta accesible para un espectro más amplio de ciberdelincuentes. La IA generativa también puede crear correos electrónicos sin errores gramaticales, haciéndolos parecer legítimos y reduciendo la probabilidad de que se marquen como sospechosos.

En uno de los anuncios observados por SlashNext en un foro, los atacantes recomendaron redactar un correo electrónico en el idioma nativo, traducirlo y luego introducirlo en una interfaz como ChatGPT para mejorar su sofisticación y formalidad.

“Este método presenta una clara implicación: los atacantes, incluso aquellos que carecen de fluidez en un idioma en particular, ahora son más capaces que nunca de fabricar correos electrónicos persuasivos para ataques de phishing o BEC”.