Ciberseguridad
Inteligencia artificial
IA generativa

Meta elimina las primeras campañas de desinformación que generan contenido mediante IA generativa

Los investigadores aseguran que esta tecnología todavía no pone en duda la capacidad de la tecnológica para eliminar contenidos falsos.

Meta

Meta ha reportado que ha encontrado contenido “probablemente generado por inteligencia artificial (IA)” utilizado de manera engañosa en sus plataformas de Facebook e Instagram que, entre otras publicaciones, incluye comentarios que elogian la gestión de Israel de la guerra en Gaza. Estos se están publicando como respuesta a posts de organizaciones globales de noticias y legisladores estadounidenses, tal y como ha reportado la tecnológica dirigida por Mark Zuckerberg en su informe de seguridad trimestral y se hace eco Reuters.

Estas cuentas se hacen pasar por estudiantes y ciudadanos preocupados que se dirigen a distintos estamentos de Estados Unidos y Canadá, y se cree que la empresa de marketing político israelí  STOIC está detrás de ellas.

El reporte de Meta es importante porque es la primera vez que revela el uso de tecnología de IA generativa basada en texto con fines desinformativos. Un aspecto que puede ser muy dañino debido a la capacidad de esta tecnología de generar comentarios de forma rápida y económica, así como imágenes y audios, para influir en eventos globales como las distintas campañas electorales.

No obstante, desde la dirección de la empresa se asegura que se ha eliminado esta campaña y que no se estima que la IA generativa haya puesto a prueba todavía su capacidad para eliminar este tipo de redes. “Hay varios ejemplos de cómo utilizan herramientas de IA generativa para crear contenido. Tal vez aporte la ventaja de hacerlo más rápido y con más volumen. Pero en realidad no afecta a nuestra capacidad para detectarlas”, ha indicado el jefe de investigaciones de amenazas de Meta, Mike Dvilyanski.

El informe destaca seis operaciones de influencia que la compañía ha interrumpido, además de STOIC, como una campaña con sede en Irán. Las empresas de redes están haciendo hincapié en los sistemas de etiquetado digital para marcar los contenidos generados por IA en el momento de su creación, aunque estas herramientas no funcionan con texto y los investigadores tienen dudas todavía sobre su eficacia.



TE PUEDE INTERESAR...

Contenido Patrocinado

Accede a la cobertura de nuestros encuentros
 
Lee aquí nuestra revista digital de canal

DealerWorld Digital

 

Forma parte de nuestra comunidad
 
¿Interesado en nuestros foros? 

 

Whitepaper