Inteligencia artificial para detectar ‘deepfakes’ de audio

El epicentro de la actualidad tecnológica global se concentra entre el 8 y el 12 de enero en Las Vegas, Nevada (Estados Unidos). Y es que las principales compañías del sector tecnológico utilizan el CES como escaparate para anunciar sus últimas novedades y desarrollos al mundo. Ha sido durante esta edición 2024 cuando McAfee ha presentado en sociedad su herramienta Project Mockingbird, un sistema de detección de deepfakes de audio impulsado por inteligencia artificial (IA). Con ella aspira a ayudar a sus clientes a defenderse contra la creciente amenaza que supone este tipo de ataques en la actualidad.

La compañía especializada en ciberseguridad ha advertido que las herramientas de IA generativa son "cada vez más sofisticadas y accesibles"; y esto, insisten, ha permitido a los ciberdelincuentes desarrollar estafas “muy convincentes”. Entre los engaños más habituales a los que se enfrentan organizaciones y usuarios hoy en día destacan los deepfake de audio, un formato que permite a los cibercriminales manipular voces y sonidos para hacerlos pasar como reales y engañar tanto a personas como a algoritmos del sistema.

Según se desprende de una encuesta reciente impulsada por la organización, esto preocupa a la mayoría de usuarios de Internet. De hecho, más de un tercio aseguran que ellos o alguien que conocen habían visto o experimentado una estafa de este tipo, donde el objetivo principal son los jóvenes de entre 18 y 34 años. Así, con el firme propósito de revertir la situación, el equipo de desarrollo de McAfee Labs ha creado Project Mockingbird, una herramienta de detección basada en la IA que permitirá a los usuarios "discernir entre lo que es real y lo que es falso".

El sistema, con una tasa de precisión del 90%, según ha avanzado la propia compañía, emplea una combinación de modelos de detección contextuales, conductuales y categóricos para identificar si el audio del vídeo es obra de la IA generativa. Gracias a esta herramienta, señalan desde McAfee a modo de ejemplo, los usuarios podrán asegurarse de que no están ante estafas "falsas y baratas" en las que se emplea la imagen de una persona famosa, o ante discursos fraudulentos de candidatos presidenciales.