ENISA alerta sobre los retos de seguridad que implica el auge de la inteligencia artificial

Ante la inminente llegada de una Ley de Inteligencia Artificial (IA) europea, la Agencia de Ciberseguridad de la Unión Europea (ENISA) publicó cuatro informes relacionados a los retos de ciberseguridad que implican las nuevas herramientas y tecnologías de IA e IA generativa que están en auge actualmente.

Los informes, publicados con motivo de una conferencia sobre el tema la semana pasada, abordan los diversos desafíos técnicos de ciberseguridad que suponen los chatbots de IA, las necesidades de investigación e innovación en este ámbito y las consideraciones que deben tener las autoridades para la certificación de ciberseguridad de los sistemas de IA. Con estos documentos, ENISA busca apoyar y orientar a los responsables políticos sobre las mejores prácticas y casos de uso prácticos.

Uno de los informes, ‘Establecer buenas prácticas de ciberseguridad para la IA’, propone un marco escalable para guiar a las autoridades nacionales de ciberseguridad y la comunidad de IA a asegurar los sistemas, operaciones y procesos de estas tecnologías. Consta de tres capas: bases de ciberseguridad, ciberseguridad específica de IA y ciberseguridad específica del sector para IA.

El segundo, ‘Ciberseguridad y privacidad en IA’, detalla dos casos de uso de la IA (en la previsión de demandas en redes eléctricas y en el diagnóstico por imagen médica) y describe las amenazas a la ciberseguridad y la privacidad a las que son vulnerables.

El tercer informe, ‘Investigación en IA y ciberseguridad’, identifica cinco necesidades de investigación clave para profundizar en los retos de la IA para la ciberseguridad, entre las que se encuentra el desarrollo de herramientas de pruebas de penetración para identificar vulnerabilidades de seguridad o el desarrollo de marcos estandarizados para evaluar la privacidad y la confidencialidad, entre otros.

Finalmente, el cuarto informe sobre ‘Público objetivo’, determina la participación de entidades públicas o privadas para respaldar el análisis de riesgos, la identificación de amenazas a la ciberseguridad y la privacidad y la selección de los controles de seguridad y privacidad más adecuados. También convoca a la comunidad técnica de IA, expertos en ciberseguridad y privacidad de IA y expertos en IA interesados ??en desarrollar soluciones seguras y agregar seguridad y privacidad por diseño a sus soluciones.