El Reino Unido tendrá el primer instituto de seguridad de IA del mundo

El primer ministro de Reino Unido, Rishi Sunak, ha anunciado el establecimiento del primer Intituto de Seguridad de Inteligencia Artificial (IA) del mundo para examinar, evaluar y probar nuevos modelos de esta tecnología. Durante su presentación, el político reflexionó sobre la responsabilidad global de comprender y abordar los riesgos que rodean a la IA para aprovechar sus beneficios y oportunidades para las generaciones futuras. Ya en abril, anunció planes para establecer el grupo de trabajo Frontier AI a nivel gubernamental para liderar el desarrollo seguro y confiable. Se lanzó en junio y cuenta con un respaldo de 100 millones de libras para garantizar capacidades soberanas y una amplia adopción de modelos básicos, ayudando a consolidar la posición del país como superpotencia científica y tecnológica para 2030.

Mientras, en agosto, la IA fue clasificada oficialmente como una amenaza a la seguridad nacional tras la publicación del Registro Nacional de Riesgos de 2023.

"El pueblo británico debería tener la tranquilidad de saber que estamos desarrollando las protecciones más avanzadas para la IA de cualquier país del mundo", dijo Sunak. "Siempre seré honesto con ustedes acerca de los riesgos y pueden confiar en mí para tomar las decisiones correctas a largo plazo".

El Instituto de Seguridad de la IA evaluará y estudiará estos riesgos (desde daños sociales como prejuicios y desinformación hasta los riesgos más extremos de todos) para que el Reino Unido comprenda de qué es capaz cada nuevo modelo de IA, añadió Sunak.

"En este momento, no tenemos una comprensión compartida de los riesgos que enfrentamos. Sin eso, no podemos esperar trabajar juntos para abordarlos". Por lo tanto, el Reino Unido presionará mucho para llegar a un acuerdo sobre la primera declaración internacional sobre la naturaleza de los riesgos de la IA para garantizar que, a medida que evolucionan, también lo haga el entendimiento compartido sobre ellos, dijo Sunak.

"Propondré que establezcamos un panel de expertos verdaderamente global para publicar un informe sobre el estado de la ciencia de la IA. Por supuesto, nuestros esfuerzos también dependen de la colaboración con las propias empresas de IA. Únicas en el mundo, esas empresas ya han confiado al Reino Unido una posición privilegiada. acceso a sus modelos. Es por eso que el Reino Unido está tan bien posicionado para crear el primer Instituto de Seguridad del mundo".

El mes pasado, el Zar de la IA del gobierno del Reino Unido, Ian Hogarth, advirtió que los ciberdelincuentes podrían utilizar la IA para atacar el Sistema Nacional de Salud (NHS). Hogarth, que preside el grupo de trabajo Frontier AI del Reino Unido, dijo que la IA podría utilizarse como arma para perturbar el NHS, rivalizando potencialmente con el impacto de la pandemia de COVID-19 o el ataque de ransomware WannaCry de 2017. Destacó los riesgos de los sistemas de IA. utilizándose para lanzar ciberataques al servicio de salud, o incluso para diseñar patógenos y toxinas. Mientras tanto, los avances en la tecnología de inteligencia artificial, particularmente en la escritura de códigos, están reduciendo las barreras para que los ciberdelincuentes lleven a cabo ataques, añadió.

"El gobierno está colocando estas amenazas, con toda razón, en lo más alto de la agenda, pero los líderes tecnológicos deben prestar atención a la advertencia y ponerse en marcha para prepararse mejor para el próximo ataque inevitable", dijo Hogarth al Financial Times.

Las amenazas que plantea el avance de la tecnología de IA son fundamentalmente riesgos globales. "El tipo de riesgos a los que estamos prestando más atención son los riesgos aumentados para la seguridad nacional. Una gran cantidad de personas en tecnología en este momento están tratando de desarrollar sistemas de inteligencia artificial que sean sobrehumanos al escribir código. Esa tecnología está mejorando cada día. ".

Del mismo modo que el Reino Unido colabora con China en aspectos de bioseguridad y ciberseguridad, existe un valor real en la colaboración internacional en torno a los riesgos a mayor escala de la IA, añadió. "Es el tipo de cosas en las que no puedes actuar solo en términos de tratar de contener estas amenazas".