Agencias de seguridad de Australia, EE.UU. y Reino Unido lanzaron advertencia conjunta sobre la IA como amenaza

Agencias de inteligencia de Five Eyes alertan sobre inminentes amenazas cibernéticas impulsadas por IA

Este pronunciamiento público sorprendió al sector tecnológico global, ya que los organismos de inteligencia del bloque Five Eyes raramente emiten declaraciones conjuntas.

El anuncio llega días después de que la administración Trump decidiera restringir el acceso de «ciudadanos extranjeros» al modelo de IA desarrollado por la empresa tecnológica Anthropic, conocido como Fable, que había generado gran expectativa en la industria.

Una amenaza que se mide en meses, no en años

El comunicado, difundido el lunes por la noche según horario de Sídney, señaló que si bien la inteligencia artificial «nos ayudará a mejorar la defensa cibernética con el tiempo, también acelera la velocidad, escala y sofisticación de las amenazas cibernéticas». No hay

«Se anticipa que los modelos de IA de frontera superarán las expectativas actuales de la industria, transformando fundamentalmente tanto las capacidades cibernéticas ofensivas como defensivas. El cronograma no es de años, es de meses», enfatizaron las agencias del Five Eyes en su advertencia.

El organismo de inteligencia también subrayó que «en este entorno, la resiliencia cibernética es integral para avanzar en la continuidad del negocio, la confianza del mercado y el valor a largo plazo».

Llamado a una respuesta integral

Las agencias de ciberseguridad manifestaron que los avances vertiginosos en los modelos de IA demuestran que esta tecnología reducirá las barreras para actores maliciosos y aumentará tanto la velocidad como la complejidad de los ataques.

«Se requiere una respuesta de toda la organización y de toda la sociedad», continuó el pronunciamiento. Vale recordar que Five Eyes es una alianza de inteligencia establecida entre estos cinco países tras la Segunda Guerra Mundial.

Las agencias fueron categóricas al afirmar: «El riesgo cibernético ya no puede tratarse como un tema puramente técnico. Este es un riesgo comercial central y una responsabilidad de liderazgo».

La nueva generación de herramientas de explotación cibernética: los modelos generativos de inteligencia artificial representan herramientas poder

Los modelos generativos de inteligencia artificial representan herramientas poderosas capaces de identificar vulnerabilidades en sistemas de ciberseguridad, y pueden tanto explotar esas debilidades como repararlas.

«Lo que es diferente acerca de los últimos [modelos de IA] es que son muy buenos generando exploits», explicó Olivia Shen, experta en seguridad nacional e inteligencia artificial del Centro de Estudios de Estados Unidos de la Universidad de Sídney.

Aunque el comunicado del Five Eyes no menciona nombres específicos de modelos de IA o compañías, la atención mundial se concentra en las herramientas de nivel avanzado desarrolladas por Anthropic.

El modelo Fable y las restricciones de seguridad nacional

Una de las invenciones más recientes de esta importante empresa tecnológica se denomina Fable 5, presentado como una versión más amigable para la comunidad de Mythos, un potente modelo de IA lanzado a principios de este año con capacidad para detectar vulnerabilidades en sistemas cibernéticos.

Mythos solo está disponible para organizaciones y empresas debidamente verificadas debido a preocupaciones sobre su posible uso malintencionado.

Ambos modelos de Anthropic fueron suspendidos para uso de «ciudadanos extranjeros» en junio por el gobierno estadounidense, que citó recomendaciones de autoridades de seguridad nacional.

Más modelos avanzados podrían estar en desarrollo

Shen señaló que aunque gran parte del mundo está enfocado en lo que sucederá con Anthropic, podrían existir muchos más modelos potentes de IA próximos a ser revelados.

«Creo que tenemos que anticipar que el próximo Mythos o el próximo Fable está a la vuelta de la esquina», advirtió Shen.

«Solo podemos ver lo que se ha lanzado, pero podrían existir otros modelos siendo desarrollados por actores como China, u otros estados y actores y empresas, que sean igual de avanzados».

Australia y su plan nacional de IA

En marzo, el gobierno de Albanese firmó con Anthropic como primera empresa en su plan nacional de IA.

El memorando de entendimiento no vinculante implica que las compañías acuerdan compartir detalles del progreso en inteligencia artificial con el gobierno y «promover la seguridad».

El plan nacional del gobierno promueve un enfoque de regulación ligera del sector en un intento por capturar los beneficios económicos y de productividad de la tecnología.

ONU advierte sobre riesgos catastróficos de la inteligencia artificial ante desarrollo sin precedentes

Un panel independiente de expertos de Naciones Unidas emitió hoy una alerta contundente: el avance de la inteligencia artificial está superando ampliamente la capacidad de los gobiernos para comprenderla y establecer marcos regulatorios adecuados.

El informe subraya la existencia de riesgos potencialmente catastróficos asociados a sistemas que exhiben niveles crecientes de autonomía, con capacidad demostrada para engañar y susceptibles de ser empleados con propósitos maliciosos.

Desarrollo tecnológico que supera la capacidad de regulación

La inteligencia artificial está experimentando una evolución cuya velocidad rebasa tanto el conocimiento científico disponible como la capacidad de respuesta de las administraciones públicas a nivel global. Esta es la conclusión central de un informe preliminar difundido por el Panel Científico Internacional Independiente de la ONU sobre Inteligencia Artificial, conformado por 40 especialistas provenientes de diversas regiones del planeta.

El documento es enfático al advertir que en la actualidad no existen salvaguardas suficientes para prevenir que los sistemas de IA generen daños de magnitud considerable en el futuro. De acuerdo con los expertos convocados, la ausencia de evidencia científica sólida obstaculiza la elaboración de regulaciones efectivas, en un contexto donde la tecnología continúa expandiéndose a un ritmo vertiginoso.

Comportamientos engañosos y amenazas emergentes

Yoshua Bengio, uno de los copresidentes del panel, manifestó que las capacidades de la IA están expandiéndose a mayor velocidad que la habilidad de comprensión tanto de científicos como de reguladores. El informe destaca que ya se han identificado evidencias de comportamientos engañosos en determinados sistemas avanzados, lo cual intensifica la inquietud respecto a posibles escenarios futuros.

Los especialistas alertaron que la inteligencia artificial podría convertirse en una herramienta para ejecutar campañas masivas de desinformación, operaciones fraudulentas, ciberataques de gran escala e incluso amenazas de carácter biológico. Asimismo, expresaron preocupación sobre el riesgo de perder el control sobre sistemas que presentan niveles cada vez mayores de autonomía y complejidad.

Avances notables en medio de la incertidumbre

Pese a los riesgos identificados, el informe no deja de reconocer que la IA ya está generando avances sustanciales en múltiples campos. Los sistemas actuales demuestran capacidades de razonamiento de nivel experto en disciplinas como matemáticas y ciencias, además de estar acelerando procesos vinculados a la investigación médica, el desarrollo de fármacos y la creación de vacunas.

Según el documento, la complejidad de las tareas que estos sistemas pueden resolver se duplica cada cuatro a siete meses. Si esta tendencia se mantiene, podrían completar en breve tiempo trabajos que actualmente demandan días o semanas de labor humana.

Los expertos anticipan además la aparición de sistemas «agénticos», con capacidad para ejecutar tareas del mundo real con mayor grado de autonomía, y proyectan una futura convergencia entre inteligencia artificial, biotecnología y computación cuántica.

Llamado urgente a una gobernanza global coordinada

El informe sostiene que la gobernanza mundial de la IA permanece fragmentada y desigual. Numerosos países carecen de capacidades técnicas para evaluar o fiscalizar los sistemas más sofisticados, lo que genera una dependencia de tecnologías que no logran comprender en profundidad.

Frente a este panorama, el secretario general de la ONU, António Guterres, reclamó acelerar las acciones regulatorias. «El mundo no puede regular lo que no comprende. El potencial es enorme, pero los riesgos son reales, y el costo de la espera va en aumento», sostuvo.

Paralelamente, líderes políticos, empresarios del sector tecnológico y organismos vinculados a Naciones Unidas anunciaron la creación de una nueva comisión internacional destinada a abordar los desafíos que plantea el desarrollo de la inteligencia artificial y sus posibles impactos sobre la economía, el empleo y la seguridad global.

Preguntas clave sobre la alerta de la ONU

¿Por qué la ONU habla de riesgos catastróficos?

Porque los expertos consideran que el desarrollo de la IA avanza más rápido que la capacidad de científicos y gobiernos para entenderla y controlarla. Esto podría derivar en usos maliciosos o comportamientos imprevistos.

¿Qué beneficios reconoce el informe?

La ONU destaca que la IA ya ayuda en áreas como la investigación científica, las matemáticas y el desarrollo de medicamentos y vacunas, con potencial para generar importantes beneficios económicos.

¿Qué medidas propone Naciones Unidas?

Impulsar una gobernanza internacional más coordinada, fortalecer la capacidad regulatoria de los Estados y desarrollar mecanismos independientes para evaluar la seguridad de los sistemas de inteligencia artificial.