El consejero delegado de Anthropic, Dario Amodei, advirtió este miércoles ante el Consejo de Seguridad de la ONU de que los riesgos asociados a los modelos más avanzados de inteligencia artificial (IA) constituyen “el problema de seguridad global más importante al que se enfrenta el mundo hoy”, y reclamó una respuesta internacional coordinada.
Durante una reunión de alto nivel sobre la IA y la seguridad internacional, Amodei, que se conectó por videoconferencia, apeló de forma directa a la colaboración entre Estados y el sector tecnológico.
“Ningún líder, ninguna empresa y ninguna nación puede gestionar esto en solitario. Nos comprometemos a trabajar con los Gobiernos en esta sala en este objetivo crucial”, subrayó el fundador de la compañía más avanzada en IA en el campo militar.
El máximo responsable de la compañía tecnológica instó a los líderes mundiales a centrarse con urgencia en los peligros para la estabilidad global y demandó al Consejo de Seguridad respaldar medidas concretas.
Preocupación por las armas biológicas diseñadas con IA
Entre ellas, destacó la prohibición expresa del uso de la IA para la proliferación o fabricación de armas biológicas, así como la implementación de sistemas de evaluación y verificación capaces de avanzar al mismo ritmo vertiginoso del desarrollo técnico.
Asimismo, Amodei solicitó la adopción de estándares globales que permitan evaluar los modelos de IA frente a eventuales pérdidas de control o usos indebidos, junto a un protocolo de notificación obligatoria ante “incidentes significativos para la seguridad global”.
“Iremos tan despacio como sea necesario”
El directivo reconoció que una mayor potencia computacional exigirá requisitos aún más estrictos y aseguró que la industria debe comprometerse con la prudencia.
“Iremos tan despacio como sea necesario para asegurarnos de que cada tecnología de IA sucesiva que lancemos sea de hecho segura”, concluyó.
El tema de la seguridad en la IA se ha situado en el centro del debate internacional ante la posibilidad de que los modelos más avanzados puedan escapar al control humano y llevar a cabo ciberataques, especialmente después de que varias pruebas realizadas con modelos de Anthropic, OpenAI —que también participó en esta sesión del Consejo de Seguridad— y Google mostraran que estos podían escapar de sus entornos de prueba (con información de EFE).