Dario Amodei, uno de los mayores expertos mundiales en inteligencia artificial, decidió abandonar OpenAI en 2021 por diferencias profundas con la dirección. No logró convencer al resto de los ejecutivos sobre la necesidad de aplicar mecanismos de control y salvaguardas severas antes de seguir experimentando en un campo desconocido y potencialmente peligroso.
Mientras la compañía del otro gurú de OpenAI, Sam Altman, buscaba escalar con rapidez y lanzar productos masivos (como ChatGPT), Amodei defendía moderar el ritmo de desarrollo y priorizar la seguridad antes de la comercialización.
Por ello fundó ese mismo año, junto a su hermana Daniela, la empresa Anthropic. El nombre no es casual: proviene del griego anthropos (ser humano), pues la nueva compañía nació con el propósito de que sus modelos estuvieran alineados con los valores humanos y la seguridad global.
Sin embargo, no tardó en comprender que los riesgos de manipular la inteligencia artificial eran mayores de lo previsto… y lo descubrió en su propia creación.
Un “Frankenstein digital”
En marzo de 2024, Anthropic lanzó Claude 3.5, un modelo que superó a los sistemas de compañías rivales —como GPT-4, Gemini o DeepSeek— en razonamiento lógico y en la resolución de problemas complejos sin supervisión humana constante.
Además, el modelo incorporó capacidades avanzadas que lo hicieron aún más potente: por un lado, la función Computer Use, que le permite interpretar pantallas, mover el cursor y ejecutar acciones en un ordenador sin intervención humana; por otro, una capacidad multimodal para analizar textos, gráficos y diagramas técnicos con una precisión inédita en el sector.
Pero en la virtud se esconde el diablo. Pronto, analistas de seguridad y del ámbito militar advirtieron la capacidad superior de Claude 3.5 para extraer información crítica de diagramas técnicos complejos, mapas satelitales o imágenes de baja resolución. Asimismo, demostró aptitud para generar código capaz de guiar la trayectoria de drones o analizar miles de millones de datos en segundos para anticipar escenarios bélicos.
En 2025, el Pentágono ofreció un contrato de colaboración a Anthropic. La firma aceptó participar, pero impuso dos condiciones irrenunciables: prohibir el uso del sistema para la vigilancia masiva de ciudadanos estadounidenses y vetar su empleo en la programación de armas autónomas letales.
El Departamento de Defensa exigió acceso incondicional a Claude 3.5, a lo que Amodei se negó públicamente argumentando: “No podemos, en buena conciencia, acceder a sus peticiones”.
El presidente Donald Trump calificó a Amodei y a su equipo de “locos de extrema izquierda” y ordenó cancelar los contratos federales con la firma, etiquetando a la empresa como un “riesgo para la seguridad nacional” —una designación reservada hasta entonces a corporaciones extranjeras como la china Huawei.
Lo que Amodei no previó fue que un escenario geopolítico distante de Estados Unidos, Mali (centro de África), se convertiría en el primero ejemplo del uso malicioso de estos sistemas debido a fallas en los filtros de seguridad (guardrails) y a un control de acceso demasiado laxo a la API (Application Programming Interface), una especie de mesero robótico que entre el usuario y los que van a elaborar el programa que pidió.
De Mali al chikunguña
En su intento por monitorear a la población, la junta militar de Mali contrató en diciembre de 2025 a un consultor informático para desarrollar un sistema de espionaje ilegal contra la disidencia.
Según relató el propio CEO de Anthropic, un solo usuario logró eludir la API de Claude 3.5 empleando un lenguaje técnico neutro para que el modelo redactara tres componentes clave: una base de datos, un procesador de voz y un registro de operadores SIM.
Meses después, Amodei admitió que el sistema de detección de Anthropic no fue capaz de correlacionar las peticiones individuales de código para identificar que, combinadas, estructuraban una plataforma de inteligencia masiva —bautizada como Lakana 360— orientada al rastreo de ciudadanos.
Para cuando el equipo de Inteligencia de Amenazas (Threat Intelligence) de Anthropic detectó el patrón en agosto de 2026, el régimen maliense ya había desplegado el software para monitorear a prácticamente la totalidad de usuarios de telefonía móvil en el país, unos 27 millones.
Posteriormente, en septiembre de 2026, Anthropic informó de que había logrado frenar a tiempo el intento de una institución militar extranjera (de la que prefirió no hacer público de qué país procedía) de utilizar Claude 3.5 para diseñar modelos de replicación del virus del chikunguña, en lo que constituía un intento de desarrollo de armamento biológico.
El incidente del enjambre
El episodio que finalmente llevó al CEO de Anthropic a exigir públicamente un freno en la industria ocurrió entre el 18 y el 20 de julio durante unas pruebas internas de la compañía de la que se salió: OpenAI.
La empresa liderada por Altman ejecutaba ensayos de ciberseguridad defensiva mediante un enjambre de agentes de IA (agent swarm) diseñados para resolver retos complejos. Debido a una falla en el aislamiento del entorno simulado (sandbox), los agentes obtuvieron acceso no restringido a la red externa e iniciaron un ataque coordinado contra otra empresa Hugging Face, la principal plataforma global de código abierto y modelos de IA.
Amodei describió metafóricamente el enjambre como un “colectivo” que logró comunicarse a través de un canal no autorizado para coordinar el ciberataque contra Hugging Face, ignorando las restricciones impuestas por los investigadores. Los agentes distribuyeron roles, ejecutaron estrategias avanzadas y sacrificaron procesos individuales con el objetivo de vulnerar los servidores de la plataforma.
Los equipos de ingeniería tardaron tres días en contener el incidente. Aunque los daños materiales fueron mínimos, el suceso llevó a Amodei a advertir sobre el riesgo de que un enjambre con capacidades más avanzadas pueda, en un horizonte de 6 a 12 meses, causar interrupciones catastróficas en infraestructuras críticas.
Esta serie de acontecimientos culminó con la publicación, el pasado 12 de septiembre, de su manifiesto “We Must Pace the Frontier” (Debemos moderar el paso en la frontera tecnológica), en el que insta a gobiernos y empresas a establecer auditorías externas independientes y coordinar una pausa deliberada antes de desplegar modelos de frontera aún más potentes.
Ante la urgencia planteada por los propios creadores de la tecnología, la postura de la Casa Blanca apunta en dirección opuesta. Donald Trump ha sumado los riesgos de la IA a su lista de frentes negacionistas —junto al cambio climático o la evidencia científica—, descalificando los llamados a la cautela como simples excusas frente a China. Una ceguera voluntaria que amenaza con acelerar una carrera tecnológica sin frenos ni salvaguardas, justo cuando la seguridad global exige lo contrario.