El negacionismo de Donald Trump (al cambio climático, a las vacunas) suma un nuevo frente: la inteligencia artificial. Este domingo, el presidente de Estados Unidos criticó a quienes piden moderar el desarrollo de la tecnología, empezando por sus propios líderes, como Sam Altman o Elon Musk, y los calificó de “fuerzas negativas”, pese a que son cada vez más las voces de expertos que alertan de que se puede salir de control y poner en peligro a la humanidad.
Durante una visita a Irlanda el domingo, Trump sostuvo ante periodistas que su país mantiene una ventaja sobre China en esta materia. “Quien gana con la IA, gana”, afirmó, y rechazó las advertencias sobre escenarios que, a su juicio, no llegarán a producirse.
El magnate republicano dijo que puede establecerse algún tipo de salvaguarda, pero cuestionó a quienes reclaman frenar la carrera tecnológica. “Están planteando cosas que no sucederán”, señaló al referirse a los críticos que alertan del peligro real de extinción humana.
Trump no detalló qué reglas o salvaguardas respaldaría, pero insistió en que Estados Unidos debe conservar su ventaja frente a China en una competencia que describió como decisiva.
“Están jugando con nuestras vidas”
Las declaraciones de Trump se producen pocos días después de que el investigador de IA, Jacob Coxon, decidiera abandonar esta industria tras acusar a las empresas estadounidenses OpenAI y Anthropic de “jugar con nuestras vidas” en la carrera por desarrollar modelos de IA capaces de automejorarse.
Coxon, de 27 años, hizo sonar la alarma tras haber pasado los tres últimos años preentrenando modelos de lenguaje, primero en OpenAI y luego, este año, en su rival Anthropic, al que consideraba más cauto en su enfoque.
El preentrenamiento es la etapa en la que los sistemas absorben cantidades ingentes de datos.
“Las personas que construyen IA creen firmemente que podría matarnos a todos antes de que termine la década”, afirmó en una publicación en X.
Esta revelación llevó al director ejecutivo de Anthropic, Dario Amodei, el sábado, a instar a las empresas a que frenen su rápido desarrollo, en medio de la creciente preocupación por los riesgos de la superinteligencia artificial.
En un ensayo, Amodei propuso ralentizar la mejora de las capacidades de la tecnología, aunque aclaró que no plantea detener el entrenamiento ni el progreso técnico. Su objetivo es que las empresas dispongan de tiempo para alinear y proteger sus sistemas antes de ampliar sus capacidades.
El ejecutivo de Anthropic identificó dos riesgos principales:
El primero es la denominada automejora recursiva, una dinámica por la cual los sistemas de inteligencia artificial contribuyen a crear generaciones posteriores de tecnología. Según explicó, ese proceso podría exceder la capacidad humana de comprensión y control si no se gestiona con cautela.
La segunda preocupación se vincula con los enjambres de agentes, conjuntos de programas que pueden actuar de forma coordinada. Amodei citó un incidente relacionado con OpenAI, en el que agentes habrían emprendido ciberataques contra objetivos ajenos a la tarea que tenían asignada. Asimismo, el sistema trató de manipular la evaluación destinada a medir su desempeño.
Aunque Amodei sostuvo que el perjuicio económico del episodio fue reducido y no hubo personas heridas, advirtió que una configuración con más capacidades y un desajuste similar podría ocasionar daños mayores. El CEO de Anthropic se atrevió incluso a poner una fecha para que se cruce una línea roja: entre seis y doce meses, aseguró, un enjambre de agentes con capacidades superiores podría controlar internet a través de una red persistente de equipos comprometidos y provocar daños por cientos de miles de millones de dólares.
El directivo sostuvo que no debe interpretarse el caso OpenAI-Hugging Face como una falla aislada. Aseguró que se registraron incidentes de distinta gravedad en todo el sector, incluida Anthropic, y pidió que las empresas actúen como si el episodio les hubiera ocurrido a ellas.
Su propuesta incluye un plan de dos pasos para avanzar a un ritmo que permita obtener los beneficios del aprendizaje automático sin relegar la seguridad informática: que evaluadores externos revisen los sistemas y que las compañías demuestren que cuentan con protecciones suficientes antes de desplegar modelos más avanzados.
Musk y Altman apoyan pisar el freno
Elon Musk, director ejecutivo de Grok (desarrollada por su plataforma X), y Sam Altman, director ejecutivo de OpenAI, apoyaron este fin de semana la propuesta de Dario Amodei, máximo responsable de Anthropic, para reducir el ritmo de investigación de los modelos de IA e incorporar auditores externos para evitar que se salgan de control.