El pasado martes 8 de septiembre, excolaboradores y empleados actuales del sector alertaron que la evolución desmedida de la inteligencia artificial podría representar una amenaza directa para la raza humana antes de que concluya esta década.
La advertencia cobró mayor fuerza tras hacerse pública la renuncia de Jacob Coxon, exinvestigador de la firma Anthropic, quien decidió dejar su puesto ante la falta de responsabilidad por los sistemas de IA en el sector.
¿Quién es Jacob Coxon y por qué renunció a Anthropic?
Jacob Coxon, quien decidió abandonar por completo a Anthropic, trabajó durante los últimos tres años en el preentrenamiento de modelos de frontera tanto en OpenAI como en Anthropic.
Tras su trayectoria en ambas empresas, concluyó que ninguna de las compañías está actuando con la responsabilidad para mitigar los riesgos en la carrera por construir una superinteligencia capaz de rediseñarse a sí misma.
¿Cuál es la amenaza de la inteligencia artificial que advierte Jacob Coxon?
A través de una publicación en su cuenta de X, Coxon afirmó que la compañía dirigida por Dario Amodei y OpenAI están jugando con las vidas humanas solo por la prisa de acelerar el avance tecnológico.
El investigador instó al público a no subestimar la capacidad de los futuros sistemas de IA, señalando que podrían superar a las capacidades humanas en múltiples áreas, adquiriendo habilidades para ciberataques, investigación científica sin supervisión y toma de decisiones en el mundo.
“No es una estrategia de marketing. De hecho, muchos ejecutivos e investigadores sénior suavizan sus declaraciones en la prensa para parecer sensatos, pero en privado oigo a esas mismas personas expresar su temor. Ninguna otra actividad humana representa este nivel de peligro”, manifestó Coxon.
Respaldan la advertencia de Jacob Coxon
Pese a que Anthropic no emitió un comunicado oficial sobre la salida de Coxon, otros líderes técnicos de la empresa confirmaron la validez de los riesgos señalados. Evan Hubinger, líder del área de Alineación de Anthropic, y Samuel Marks, director de la división de Supervisión Escalable, respaldaron la advertencia de Coxon.
Hubinger afirmó públicamente que estima un riesgo superior al 10% de que una inteligencia artificial mal alineada pueda provocar la extinción de la humanidad.
Por su parte, Marks señaló en redes sociales que las empresas continúan avanzando pese al peligro debido a los fuertes incentivos financieros y al temor de que competidores desarrollen estas capacidades primero.
El control sobre la IA
Para el Coxon, el despliegue de sistemas capaces de acelerar su propio desarrollo de forma autónoma no debería ser una decisión exclusiva de empresas privadas. Por ello, propuso una coordinación entre los principales laboratorios de IA en Estados Unidos para limitar voluntariamente el ritmo de desarrollo y, de ser necesario, pausar temporalmente el escalamiento de las capacidades de los modelos.