“Las personas que están construyendo inteligencia artificial creen sinceramente que podría matarnos a todos para finales de la década”, ese fue el tuit de Jacob Coxon que cimbró las redes y medios a inicios de septiembre. El comentario formó parte de un mensaje más largo en la red social X, que ya alcanza casi 27 millones de vistas, donde el ex trabajador de Anthropic y OpenAI alertó sobre la peligrosa velocidad de desarrollo de la IA y la necesidad de regularla antes de que se salga de control por sus propios medios o sea empleada por humanos con fines catastróficos.
Ante los señalamientos sobre la peligrosa velocidad de desarrollo de la IA, realizamos una mesa de análisis y debate con cuatro destacados académicos, Investigadores por México y miembros de SIINTRACATEDRAS, quienes nos ayudan a dimensionar lo ocurrido en las últimas semanas con este tema.
“Coxon advirtió que, de no haber una regulación de la IA, puede constituir un riesgo y generar problemas para la vida social en general”, señala Erick Galán Castro, Investigador por México adscrito a la Universidad Veracruzana (UV), antropólogo y sociólogo. “Entonces, no es algo sólo asociado a algo eminentemente tecnológico, sino que es un signo de nuestro tiempo a nivel social”.
Por su parte, Ramón Aranda, investigador por México del Centro de Investigación en Matemáticas (Cimat) en la Unidad Mérida, agrega que tomó la noticia desde el impacto social que estaba teniendo, mas no desde la alarma que estaba generando. Ya han ocurrido alertas similares en periodos recientes de la historia tecnológica relacionada con la computación, pero es un fenómeno que no se puede analizar desde el miedo, sino desde la información, apunta.
“La IA –como cualquier otro desarrollo tecnológico– es una herramienta dual que se puede usar para el bien o para el mal”, apunta a su vez Carlos Vaquera, físico en la Universidad de Guanajuato, quien pone un poco más en contexto el surgimiento de este temor y alerta. “Pero a diferencia de todas las tecnologías que hemos desarrollado hasta ahora, la IA es la primera que puede autorregularse sin injerencia humana y hacer cosas peligrosas por sí misma”. Muestra de ello es el hackeo de sistemas de seguridad, como el que ha ocurrido en casos como el de Hugging Face, en julio de este año. “Entonces, el riesgo es real”.
Miguel Ángel Álvarez Carmona es Investigador por México en el Cimat, Unidad Monterrey. Su línea principal de investigación es el procesamiento del lenguaje natural, así como diversos proyectos de inteligencia artificial. Para el especialista, no hay que preocuparse por la extinción de la humanidad tan pronto como el fin de la década, pero el fenómeno que está ocurriendo da pauta a debatir sobre la necesidad de tener un marco legal que mantenga el desarrollo de la IA en orden y bajo control.
Pero tampoco es tan fácil “regular” y ya, puesto que, si se ve el panorama desde otros matices como políticos o corporativos, cabe la pregunta: ¿a quién beneficia más esta regulación? A las mismas empresas que lo están pidiendo. “Se dice: piensa mal y acertarás”, apunta Miguel Ángel Álvarez. “No estoy acusando a nadie porque no tengo pruebas, pero una hipótesis es que, parar el desarrollo y regular la IA como está al día de hoy, ¿a quién deja mejor parado? A las empresas grandes y llevan una ventaja gigante. Me parece sospechoso que las voces de ‘por favor vamos a detenernos un poco’ vengan desde dentro de las empresas grandes, desde Anthropic de OpenAI”.
El académico del Cimat añade que una regulación bajo los estándares de las grandes empresas dejaría fuera de la competencia a las de menor tamaño y, en Estados Unidos al menos, se corre el peligro de dejar todo en manos del monopolio de esas grandes corporaciones.
CARRERA TECNOLÓGICA.
Se menciona constantemente en el medio que las grandes empresas están en una carrera por tener la IA que gane el mercado, pero ¿qué significa ser la número uno? Carlos Vaquera explica este anhelo corporativo.
“Estas empresas buscan construir una inteligencia artificial general que se entrene una vez y sirva para todo, una inteligencia equiparable a la de un ser humano que haga las tareas mejor o igual que éste. Tanto las empresas como los gobiernos están metiendo muchísimo dinero en este esfuerzo”.
Anthropic, ejemplifica, es una empresa valorada en novecientos sesenta y cinco mil millones de dólares, pero factura solamente sesenta y cinco mil millones. Adicionalmente, los gobiernos están subsidiando a las empresas porque gastan muchísima energía y agua. Es por ello que, en esta carrera que significa una fuerte inversión hay poco espacio financiero para los segundos y demás lugares atrás.
“En esta carrera hay muchas empresas, OpenAI, Anthropic, la IA de Meta y Gemini de Google…, así como los esfuerzos internacionales, en particular China, pero lo que es claro es que en esta carrera no hay una organización ni directriz mundial; todas las agencias gubernamentales de la actualidad están rebasadas por esta carrera, en tanto que cada vez tenemos inteligencias más poderosas que necesitan una directriz mundial para regularse”.
El problema es que la IA va tan rápido que la regulación misma quizá no la pueda alcanzar en proporción, puesto que ni los mismos expertos pueden seguirle el paso, enfatiza Ramón Aranda. “La realidad es que sí hay que lograr una regulación internacional, el problema es que nos sobrepasa, va tan rápido que nos sobrepasa cómo la entendemos; por ejemplo, los investigadores en inteligencia artificial que trabajamos en el área incluso nos cuesta estar al día con todas las actualizaciones, con los nuevos avances, con los nuevos algoritmos que van teniendo. Entonces, llega el momento en que, si nosotros que estamos metidos al cien por ciento en eso nos cuesta trabajo entenderlo, los encargados de la regulación no estarán en mejor situación”.
Erick Galán Castro expone además que la regulación representa un problema político y ético: el problema sería determinar desde dónde y a qué velocidad. También vale la pena analizar qué políticos están a favor o en contra de estas regulaciones; Donald Trump, por ejemplo, se ha posicionado por la segunda opción. “Qué hay detrás de posicionamiento político de tratar de regular lo menos posible la inteligencia artificial y que ‘florezca’ hasta donde más pueda”.
Del otro lado, añade el antropólogo –quien recientemente ha trabajado en la investigación cualitativa en ciencias sociales y uso de IA–, está China, que ha impuesto mecanismos de control muy estrictos sobre la tecnología, sobre lo que implica, cómo debería conducirse y qué implica en términos de filtraciones de información. A su vez, tiene sus propios sesgos, acota (“no le puedes preguntar hasta ahora a DeepSeek algunos puntos sobre la plaza de Tiananmen, porque te dirá que no lo puede responder”). Entonces, añade, cada quien puede implementar sus propias normativas en términos de gobernanza de la inteligencia artificial, pero utilizarla como un mecanismo de control muy fuerte.
Mejor regulación, responsabilidad y discusión política; combatir la desinformación y miedo en torno a esta, sí, poderosa herramienta; mejorar la educación y gestión de su uso, son algunos de los temas con los que concluyen los Investigadores por México que participaron en este panel de Ciencia por México –que pueden escuchar por completo en nuestro podcast–, y que en este texto cierra con la conclusión de Miguel Ángel, quien enfatiza que no debemos tener miedo a que la IA nos va a conquistar de manera distópica.
“Invito a que nos tranquilicemos, dudo que la IA nos vaya a dominar como lo hemos visto en la ciencia ficción. Eso sí, como dicen mis colegas, debemos de saber utilizarla y sacar lo mejor de ella y recordemos que es una tecnología que, como otras herramientas, son una extensión de las manos y no del cerebro humanos. Si lo hacemos al revés, estamos perdidos”.
*Síguenos en nuestras redes, X, FB, IG y Bsky como Somos Cátedras, así como en nuestro podcast Ciencia por México