La evolución tan rápida de la IA se puede observar en aplicaciones como ChatGPT, que alcanzó cien millones de usuarios en sólo dos meses. “La inteligencia artificial moderna es un tipo de tecnología que ha cautivado a un gran número de personas en poco tiempo. Hasta ahora ha sido más rápido su avance que la formulación de políticas que impidan su mal uso”, sostuvo Carlos A. Coello Coello, miembro de El Colegio Nacional, al impartir la conferencia Oportunidades, riesgos y repercusiones de la inteligencia artificial, como parte del ciclo Miedos, mitos y verdades de la computación.
El ingeniero catedrático recordó que en 2025 la Organización de las Naciones Unidas (ONU) creó un panel internacional independiente, es decir, que no estuviera sujeto a los intereses de las empresas y los gobiernos, y que sirviera como el primer grupo científico global sobre inteligencia artificial. Su labor era dar información objetiva a los países que integran la ONU sobre las oportunidades, los riesgos y los impactos de la inteligencia artificial.
El panel se estableció a principios de 2026 y estuvo integrado por 40 miembros, 19 mujeres y 21 hombres, que se seleccionaron de entre más de 2 mil 600 solicitudes recibidas de 140 países. El colegiado Carlos A. Coello Coello fue elegido representante de México. En febrero de este año, el panel presentó el Informe preliminar del Panel Científico Internacional Independiente sobre Inteligencia Artificial.
De acuerdo con el computólogo mexicano, el documento define a la inteligencia artificial como una tecnología transformadora y un blanco de movimiento. “Los sistemas de inteligencia artificial son capaces de percibir, de aprender y de actuar. Infieren, a partir de sus entradas, la forma de generar salidas tales como predicciones, contenido, recomendaciones, acciones y decisiones, con diferentes grados de autonomía y adaptabilidad. Lo que tienen común es que son capaces de aprender de la experiencia presentada por los datos, que puede tomar forma como textos, datos y códigos”.
Agregó que mucho del debate actual en torno a la IA se centra en lo que el informe llama modelos fundacionales. Un término utilizado en la inteligencia artificial de propósito general que “se define por su capacidad de realizar una amplia variedad de tareas al mismo tiempo, por lo tanto, medir su desempeño es mucho más complejo”.
“El problema viene en el desarrollo de sistemas de propósito general, que por su naturaleza tienen que diseñarse para que sean más autónomos, por lo que son más difíciles de controlar. Eso es parte de los desafíos de los que se habla en el reporte sobre la gobernanza”. Coello Coello explicó que la gobernanza se refiere a poder controlar los alcances o el tipo de salida que producen estos sistemas.
Entre los riesgos de la IA que menciona el informe y retoma el colegiado se encuentran, que es la primera tecnología en afectar directamente el trabajo cognitivo y creativo, incluyendo aspectos como la escritura. “Me refiero a la gente que escribe libros, novelas, cuentos o ensayos. Afecta la programación, que es otra tarea que requiere de conocimiento y habilidades muy particulares de los humanos y otras cosas como el análisis legal, el diagnóstico médico, y el descubrimiento científico”.
Además, estos sistemas pueden generar información falsa, que suena real, porque está muy bien redactada y se acompaña de datos que parecen ser duros, pero posiblemente no lo sean. “Los modelos grandes de lenguaje pueden presentar estas alucinaciones que son interpretadas como hechos en los que las personas confían ciegamente. Lo cual acarrea un riesgo importante”.
En palabras del especialista, el informe pone como ejemplo que actualmente la IA se está usando en sistemas de salud alrededor del mundo y se le considera una herramienta valiosa para sintetizar información. “Pero también hay mucha gente que hace uso incorrecto de estos sistemas, sabe que actualmente una de cada cuatro conversaciones de humanos con inteligencia artificial, como ChatGPT, se relacionan con cuestiones de salud. Eso no es bueno, porque mucha gente consulta estos sistemas para diagnosticar enfermedades como si se tratara de un médico. No son un médico, son un programa de computadora y está sujeto a errores”.
Para el experto en ciencias computacionales, la gobernanza de los sistemas actuales se ha desarrollado de manera desordenada a nivel internacional, “sin políticas claras de manejo de riesgos y con legislaciones que de un país a otro pueden resultar contradictorias”. Los retos también implican que los sistemas de IA pueden memorizar soluciones a pruebas que estén disponibles públicamente, lo que significa que cada vez hay más pruebas que son demasiado fáciles para ellos. “Al ser más inteligentes se vuelve más difícil evaluarlos”.
A los anteriores se suma la complejidad de que ahora la información es simétrica, es decir, que los desarrolladores de las empresas privadas como Open AI son los únicos con acceso a los datos de sus sistemas de inteligencia artificial. “Muchos de estos sistemas tienen una arquitectura cerrada y nadie más que ellos saben exactamente cómo fueron entrenados. Lo que llaman los pesos cerrados”.
El mercado de la IA
El colegiado mostró que la cadena de suministro de la IA avanzada consta de múltiples etapas y presenta una concentración muy elevada de mercado. “Existe un único proveedor en cada continente que acapara el 80% del mercado mundial, ASML en Países Bajos; TSMC en Asia Oriental, en Taiwán; y Nvidia, en los Estados Unidos. “En 2025, las instituciones con sede en los Estados Unidos produjeron 59 modelos de IA destacados frente a 35 de China y apenas 13 en el resto del todos los demás países”.
Geográficamente hay dos jugadores, Estados Unidos que actualmente concentra el 75% del poder de cómputo; China con un 15% y “ya todo lo del resto del mundo tiene el otro 10%, pero repartido”. Coello Coello subrayó que los sistemas actuales de IA reflejan sólo una porción limitada de la diversidad lingüística y cultural del mundo y dejan fuera a una gran parte de la población mundial.
Sostuvo que es necesario hacer inversiones de forma más proactiva y al mismo tiempo el llamado al sur global, al que pertenece México, es desproporcionadamente vulnerable a los riesgos derivados del uso indebido de la IA debido a la poca resiliencia y capacidad de mitigación que existe en estos países a nivel local. “No existen los recursos económicos para establecer regulaciones”, concluyó”.
La conferencia Oportunidades, riesgos y repercusiones de la inteligencia artificial, se encuentra disponible en el Canal de YouTube de la institución: elcolegionacionalmx.