La tensión entre lo público y lo privado también aparece al discutir qué corresponde regular al Estado y hasta dónde puede actuar el sector privado sin restricciones. Típicamente imaginamos a estos actores dentro de un binario moral en donde el Estado debe intervenir en los impulsos capitalistas de las empresas para evitar abusos contra la sociedad, como sucede con las prácticas monopólicas. Sin embargo, ahora estamos ante un escenario que no obedece a esa lógica.
Aunque personas de distintos sectores llevan años advirtiendo de los riesgos del desarrollo desenfrenado de la inteligencia artificial (IA), estos gritos se han topado con pared frente a una audiencia que se rehúsa a atender el llamado. Pero, recientemente, la advertencia cobró fuerza dentro de la propia industria.
El potencial peligro de la IA volvió a discutirse cuando un investigador de Anthropic –desarrollador de Claude– hizo una publicación al respecto después de haber presentado su renuncia. Pero éste no es un caso aislado. El director ejecutivo de la misma empresa, Dario Amodei, llamó a una desaceleración del desarrollo de estas herramientas. A pesar de ser rivales en el mercado, directivos de OpenAI y xAI expresaron apoyo a distintos aspectos de la propuesta.
Aunque hay coincidencias dentro del sector sobre los riesgos de seguir bajo un esquema de desarrollo poco regulado y sin supervisión vinculante de la IA, el eslabón que hace falta para llevarlo a la realidad es voluntad política. Se requiere un liderazgo internacional para que la iniciativa trascienda fronteras. Pero mientras el presidente de Estados Unidos, Donald Trump, insista en priorizar la carrera de la IA frente a China, la desaceleración no se vislumbra en el futuro cercano.
Algunas personas involucradas en su desarrollo incluso advierten sobre riesgos extremos para la humanidad, aunque sus estimaciones son materia de debate. Más allá de los retos actuales que presenta la IA –noticias falsas, alucinaciones, imágenes íntimas falsas creadas sin consentimiento–, el miedo reside en cuestiones más profundas y técnicas.
En diversos estudios controlados se han observado conductas inesperadas de la IA. Se han documentado, por ejemplo, ataques coordinados de agentes de IA para llevar a cabo ciberataques no solicitados por una persona. En el momento en el que las personas dejemos de tener control sobre la tecnología y ésta sobrepase los niveles de inteligencia humana, es ahí cuando podrían materializarse algunos de los riesgos que hoy se advierten.
La propuesta resulta intuitiva: desacelerar el desarrollo de la IA para dar paso a procesos de regulación y pruebas que permitan que solo aquellos sistemas que superen evaluaciones de seguridad salgan al mercado. En un entorno que va a prisa y con presiones geopolíticas abrumadoras, esto no podrá ocurrir sin intervención estatal y coordinación internacional.
El entrelazamiento de estas noticias no ocurre alejado del ámbito político-electoral en lo amplio. Las fakes news y deepfakes son cuestiones que poco a poco hemos entendido y atendido durante los procesos electorales. Pero el análisis más profundo de cuestiones como candidaturas IA en boletas –recordando el caso de Gaitana en las últimas elecciones legislativas de Colombia– o gabinetes con integrantes IA –a propósito de Diella, nombrada ministra en Albania el año pasado– no ha recibido su justa atención. Poco a poco, la IA se infiltra de forma directa o indirecta en nuestros gobiernos y en cómo la ciudadanía es representada, pero la voluntad de regular no termina de permear en nuestras legislaciones.
El movimiento pendular de la historia reciente nos sigue recordando los peligros de olvidar. Mientras hace unas décadas la competencia se disputaba entre las estrellas, ahora la carrera es en otros algoritmos. Más cerca; más silenciosa.
Dra. Amalia Pulido Gómez
Consejera Presidenta del Instituto Electoral del Estado de México