Cronomicón

Segunda parte: Neutralidad, sesgos y poder tecnocrático, la necesidad de un control ético y moral de la IA

Magnifica Humanitas: la respuesta del Papa a los desafíos de la cuarta revolución industrial, la revolución digital, la revolución de la IA

UdeG / Letras ReBuscadas

La IA es un poder transformador, eficaz y algunas veces sigiloso. Su influencia constante e imperceptible recuerda el experimento, con toques de fábula, de la rana de laboratorio. Una rana fue colocada en una olla con agua que calentaron los científicos muy gradualmente hasta que, después de un largo rato, empezó a hervir y terminó cociendo y matando al anfibio. Algo parecido nos puede ocurrir con nuestra sobreexposición constante y dependencia de la IA.

Pero no nos pongamos fatalistas; en nosotros está crear las normativas, estipular las reglas, disciplinar las conciencias y voluntades para hacer un uso inteligente y civilizado de la IA, y más sabiendo, como lo previene el Papa León XIV, que esta tecnología en particular puede ser utilizada como un instrumento de control social, manipulación mercadológica y de imposición ideológica.

Los servidores, esos complejos hardware cuyo entramado de procesadores les da “vida” a ChatGPT, Gemini, Grok, Copilot…, no solo consumen electricidad que los sobrecalienta, sino que, además, requieren, por este mismo factor, grandes cantidades de agua para su enfriamiento: una imagen creada con IA puede llegar a consumir hasta cinco litros de agua. Son costosos los “juguetes” del que llamaremos homo algorithmus, y valdría preguntarse: ¿son prestados o debemos pagar su arrendamiento?

Los verdaderos dueños de la IA, las grandes trasnacionales del mundo digital como Anthropic, OpenAI, Google, Microsoft…, no tienen como meta la filantropía. No le rinden con sus ciberenegocios un servicio a la humanidad. Lo suyo es una apuesta económica: crean y administran un servicio del que esperan que te vuelvas adictivamente dependiente y por cuyo uso estés dispuesto a pagar una renta. Este sería el menos pernicioso de los escenarios.

Papa León XIV

El Papa León XIV advierte al respecto que: «La inteligencia artificial no es neutral; sus desarrollos pueden aumentar la justicia o ampliar las desigualdades, el control y la exclusión.» (Papa León XIV, 2026, Cap. 3).

La IA no es neutral y solo da la falsa impresión de explayar en sus algoritmos cierta objetividad cuando, en el fondo, privilegia en su elección las posiciones ideológicas de sus diseñadores.

El algoritmo no fomenta la comunicación; más bien, la sesga. Su intención es mantenerte ávido de contenidos, que caigas en la hipnosis del scrollear o del pasar de una notificación a otra con tu dedo en breves segundos.

Revisar sin profundizar, solo recibiendo instantáneos flechazos de información, de manera acrítica, muchas de las veces por mera afirmación consentida por el algoritmo al enviarte solo contenidos que refuerzan tu opinión y simpatía, cercándote en un feudo digital que te blinda contra disonancias y contrapuntos. No tienes punto de contraste ni divergencias en esa burbuja algorítmica.

Entregamos, sin preocupación, el dato de nuestras elecciones y envíos digitales… nos volvemos reconocibles y localizables por elección para los poderes que controlan las redes, los algoritmos y la IA, que velan únicamente por sus intereses corporativos o políticos.

De allí que, como dice León XIV: «Es preciso desenmascarar los nuevos monopolios que concentran el poder tecnológico en manos privadas, haciendo más difícil su orientación al bien común.» (Papa León XIV, 2026, Cap. 3).

Como lo anunció Giovanni Sartori con la tecnología analógica, cuya reina era la televisión, el control teledirigido de los dueños del mercado o del Estado tenía una resonancia masificante. La masa de individuos, como un rebaño atento al video, aceptaba las directrices y el adoctrinamiento de los monopolizadores del poder mediático.

Con la era digital y la hegemonía del paradigma tecnocrático, el control se ha vuelto más personalizado: del individuo con la máquina —y detrás de ella, su controlador—, bajo las reglas y dinámica de una relación biunívoca, se experimenta de parte de los usuarios una falsa sensación de libertad cuando, en realidad, la sobresaturación de información logra la enajenación de las conciencias y voluntades de los atomizados públicos del Internet y usuarios de la IA.

El Papa hace el llamado urgente: «Debemos impedir que la tecnología ejerza un dominio absoluto sobre lo humano». (Papa León XIV, 2026, Cap. 3).

La IA tiene que ser desarmada y sometida a directrices éticas y morales, bajo un control público que impida que sirva solo a los intereses de una minoría plutocrática y tecnocrática; es decir, a los grandes empresarios de las cibertencologías. (Papa León XIV, 2026, Cap. 3).

En este orden de ideas, como propone Mark Zuckerberg, el dueño de Meta y, con ella, de Facebook, Instagram, WhatsApp…, es necesaria la democratización de la IA y, para esto, es obligado romper el monopolio que tienen sobre ella unos pocos, sin omitir la necesidad de eficientar la tecnología para que los dispositivos informáticos personales la puedan albergar. Un reto que está más que al alcance de la humanidad presente.

Un acceso generalizado, igualitario y justo a las tecnologías digitales demanda no solo mejoras y avances tecnológicos, sino también de un sentido humanista que sea capaz de ir a contracorriente de la lógica de los negocios y que imponga marcos de transparencia y regulación internacional que favorezcan a los más vulnerables. Una cibertencología con sentido humano necesitará del diálogo abierto entre la teología, las ciencias humanas y la industria. (Papa León XIV, 2026, Cap. 4).

La Doctrina Social de la Iglesia, en sus fundamentos teológicos, filosóficos, antropológicos…, enseña que los bienes de la creación deben ser medios, instrumentos destinados para alcanzar la trascendencia, la salvación. El Papa León XIV añadirá que: «El destino universal de los bienes alcanza hoy a los bienes inmateriales y tecnológicos: algoritmos, patentes, datos y plataformas.» (Papa León XIV, 2026, Cap. 2).

Lo más relevante en México