Opinión — Uno de los temas más debatidos en la academia y en la opinión pública son los efectos de la incorporación de la inteligencia artificial (IA) a la gestión pública y sus afectaciones a los derechos de las personas. Todas las semanas se organizan foros donde expertos abordan con seriedad, profundidad y preocupación “la invasión” de los algoritmos en los procesos decisorios y en la operación de las administraciones públicas, los jueces y los legisladores.
Un aspecto no menos relevante es el uso de la IA en la enseñanza del derecho y, en general en todas las disciplinas científicas, tecnológicas y de humanidades, en la que hay una ingente necesidad de cambiar radicalmente los métodos didácticos para evitar que los estudiantes la utilicen como una trampa falsa, una huida del trabajo académico, y acrediten materias sin haber adquirido las competencias, las habilidades y las capacidades buscadas por los programas de estudio.
La preocupación es genuina, pero el debate todavía es muy intuitivo y enmarcado en el paradigma de los valores y explicaciones propios del modelo previo a la expansión de la IA generativa, que es capaz de crear contenido original a partir de patrones aprendidos de grandes volúmenes de datos, que se distingue de la IA vinculada con la ofimática (Windows, Word, Excel, Outlook, entre otros) la automatización de procesos y los sistemas informáticos de gestión organizacional, privados y públicos.
La IA generativa debe analizarse desde una perspectiva que supere los principios fundamentales de respeto a los derechos vinculados con la buena administración. En ese sentido, la automatización de procesos se rige bajo los mismos criterios de la actuación administrativa correcta que se establecen, por ejemplo, en la Ley General de Responsabilidades Administrativas que en su artículo 7 establece que todo servidor público de respetar principios de austeridad, disciplina, legalidad, objetividad, profesionalismo, honradez, lealtad, imparcialidad, integridad, rendición de cuentas, eficacia, eficiencia y racionalidad en el uso de los recursos públicos, así como los derechos humanos. Bajo esta lógica, un procedimiento automatizado debe respetar el derecho de audiencia como cualquier otro no digital, so pena que el resultado sea inválido y, en su caso, declarado nulo por una autoridad. En este caso, estamos frente a un mal diseño informático y no un defecto propio de la inteligencia artificial.
La IA generativa abre retos diferentes a los que comparte con las otras expresiones de la IA y, por lo tanto, plantea preguntas diferentes para evitar vulneración de derechos, que sólo son posibles por su rasgo esencial, que es la creación de contenidos con base en algoritmos matemáticos que permiten el machine learning y la generación de modelos predictivos que aportan posibles soluciones a un problema jurídico planteado sin la intervención directa de la persona que la utiliza.
En la creación de contenidos con IA es donde se centran los avances de la investigación y debate en el derecho público, en sus tres expresiones, la jurisdiccional, la legislativa y la administrativa, para identificar los sesgos cognoscitivos (transparencia y no discriminación) y exigir la huella humana en los procesos decisorios o en aquellos que afectan directamente los derechos de las personas. Es obvio jurídicamente que cualquier tipo de IA debe respetar los principios de actuación de una autoridad del Estado de derecho.
La IA generativa amplia el potencial protector de derechos de las personas que interactúan con una administración. En el modelo administrativo que no recurre a ella, no es posible conocer más allá de la motivación, los sesgos cognitivos de los servidores públicos al tomar una decisión y esta varía entre oficina y oficina quedan ocultos y es imposible conocer los razonamientos que condujeron a la resolución, ni identificar si estos son discriminatorios.
En contraste, el uso de procesos automatizados de toma de decisiones (creación de contenidos por IA) si es posible exigir la transparencia, la racionalización (explicabilidad), auditabilidad, trazabilidad y rendición de cuentas más allá de la motivación, que es una operación lógica de subsumir un hecho en una hipótesis normativa, por lo tanto, aumenta significativamente el derecho a no ser discriminado en una actuación judicial. Aquí es donde debe centrarse la investigación y el debate jurídicos.
Además, la huella humana debe ser evidente para poder atribuir responsabilidades en forma correcta. Esto no es novedoso, ya que la misma obligación existe en la supervisión de un subordinado y la revisión de un producto de la ofimática. Las organizaciones, el servidor público, el litigante, el juez, el investigador o el estudiante son responsables en última instancia del resultado de la IA generativa cuando es parte de su labor o actuación.
La IA generativa abre la posibilidad de conocer, reconstruir y exigir la toma de decisiones a partir de disponer del código fuente y de atribuir responsabilidad a una persona con mayor precisión que en los procesos no digitales. Esto, sin duda, es un avance que debemos que sea efectivo para que las autoridades sean más transparentes.
Investigador del Instituto Mexicano de Estudios Estratégicos en Seguridad y Defensa Nacionales y del Sistema Nacional de Investigadoras e Investigadores
cmatutegonzalez@gmail.com
Facebook.com/cmatutegonzalez
X @cmatutegonzalez
www.carlosmatute.com
La Crónica de Hoy 2026