El dilema ético en la era de la tecnología abierta y la inteligencia artificial

La tecnología abierta se refiere a la filosofía de que el conocimiento y la información deben ser compartidos libre y accesiblemente para todos, con el fin de fomentar la innovación y el progreso. La apertura de la tecnología libre y abierta es un pilar fundamental para el desarrollo tecnológico de los países, tanto en el sector público como en el privado. Sin embargo, el desarrollo tecnológico y su accesibilidad inherente, nos lleva a tener que considerar el surgimiento de nuevos dilemas éticos en el campo de su ejercicio.

Los dilemas éticos ocurren cuando dos principios morales entran en conflicto sin que ninguno de ellos se anule mutuamente. Es decir, que poseen la misma fuerza o las razones éticas suficientes para no elegir uno sobre el otro.

Un ejemplo de este tipo de dilema, data de la era antigua, en tiempos de Platón, filósofo griego que planteaba hipotéticamente la situación en la que una persona ha prometido devolver un arma a un amigo, quien a su vez probablemente la utilizará para quitar la vida a alguien. En este escenario, la persona debe cumplir con la promesa que hizo, pero al hacerlo, entra en conflicto con el deber de evitar que se perjudique a otros.

En este sentido la liberación de tecnología abierta nos sitúa en un dilema ético de la era moderna. Por una parte, el acceso de la información tiene múltiples beneficios en los planos individual y social. Sin embargo, también trae sus contradicciones negativas en los mismos niveles.

Por un lado, el no brindar acceso público a tecnologías innovadoras pudiera interpretarse como una acción exclusivista donde el beneficio de dicha tecnología solo sea para un grupo selecto de personas, lo que de manera inmediata limita el impacto potencial que pudiera tener esa tecnología en la sociedad. Adicionalmente se limita el acceso a ese conocimiento y por ende, a la democratización del mismo, lo que pudiera desencadenar en una desaceleración del desarrollo tecnológico y de los ecosistemas de innovación.

Por otra parte, en fechas recientes hemos visto cómo tecnologías innovadoras como el ChatGPT y DALL·E pueden ser utilizadas para fines distintos a los de su concepción. Desde las imágenes del montaje del arresto del expresidente Trump, previo a que esto sucediera, hasta el plagio de tareas en las escuelas y universidades o inclusive, en crímenes de suplantación de identidad para actos ilegales o indebidos.

En alusión a lo anterior, diversas voces y organizaciones han referido que la apertura tecnológica puede, de no atenderse de manera integral su implementación y regulación, mostrar discrepancias de alcances varios, algunos de ellos catastróficos.

Por ejemplo, en días pasados y a razón de los avances alcanzados en materia de Inteligencia Artificial (IA), Elon Musk y otros expertos en este tema como Emad Mostaque, Yoshua Bengio y Steve Wozniak, entre otros, firmaron una carta abierta en la que se plantean los potenciales peligros que representarían los modelos avanzados de IA, por lo que piden pausar el desarrollo de esta inteligencia.

En contraparte, el reconocido tecnólogo Bill Gates, se pronunció en contra de dicha pausa toda vez que, a su consideración, no es el camino adecuado para afrontar los retos que implica el avance de la IA, sino que es preferible conocer de primera mano los beneficios, a la vez que se identifican las áreas complejas que merece la atención debida.

Ambas posturas, opuestas entre sí, permiten apreciar el dilema ético al que referimos, puesto que una no es excluyente de la otra, ambas muestran un argumento razonable y válido.

Lo anterior, permite vislumbrar que la existencia de un dilema ético implica, en el caso del desarrollo y liberación de la IA, la existencia de un mar de huecos legales en los sistemas jurídicos a nivel global, en donde surge el cuestionamiento de cómo se llegó a hacer pública la tecnología sin considerar escenarios en los que existe una potencial afectación colectiva que pudiera, en ciertos casos, causar gran inestabilidad y daños a nuestras sociedades.

La falta de procesos normativos que obliguen a las empresas tecnológicas y a las comunidades abiertas a realizar una debida diligencia con la que evalúen los impactos reales de la tecnología y cómo mitigarlos, continua como una amenaza del desarrollo tecnológico y su coexistencia en la sociedad moderna.

En tenor de lo anterior, no podemos olvidar que la IA es tan inteligente como la programación de sus algoritmos y los patrones de aprendizaje. La IA tiene una fuerte dependencia en los sets de datos y los criterios establecidos para su entrenamiento.

Los ajustes y la perfección de este aprendizaje “artificial” se encuentran vinculados a algo mucho más orgánico como las opiniones, criterios, valores, credos y paradigmas de quienes elaboran los ajustes, por lo que no se puede deslindar, al momento de su programación, la existencia de un sesgo que impacte a profundidad el resultado de toda consulta que realicemos a la Inteligencia Artificial.

Si bien la plataforma de ChatGPT informa a sus usuarios que es un piloto de investigación, no podemos evitar considerar que la apertura de ChatGPT y DALL·E 2 es una manera para que sus desarrolladores obtengan de manera gratuita millones de consultas que se conviertan en muestras y sets de datos para el entrenamiento de su algoritmo, lo que a futuro se convierta en un producto de paga mucho más rentable o con otros fines.

Al final del día, estos planteamientos nos hacen reflexionar sobre las dicotomías que implican el actuar cotidiano; sobre los actos y sus respectivas consecuencias; sobre el principio de acción-reacción; Si nos situamos en un dilema ético, una decisión tomada nos puede llevar a un circulo virtuoso… o a uno vicioso. Como dicta el adagio nada es gratis en la vida.

**El artículo anterior contiene un párrafo elaborado con ChatGPT ¿será que lo pueden identificar?

* Innovador y Director Ejecutivo del INFOTEC