En la Cumbre Internacional de Inteligencia Artificial celebrada en Dublín el 14 de octubre, Demis Hassabis —cofundador y director de Google DeepMind—, reiteró la importancia de reforzar la seguridad de los sistemas IA y corregir las vulnerabilidades; “hay mucho trabajo por hacer”, afirmó.
La advertencia surge tras ataques de piratería informática por parte de agentes de IA autónomos. A pesar de haber especificado que dichos incidentes no causaron daños importantes, advirtió a la audiencia que la situación podría cambiar a medida que avancen las capacidades de la Inteligencia Artificial.
Demis Hassabis advierte riesgos de la IA: una tecnología de “doble filo” que debe reforzar su seguridad
Hassabis, quien también es científico jefe de Alphabet, la empresa matriz de Google, participó en la Cumbre Internacional de IA llevada a cabo en Dublín.
Ante el público, expuso su preocupación respecto a la seguridad de los sistemas de Inteligencia Artificial e hizo un llamamiento tanto a la industria como empresas individuales y a los gobiernos, para esforzarse en la creación de “entornos de prueba seguros para testear estos sistemas antes de su lanzamiento”, resaltando la necesidad —en primer lugar— de armar a los agentes IA defensores.
Al señalar a la herramienta tecnológica como un medio moderno que ofrece “beneficios increíbles”, como el tratamiento de enfermedades, Demis Hassabis también destacó que la IA podría tener “doble propósito” al ser empleada indebidamente por personas malintencionadas.
“Implica un aumento de los riesgos asociados a las acciones de dichos sistemas, como hemos visto recientemente a principios de este año con algunos incidentes de piratería informática”, señaló Hassabis, tomando como ejemplo los casos de ciberdelincuencia que Google reportó en el informe AI Threat Tracker, elaborado por un grupo de personas expertas de la empresa.
El presidente de Google DeepMind aseguró que es necesario “tomarlo en serio e incorporar a expertos de otras áreas”, como sectores biológicos o nucleares que han trabajado con sistemas críticos para la seguridad, con el propósito de aprender sobre sus medidas de contención.
Hasta el momento, ninguno de los incidentes de piratería informática ha representado un daño significativo para los sistemas de IA, sin embargo, Hassabis resaltó que la urgencia para reforzar la seguridad de los agentes está ligada a la evolución de la misma Inteligencia Artificial; a medida que avancen las capacidades de la IA, podrían hacerlo también las aptitudes de la ciberdelincuencia que da uso indebido a la tecnología en cuestión.
Presidente de Google DeepMind solicita regulaciones para la Inteligencia Artificial
A mediados del mes pasado, Bilal Chughtai —exingeniero de Google DeepMind en Singapur— abandonó su puesto en la empresa al reconocer que la Inteligencia Artificial “tiene el potencial de acabar con la humanidad”.
Tras su salida de la empresa, Chughtai realizó un llamado a la coordinación entre las empresas de esta herramienta tecnológica para ralentizar el desarrollo a un ritmo que la sociedad pueda gestionar y abordar los posibles riesgos antes de que causen daños irreversibles.
Por su parte, aunque no mencionó directamente las últimas advertencias realizadas por exinvestigadores de la IA, Demis Hassabis se pronunció a favor de las regulaciones y resaltó la necesidad de leyes que impulsen el equilibrio entre innovación y seguridad.
“Ninguna empresa ni tecnología debería estar por encima de la ley. Pero necesitamos leyes, necesitamos regulaciones. Deben ser sensatas, equilibradas y tener en cuenta las innovaciones”, afirmó, priorizando el refuerzo a la seguridad de la IA sin imponer normas que impidan la investigación.