Cumbre de Seguridad Global en IA: pasos hacia la tranquilidad del mundo
Un panel internacional de fiscalización y un Instituto de Seguridad, entre las iniciativas acordadas en Reino Unido para aminorar el temor a la nueva tecnología
especial
El primer ministro británico, Rishi Sunak, a su llegada a la cumbre de seguridad sobre IA
La histórica mansión en Bletchley Park, cerca de Milton Keynes, en el Reino Unido, fue durante la Segunda Guerra Mundial un centro de desciframiento de códigos secretos de los nazis. Ahí, matemáticos, criptógrafos y científicos trabajaron clandestinamente para descifrar los mensajes encriptados de las fuerzas alemanas, incluyendo su mítica máquina Enigma. Lo que se descubrió entre esos muros fue fundamental para la inteligencia aliada.
Con la misma esperanza, representantes de distintos gobiernos mundiales se reunieron durante dos días en ese mismo recinto en la primera Cumbre de seguridad global sobre IA, con el fin avanzar en medidas preventivas, calmar las ansias y aminorar el temor acerca de los desafíos y amenazas que presenta la nueva tecnología.
Así, en Bletchley Park se dieron cita EU y China, dos potencias en el desarrollo de la IA, así como la UE y los gobiernos de Alemania, Francia, Italia, Irlanda, Países Bajos y España. También estuvieron representados Brasil, Canadá, India, Israel, Australia, Corea, Japón, Arabia Saudí y Turquía, entre otros. Igualmente asistieron representantes de firmas relevantes en el sector, entre ellas Open AI, Google DeepMind, Anthropic, Meta y Microsoft.
El arranque del encuentro se dio entre voces de alerta. Los países se alinearon en una declaración conjunta advirtiendo sobre consecuencias "catastróficas". 29 firmas se plasmaron en un texto que recalca que es "especialmente urgente" analizar los peligros que presenta esta tecnología y acordar medidas para regular su uso.
Consejo Consultivo de IA: primer paso de la ONU hacia la gobernanza mundial
Panel fiscalizador de expertos
La mayor iniciativa acordada fue la conformación de un panel internacional, inspirado en el Grupo Intergubernamental de Expertos sobre el Cambio Climático (IPCC), que fiscalizará los avances de la IA.
El primer ministro de Reino Unido, Rishi Sunak, detalló que "la comunidad internacional al completo ha estado de acuerdo con esta idea", que cuenta con el respaldo del secretario general de la ONU, António Guterres, que también anduvo por allá.
Los representantesse comprometieron a "nominar expertos" para el panel, que publicará regularmente un informe sobre el estado de desarrollo de la IA. El académico canadiense Yoshua Bengio, miembro del consejo científico asesor de la ONU y premio Turing por su trabajo en redes neuronales profundas, presidirá los trabajos para elaborar ese documento anual.
"Hasta ahora, las únicas personas que probaban la seguridad de los nuevos modelos de IA han sido las propias empresas que los desarrollaban. Eso debe cambiar", afirmó Sunak, que indicó que ahora las autoridades podrán evaluar los sistemas "antes de que sean lanzados".
El que Reino Unido haya sido sede de esta histórica cita no es casualidad. Desde hace años ha mostrado legítima preocupación por los avances y regulación de la IA. Sobretodo, se ha preocupado por su empleo en el sector público. En 2017, encabezó un índice de países como el más preparado para llevar la IA al gobierno, por encima de naciones como EU, Corea y Japón.
Primer Instituto para la Seguridad, en Reino Unido
Por eso es que Reino Unido acogerá el primer Instituto para la seguridad de la IA. Abierto al mundo y en el que se involucrará a las empresas, evaluará cada modelo de IA para determinar "sus riesgos y posibles daños a la sociedad", desde "el sesgo en la información" hasta "otros más extremos".
Su Gobierno destinará 100 millones de libras a la formación de una unidad de trabajo con expertos a fin de "comprender" las posibilidades de la IA. Al respecto, Sunak compartió que "no quiere precipitarse a regular" el sector, ya que lo prioritario es centrarse en "entender" exactamente el alcance del reto.
Otra parte de su iniciativa es invertir casi 1,000 millones de libras en "supercomputadoras" y el doble en ordenadores cuánticos, que se pondrán a disposición de instituciones y empresas.
También se dio a conocer que la República de Corea y Francia acogerán las dos siguientes cumbres, según la secretaria de Estado británica de Ciencia y Tecnología, Michelle Donelan.