Cumbre de inteligencia artificial: 29 países advirtieron efectos "catastróficos"

El magnate Elon Musk afirmó que la Cumbre inaugural sobre Seguridad de la Inteligencia Artificial en Reino Unido busca establecer un "árbitro independiente" que pueda supervisar a las empresas que desarrollan inteligencia artificial y sonar la alarma si tienen problemas.

"Lo que realmente pretendemos es establecer un marco de conocimiento para que haya al menos un árbitro independiente que pueda observar lo que hacen las principales empresas de inteligencia artificial y, al menos, dar la voz de alarma en caso de preocupación", declaró el multimillonario a la prensa en Bletchley Park, en el centro de Inglaterra.

"No sé cuáles son necesariamente las reglas justas, pero antes de supervisar hay que empezar por comprender", indicó el dueño de la red social X.

Las declaraciones de Musk se produjeron después de que Reino Unido publicó una declaración firmada por 28 países y la Unión Europea en la que se establecía una doble agenda centrada en la identificación de los riesgos relacionados con la IA de interés común, el aumento de la comprensión científica de los mismos y la creación de políticas transnacionales para mitigarlos.

"Creo que hay mucha preocupación entre la gente del campo de la IA por la posibilidad de que el gobierno se precipite con las normas antes de saber qué hacer", dijo Musk. "Pienso que es poco probable que eso ocurra".

Inteligencia Artificial: la advertencia de 28 países y la Unión Europea

"Nos comprometemos a trabajar juntos de manera inclusiva para asegurar una inteligencia artificial centrada en el ser humano, confiable y responsable", señala la declaración que firmaron Estados Unidos, China, India y países de la Unión Europea como Francia, Alemania, Italia y España.

Con el objetivo de lograr la "cooperación internacional", los estados se mostraron preocupados porque "existe el potencial de que se produzcan daños graves, incluso catastróficos, ya sea de manera deliberada o no intencional".

Y añadieron: "Dado el rápido e incierto ritmo de los cambios en la IA, y en el contexto de una aceleración de las inversiones en tecnología, afirmamos que profundizar en nuestra comprensión de esos riesgos potenciales y las acciones para mitigarlos es especialmente urgente".

Durante la cumbre en Bletchley Park, el enclave inglés en el que se decodificaban los códigos nazis durante la Segunda Guerra mundial, representantes de las principales potencias globales coincidieron en destacar el "potencial transformador" de la IA, que puede impulsar "el bienestar, la paz y la prosperidad". Sin embargo, junto con esos beneficios pueden llegar "riesgos significativos", lo que obliga a asegurar "una supervisión humana adecuada".

Se trata de la primera cumbre mundial en materia dde seguridad global sobre Inteligencia Artificial, la cual tendrá su segunda edición en la República de Corea (en seis meses) y la tercera, en Francia (dentro de un año).

Esta serie de jornadas se extenderá hasta el jueves y contará con la presencia de conocidos gigantes tecnológicos como OpenAI, Google DeepMind, Anthropic, Meta y Microsoft.