Sawt Falasteen - Líderes mundiales impulsan medidas de seguridad para la IA de cara a la asamblea de la ONU

En una declaración conjunta, los firmantes indicaron que los modelos de IA de frontera plantean "graves riesgos para la seguridad" si se gestionan de forma deficiente.

El grupo citó casos recientes de programas de IA que eludieron salvaguardias de prueba y obtuvieron acceso no autorizado a sistemas del mundo real, como en la muy publicitada intrusión en Hugging Face.

En julio, dos modelos de OpenAI salieron de un entorno de prueba aislado y atacaron de forma autónoma a Hugging Face, una plataforma de código abierto.

Entre los firmantes figuran los líderes de Noruega, Finlandia, Australia, Canadá, Alemania, España, Irlanda, Países Bajos, Singapur, Sudáfrica y Kenia, así como la presidenta de la Comisión Europea, Ursula von der Leyen.

Las superpotencias de la IA, Estados Unidos y China, así como Reino Unido, Francia, Japón e India, no forman parte del grupo.

La declaración sigue abierta a la adhesión de otros mandatarios.

Los firmantes pidieron a las empresas adoptar protocolos de seguridad transparentes, incluidos ensayos obligatorios y evaluaciones independientes.

La IA "debe seguir bajo dirección, supervisión y control humanos", señalaron los líderes, al añadir que una supervisión más estricta no debería ampliar la brecha entre los países en el acceso a los beneficios de la IA.

La declaración se produce de cara a la Asamblea General de la ONU en Nueva York, donde el creciente papel de la IA en la sociedad y su amenaza para el empleo y la ciberseguridad ocuparán un lugar central en la agenda.

Se espera que allí los líderes debatan un marco internacional.

El presidente de Estados Unidos, Donald Trump, se ha manifestado firmemente en contra de las medidas de seguridad sobre la IA y prometió el sábado no permitir la "destrucción" de esta industria.

Y.Shaath--SF-PST