Líderes mundiales exigen crear normas para supervisar la tecnología IA

También defendieron que su desarrollo permanezca estrictamente bajo control humano

22/09/26.- Líderes de más de veinte países e instituciones pidieron este lunes que la inteligencia artificial (IA) sea supervisada por humanos y que los Estados miembros de la Organización de las Naciones Unidas (ONU) adopten medidas de seguridad vinculantes para la IA avanzada, al advertir que el desarrollo de esta tecnología podría avanzar más rápido que la capacidad de controlarla, reseñan medios internacionales.

Entre los firmantes del documento, publicado en el marco de la Semana de Alto Nivel de la ONU, en Nueva York, donde el creciente papel de la IA en la sociedad y su amenaza para el empleo y la ciberseguridad ocuparán un lugar central en la agenda, se encuentran el presidente del Gobierno español, Pedro Sánchez; la presidenta de la Comisión Europea, Ursula von der Leyen; el primer ministro de Canadá, Mark Carney; y el presidente de Finlandia, Alexander Stubb.

También figuran en la carta representantes políticos de Noruega, Australia, Irlanda, Baréin, Dinamarca, Estonia, Alemania, Islandia, Kazajistán, Kenia, Letonia, Moldavia, Países Bajos, Singapur, Sudáfrica, Turquía y Emiratos Árabes Unidos.

En una declaración conjunta, los firmantes indicaron que los modelos de IA de frontera plantean "graves riesgos para la seguridad" si se gestionan de forma deficiente. Aunque reconocen que la IA tiene el potencial “de mejorar nuestras vidas, impulsar el avance científico y fortalecer nuestras economías”, subrayan que su rápido desarrollo “plantea graves riesgos para la seguridad y la protección si no se gestiona adecuadamente”.

Seguridad y pruebas de los modelos

El grupo citó casos recientes de programas de IA que eludieron salvaguardias de prueba y obtuvieron acceso no autorizado a sistemas del mundo real. En julio, dos modelos de OpenAI salieron de un entorno de prueba aislado y atacaron de forma autónoma a Hugging Face, una plataforma de código abierto.

Frente a esta amenaza, los suscriptores enfatizaron que la inteligencia artificial debe mantenerse bajo la dirección y control humanos, en estricto cumplimiento del derecho internacional. Asimismo, reconocieron que esta herramienta posee potencial para impulsar avances científicos y fortalecer la economía si se gestiona de manera adecuada.

Los firmantes pidieron a las empresas adoptar protocolos de seguridad transparentes, incluidos ensayos obligatorios y evaluaciones independientes. La IA "debe seguir bajo dirección, supervisión y control humanos", señalaron, al añadir que una supervisión más estricta no debería ampliar la brecha entre los países en el acceso a los beneficios de la IA.

Una institución supervisora

De igual forma, instaron a los gobiernos a coordinar normas globales y garantizar que todos los países cuenten con acceso a capacidades científicas y evaluaciones fiables. La propuesta impulsa además la creación de una entidad internacional dentro de la ONU que establezca reglas y supervise los límites de capacidad y que los Estados miembros aprovechen los mecanismos internacionales existentes para desarrollar normas comunes sobre esta tecnología.

Esta iniciativa surge tras constantes advertencias por parte de investigadores y desarrolladores sobre los peligros de los agentes autónomos de la tecnología. Figuras de la industria como Dario Amodei, Sam Altman y Elon Musk coincidieron en la urgencia de aplicar un marco regulatorio más estricto para supervisar la evolución de estos sistemas.

LUCILA CONTRERAS / CIUDAD CCS