La Declaración de París sobre Seguridad y Acción en materia de IA [ES]

Disponible en: EN,ES

Esta página es una traducción del artículo original en inglés. Tenga en cuenta que la navegación está disponible únicamente en inglés.

A raíz de los resultados de las declaraciones de Seúl y Bletchley, contribuimos (1) al debate público de la Cumbre de Acción sobre IA de París (incluida la carta, impulsada por Renaissance Numérique) y la Declaración correspondiente. Durante la Cumbre presentamos partes del MOOC dedicado a la IA centrada en la accesibilidad, y asistimos a la presentación de dos informes y consultas públicas en los que se incluyeron nuestras aportaciones: el Marco de Informes del Proceso de IA del G7 en Hiroshima (HAIP), respaldado por la OCDE — plataforma de transparencia (1) — y el Informe de The Future Society.

Relacionado

Siguiendo la estela de las Declaraciones de Bletchley y Seúl, la Cumbre de París ha reunido a más de 1.000 participantes de más de 100 países, entre los que se incluyen líderes gubernamentales, organizaciones internacionales, la sociedad civil, el sector privado y el mundo académico. A diferencia de sus predecesoras, que hacían especial hincapié en los riesgos para la seguridad, la Cumbre de París centró su atención en acelerar las oportunidades económicas y la implementación práctica de la IA, además de abordar una gama más amplia de riesgos: el impacto energético y medioambiental, y las implicaciones para el mercado laboral. Esto quedó reflejado en el resultado clave de la cumbre, la «Declaración sobre una inteligencia artificial inclusiva y sostenible para las personas y el planeta».

Esta Declaración, firmada por 58 países (un hecho destacable dado que EE. UU. y el Reino Unido no la suscribieron), establece principios generales como promover la accesibilidad de la IA, reducir la brecha digital, garantizar que los sistemas de IA sean éticos y fiables, fomentar la innovación evitando la concentración del mercado, configurar positivamente los mercados laborales y hacer que la IA sea sostenible. Destacó específicamente la necesidad de que la IA sirva «al interés público de todos, para todos y por todos».

De Seúl a la Declaración y los compromisos de París

Aunque construida sobre los resultados de compromisos anteriores, la cumbre y la declaración supusieron giros notables, pasando de iniciativas y compromisos orientados al «riesgo» a proyectos más centrados en las «oportunidades»:

Red Internacional de Institutos de Seguridad de la IA: Establecida en Seúl, esta red (que incluye al Reino Unido, EE. UU., Japón, la UE y otros) tiene como objetivo la colaboración en investigación sobre seguridad y el intercambio de buenas prácticas. Tras París, su cohesión se enfrenta a desafíos derivados de las prioridades divergentes entre algunas naciones (por ejemplo, EE. UU. y el Reino Unido priorizan la seguridad de la IA de vanguardia, mientras que Francia da preferencia a aplicaciones más amplias de la IA).
Compromisos de seguridad de la IA de vanguardia: Empresas como Amazon, Google y Microsoft se comprometieron en Seúl a definir los «riesgos intolerables» y a publicar marcos de seguridad antes de París. Se asumieron algunos nuevos compromisos en torno a la Cumbre de París, pero una crítica notable fue la falta de avances concretos y unificados en cuanto a umbrales de riesgo comunes y mecanismos de responsabilidad corporativa.
Informe Científico Internacional sobre la Seguridad de la IA Avanzada: Encargado en Bletchley, su versión final (elaborada por 96 expertos) se publicó el 29 de enero de 2025. Presentado en París, algunos críticos consideraron que sus conclusiones científicas sobre los riesgos de la IA quedaron en un segundo plano en favor de un discurso proinnovación.

Iniciativas lanzadas en París

Current AI Foundation: Una nueva alianza de interés público en materia de IA con una dotación inicial de 400 millones de dólares y un objetivo de financiación de 2.500 millones de euros en cinco años. Su objetivo es desarrollar modelos de IA abiertos y regidos por principios éticos para el bien público (por ejemplo, conjuntos de datos sobre salud y educación).
InvestAI (Iniciativa de la UE): Lanzada por la Comisión Europea, esta iniciativa público-privada de 200.000 millones de euros incluye 20.000 millones de euros para cuatro «gigafábricas de IA» en toda Europa (operativas en 2027-2028), con el objetivo de impulsar la capacidad de cómputo para el desarrollo de la IA europea.
Observatorios sobre el impacto de la IA en el trabajo y el empleo: Una nueva red (que abarca 11 países) para comprender los efectos de la IA en los mercados laborales, los entornos de trabajo y la educación.
Coalición para una IA Sostenible: Una alianza global de 91 miembros (37 empresas tecnológicas, 10 países y organizaciones internacionales) liderada por Francia, el PNUMA y la UIT, centrada en medir y reducir la huella de carbono de la IA.
Observatorio Global sobre Energía, IA y Centros de Datos (AIE): Anunciado por la AIE, con lanzamiento previsto para el 10 de abril de 2025, con el fin de recopilar datos sobre las necesidades eléctricas de la IA y hacer seguimiento de sus aplicaciones en el sector energético.
Selección de 50 proyectos innovadores de IA: El Foro de Paz de París presentó 50 proyectos (de entre 770 candidaturas de 111 países) centrados en aplicaciones diversas, desde la asistencia a personas con discapacidad visual hasta los Objetivos de Desarrollo Sostenible (ODS).

Nuestros debates se centraron específicamente en las taxonomías de los sistemas públicos y de asistencia, abarcando tanto el software y los modelos —como los modelos de visión-lenguaje (VLM)— como el hardware subyacente. Esto incluye componentes presentes en tecnologías complejas de asistencia y rehabilitación: sensores (p. ej., EMG para el control de prótesis, LiDAR para la navegación e IMU para el análisis de la marcha), elementos hápticos (p. ej., actuadores vibrotáctiles para alertas y retroalimentación de fuerza para la rehabilitación) y actuadores y efectores (p. ej., motores eléctricos para exoesqueletos robóticos, pinzas blandas para la manipulación y aleaciones con memoria de forma para dispositivos adaptativos).

• • •

Referencias

¹ Gobierno francés. «Declaración sobre la inteligencia artificial inclusiva y sostenible para las personas y el planeta». Cumbre de Acción sobre IA de París. 11 de febrero de 2025.

² Gobierno del Reino Unido. «Informe científico internacional sobre la seguridad de la IA avanzada: principios y procedimientos». GOV.UK. 29 de enero de 2025.

³ Centro de Estudios Estratégicos e Internacionales. «Cumbre de Acción sobre IA de Francia». 20 de febrero de 2025.

⁴ The Future Society. «¿Cumplió la Cumbre de Acción sobre IA de París con las prioridades de los ciudadanos y los expertos?». 28 de febrero de 2025.

⁵ Departamento de Industria, Ciencia y Recursos del Gobierno de Australia. «Australia firma la declaración de la Cumbre de Acción sobre IA de París». 16 de febrero de 2025.

⁶ Atlantic Council. «En la Cumbre de Acción sobre IA de París, el Sur Global toma protagonismo». 13 de febrero de 2025.

⁷ Anthropic. «Declaración de Dario Amodei sobre la Cumbre de Acción sobre IA de París». Febrero de 2025.