A Declaração de Paris sobre Segurança e Ação em IA [PT]

Leia em: EN, PT

Esta página é uma tradução do artigo original em inglês. Observe que a navegação está disponível somente em inglês.

Na esteira dos resultados das declarações de Seul e Bletchley, contribuímos para o debate público da Cúpula de Ação em IA de Paris (incluindo a carta, iniciada pela Renaissance Numérique) e a Declaração relacionada. Durante a Cúpula, apresentamos partes do MOOC dedicado à IA centrada na acessibilidade, e participamos como testemunhas de dois relatórios e consultas públicas que incorporaram nossas contribuições — a Estrutura de Relatórios HAIP do Processo de IA do G7 em Hiroshima, apoiada pela OCDE (1), e o Relatório da The Future Society.

Relacionado


Na continuidade das Declarações de Bletchley e Seul, a Cúpula de Paris reuniu mais de 1.000 participantes de mais de 100 países, incluindo líderes governamentais, organizações internacionais, sociedade civil, setor privado e academia. Diferentemente de suas antecessoras, que enfatizavam fortemente os riscos à segurança, a Cúpula de Paris deslocou seu foco para a aceleração das oportunidades econômicas e a implementação prática da IA, ao mesmo tempo em que abordou uma gama mais ampla de riscos, incluindo impacto energético e ambiental e implicações para o mercado de trabalho. Isso se refletiu no principal resultado da cúpula: a "Declaração sobre Inteligência Artificial Inclusiva e Sustentável para as Pessoas e o Planeta".

Essa Declaração, assinada por 58 países (um fato notável, dado que os EUA e o Reino Unido não a assinaram), enuncia princípios gerais como promover a acessibilidade da IA, reduzir as desigualdades digitais, garantir que os sistemas de IA sejam éticos e confiáveis, fomentar a inovação evitando a concentração de mercado, moldar positivamente os mercados de trabalho e tornar a IA sustentável. Ela destacou especificamente a necessidade de a IA servir "ao interesse público de todos, para todos e por todos".

De Seul a Paris: Declaração e Compromissos

Embora ancorada nos resultados de compromissos anteriores, a cúpula e a declaração fizeram algumas mudanças notáveis, passando de iniciativas e compromissos orientados ao "risco" para projetos com foco mais amplo em "oportunidades":

  • Rede Internacional de Institutos de Segurança de IA: estabelecida em Seul, esta rede (que inclui Reino Unido, EUA, Japão, UE, entre outros) tem como objetivo a colaboração em pesquisa de segurança e o compartilhamento de boas práticas. Após Paris, sua coesão enfrenta desafios em razão de prioridades divergentes entre alguns países (por exemplo, EUA e Reino Unido com foco na segurança de fronteira versus França priorizando aplicações mais amplas da IA).

  • Compromissos de Segurança da IA de Fronteira: empresas como Amazon, Google e Microsoft se comprometeram em Seul a definir "riscos intoleráveis" e publicar estruturas de segurança até a realização de Paris. Alguns novos compromissos foram assumidos no âmbito da Cúpula de Paris, mas uma crítica relevante foi a ausência de progresso concreto e unificado em relação a limiares de risco comuns e mecanismos de responsabilização corporativa.

  • Relatório Científico Internacional sobre Segurança Avançada de IA: encomendado em Bletchley, sua versão final — elaborada por 96 especialistas — foi publicada em 29 de janeiro de 2025. Apresentado em Paris, alguns críticos consideraram que suas conclusões científicas sobre os riscos da IA foram minimizadas em favor de uma narrativa pró-inovação.


Iniciativas Lançadas em Paris

  • Current AI Foundation: uma nova parceria de IA de interesse público com dotação inicial de US$ 400 milhões e meta de captação de € 2,5 bilhões ao longo de cinco anos. Seu objetivo é desenvolver modelos de IA abertos e governados de forma ética para o bem público (por exemplo, conjuntos de dados de saúde e educação).

  • InvestAI (Iniciativa da UE): lançada pela Comissão Europeia, esta iniciativa público-privada de € 200 bilhões inclui € 20 bilhões destinados a quatro "gigafábricas de IA" na Europa (operacionais até 2027–2028), ampliando a capacidade computacional para o desenvolvimento da IA europeia.

  • Observatórios sobre o Impacto da IA no Trabalho: uma nova rede (em 11 países) dedicada a compreender os efeitos da IA nos mercados de trabalho, ambientes de trabalho e educação.

  • Coalizão para a IA Sustentável: parceria global com 91 membros (37 empresas de tecnologia, 10 países e organizações internacionais), liderada pela França, PNUMA e UIT, com foco na mensuração e redução da pegada de carbono da IA.

  • Observatório Global sobre Energia, IA e Centros de Dados (AIE): anunciado pela Agência Internacional de Energia (AIE), com lançamento previsto para 10 de abril de 2025, para coletar dados sobre as necessidades de eletricidade da IA e acompanhar as aplicações no setor energético.

  • Seleção de 50 Projetos Inovadores de IA: o Fórum de Paz de Paris apresentou 50 projetos (selecionados a partir de 770 candidaturas de 111 países) com foco em aplicações diversas, da assistência a pessoas com deficiência visual aos Objetivos de Desenvolvimento Sustentável (ODS).


Nossas discussões foram especificamente direcionadas a taxonomias de sistemas públicos e assistivos, abrangendo tanto software e modelos como Modelos de Visão-Linguagem (VLMs) quanto o hardware subjacente. Isso inclui componentes por trás de tecnologias assistivas e de reabilitação complexas, como sensores (por exemplo, EMG para controle protético, Lidar para navegação, IMUs para análise da marcha), elementos hápticos (por exemplo, atuadores vibrotáteis para alertas, feedback de força para reabilitação) e atuadores e efetores (por exemplo, motores elétricos para exoesqueletos robóticos, garras macias para manipulação e ligas com memória de forma para dispositivos adaptativos).

• • •

Referências

¹ Governo francês. "Declaração sobre Inteligência Artificial Inclusiva e Sustentável para as Pessoas e o Planeta." Cúpula de Ação em IA de Paris. 11 de fevereiro de 2025.

² Governo do Reino Unido. "Relatório Científico Internacional sobre Segurança Avançada em IA: princípios e procedimentos." GOV.UK. 29 de janeiro de 2025.

³ Centro de Estudos Estratégicos e Internacionais. "Cúpula de Ação em IA da França." 20 de fevereiro de 2025.

⁴ The Future Society. "A Cúpula de Ação em IA de Paris atendeu às prioridades de cidadãos e especialistas?" 28 de fevereiro de 2025.

⁵ Departamento de Indústria, Ciência e Recursos do Governo Australiano. "Austrália assina a declaração da Cúpula de Ação em IA de Paris." 16 de fevereiro de 2025.

⁶ Atlantic Council. "Na Cúpula de Ação em IA de Paris, o Sul Global ganha protagonismo." 13 de fevereiro de 2025.

⁷ Anthropic. "Declaração de Dario Amodei sobre a Cúpula de Ação em IA de Paris." Fevereiro de 2025.