《巴黎人工智能安全与行动宣言》[ZH]

阅读语言：EN、ZH

本页面为原始英文文章的翻译版本。请注意，导航功能仍仅提供英文。

继《首尔宣言》和《布莱切利宣言》的成果之后，我们为巴黎人工智能行动峰会的公共讨论作出了贡献（1），包括由“数字文艺复兴”发起的公开信及相关声明。峰会期间，我们展示了专注于以无障碍为核心的AI的MOOC部分内容，并见证了两份含有我们意见的报告及公众和咨——经济合作与发展组织支持的G7广岛AI进程报告框架（HAIP）（1）以及未来社会报告。

从首尔到巴黎：宣言与承诺

尽管本次峰会及宣言建立在此前承诺的成果之上，与之前的峰会相比，本次峰会在某些方面发生了显著转变，从以“风险”为导向的倡议和承诺转向了更侧重“机遇”的项目：

国际AI安全研究所网络：该网络于首尔延生务（成员包括英国、美国、日本、欧盟等），旨在就安全研究和最佳实践开展协作。巴黎峰会后，由于部分国家优先事项存在分歧（如美国和英国侧重前沿安全，而法国优先考虑更广泛的AI应用），该网络的凝聘力面临挑战。
前沿AI安全承诺：亚马逊、谷歌、微软等公司在首尔承诺，将在巴黎峰会前界定“不可容忍的风险”并发布安全框架。巴黎峰会期间虽作出了一些新承诺，但在共同风险阈值和企业问责机制方面缺乏具体、统一的进展，依然是各方批评的焦点。
《先进人工智能安全国际科学报告》：该报告由布莱切利峰会委托编写，最终版本（96位专家完成）于2025年1月29日正式发布。在巴黎峰会上与会后，部分批评者认为，报告对AI风险的科学发现遇有淡化处理的嘱啖，以迎合支持创新的叙事话语。

巴黎峰会期间启动的倡议

Current AI Foundation（当前AI基金会）：这是一个新的公益性AI合作伙伴关系，初始捎款贸4亿美元，五年内筹资目标为25亿欧元。该基金会旨在开发开放且受伦理规范约束的AI模型，以服务公共利益（如医疗、教育数据集）。
InvestAI（欧盟倡议）：由欧盟委员会发起，这项育资2000亿欧元的公私合作计划包含200亿欧元，用于在欧洲各地建设四座“AI超级工厂”（计划于2027–2028年投入运营），以提升欧洲AI研发的计算能力。
AI对就业与劳动影响观察站：这一覆盖11个国家的新型网络，旨在研究AI对就业市场、工作场所及教育的影响。
可持续AI联盟：由法国、联合国环境规划署（UNEP）和国际电信联盟（ITU）主导，拥有91个成员（37家科技公司、10个国家及国际组织）的全球合作伙伴关系，专注于量化并减少AI的碳足迹。
全球能源、AI与数据中心观察站（国际能源署）：由国际能源署宣布，计划于2025年4月10日启动，旨在收集AI用电需求数据并追踪能源领域的应用情况。
50个创新AI项目签选：巴黎和平论坛展示了50个项目（从111个国家的770份申请中骄选），涵盖从视障辅助到可持续发展目标（SDGs）的多元应用场景。

我们的讨论特别针对公共及辅助系统的分类体系，涵盖软件、视觉语言模型（VLMs）等模型，以及底层硬件。具体包括复杂辅助与康复技术背后的核心组件，例如传感器（如用于假肘控制的肌电图记录仪（EMG）、用于导航的激光雷达、用于步态分析的惯性测量单元（IMU））、触觉元件（如用于警报的振动触觉致动器、用于康复的力反馈装置），以及致动器与执行器（如用于机器人外骨骼的电动机、用于操作的柔性抓手、用于自适应设备的形状记忆合金）。

• • •

参考文献

¹ 法国政府。《关于造福人类与地球的包容性与可持续人工智能声明》。巴黎人工智能行动峰会。2025年2月11日。

² 英国政府。《关于先进人工智能安全的国际科学报告：原则与程序》。GOV.UK。2025年1月29日。

³ 战略与国际研究中心。《法国人工智能行动峰会》。2025年2月20日。

⁴ 未来社会组织。《巴黎人工智能行动峰会是否实现了公民与专家的优先诉求？》。2025年2月28日。

⁵ 澳大利亚政府工业、科学与资源部。《澳大利亚签署巴黎人工智能行动峰会声明》。2025年2月16日。

⁶ 大西洋理事会。《在巴黎人工智能行动峰会上，全球南方崛然崛起》。2025年2月13日。

⁷ Anthropic。《达里奥·阿莫迪就巴黎人工智能行动峰会的声明》。2025年2月。