据公开报道,11 月 9 日在法国主持下,《巴黎 AI 安全与安全倡议》(Paris Call for AI Safety and Security)正式签署,参与方包括 17 国政府、10 家 AI 公司和 10 家民间组织。倡议的核心内容,是前沿模型开发者承诺建立可限制、暂停或关停自家系统的故障安全机制,覆盖模型训练与内部使用等环节。但这份文件属于政治宣言性质:没有强制约束力,没有设定执行期限,也没有配套处罚条款。在能力越来越强的模型被持续部署到生产环境的背景下,"关停机制"由谁承诺、由谁触发、在什么条件下生效,仍然是一个没有完全说清的问题。
根据多家海外科技媒体整理的签署名单,参与倡议的 10 家 AI 公司包括 OpenAI、Anthropic、Microsoft、Mistral AI、Cohere、Hugging Face、Sakana AI、Black Forest Labs、Domyn 和 Synthesia。倡议文本要求前沿模型开发者落实"故障安全机制",即在其可控范围内对模型运行施加限制、暂停或关停,机制不仅面向对外服务,也包括训练过程和内部使用场景。
除关停承诺外,签署方还被要求披露模型能力与相关风险,让外部能够理解系统可能带来的影响。作为签署方之一,Anthropic 长期在安全对齐与模型评估方向有较多公开讨论,这类安全机制倡议与其一贯对外强调的研究方向比较契合。
需要客观看待的是,承诺建立机制与机制在真实事故中能否按预期生效,是两件不同的事。关停机制是否经过充分演练、能否覆盖多步骤智能体任务、在外部依赖介入后由谁决策,这些细节并未在宣言层面给出统一答案。
这份倡议并非全员参与。报道显示,美国政府、英国政府和日本政府均未签署;在企业一侧,Google、Meta、xAI 也没有出现在签署名单中。缺席本身并不等于不重视安全,但名单结构确实带来了覆盖缺口:Google 的 Gemini、Meta 的开放权重模型以及 xAI 的 Grok 系列,恰好处于关停机制抓手相对有限的品类。
ChatGPT 背后的 OpenAI 是签署方之一。这类头部前沿模型厂商愿意把关停机制写进公开承诺,有助于推动安全实践形成行业参照;但如果能力强、使用广的模型开发者不在同一框架内,倡议的实际约束力就会打折扣。政府侧的缺席则意味着,目前更多停留在厂商自愿承诺层面,缺少自上而下的强制要求。
开放权重模型是另一个难点:模型权重一旦对外发布,后续谁在部署、如何部署、出了问题由谁负责,原始开发者很难完全控制。对这类模型设置统一的"停止键",比闭源服务更难落地。
从文本看,巴黎倡议没有规定完成期限,也没有写明违反承诺后的处罚措施,更没有明确"谁来按下停止键"。也就是说,现阶段它更像是一份方向共识,而不是可执行的监管规则。安全机制要真正起作用,还需要回答一系列更具体的问题:触发关停的判定标准是什么,人工复核与自动熔断如何衔接,关停后已执行的任务和已发出的内容如何回退,跨厂商调用链路上责任如何划分。
作为签署方之一,Hugging Face 这类模型与开源社区平台连接着大量模型分发与部署环节,安全规范能否在平台侧落地、能否影响下游使用者,也是观察倡议后续效果的一个切口。
整体来看,巴黎倡议可以视为 AI 安全治理进程中的一次公开对齐:厂商愿意把"可关停"作为一项基本承诺摆上台面,本身是积极信号。但在强制力、执行期限和责任归属明确之前,行业距离一套可审计、可追责的模型安全机制仍有距离。后续更值得跟踪的,是各国是否把这类自愿承诺转化为法规要求,以及厂商是否公开关停机制的演练与评估结果。
1. 巴黎 AI 安全倡议是什么性质的文件?
它是一份政治宣言性质的倡议,由法国主持,多国政府、AI 公司和民间组织参与签署,主要围绕模型关停机制和风险披露达成共识,不具备法律强制约束力,也没有处罚条款。
2. 哪些主要 AI 公司参与了签署?
据公开报道,签署企业包括 OpenAI、Anthropic、Microsoft、Mistral AI、Cohere、Hugging Face、Sakana AI、Black Forest Labs、Domyn 和 Synthesia;Google、Meta、xAI 未出现在签署名单中。
3. 倡议要求模型厂商具体承诺什么?
签署方承诺为可控的模型系统建立限制、暂停或关停的故障安全机制,覆盖对外服务、训练过程与内部使用,并配合进行风险与能力披露。具体实现方式由各厂商自行落实。
4. 这份倡议能在多大程度上约束 AI 安全风险?
目前它主要发挥行业共识和参照作用,缺少强制力、期限和处罚安排。实际风险管控效果,还要看后续是否有配套法规、厂商公开演练结果,以及开放权重模型等特殊品类如何纳入治理范围。