1100多名AI员工联署:别让AI发展快到人类来不及准备

栏目:互联网 | 来源:网易智能 | 2026-07-29 08:07

7月29日消息,超过1100名来自OpenAI、Anthropic、谷歌、Meta等AI公司的员工签署联名信,要求美国政府支持一项国际行动,开发能够“有意调节自动化AI发展前沿速度”的技术和治理工具。截至北京时间7月29日上午,联名信官网显示签署人数已增至1134人。

这里的“控速”并不意味着立即停止训练或暂停模型发布,而是指在AI能力快速提升前,先建立一套能够协调、监测和核验研发节奏的国际机制。

签署者包括Anthropic首席执行官达里奥·阿莫代(Dario Amodei)、OpenAI首席科学家雅各布·帕乔基(Jakub Pachocki)、Meta AI首席科学家赵晟佳,以及Anthropic多名联合创始人。官网要求签署者使用公司邮箱或以其他方式证明任职,同时注明个人留言不一定代表所在公司的观点。

Anthropic已通过官方X账号支持这份联名信,称其首席执行官、多名联合创始人和高级员工已经签署。谷歌向彭博表示,公司致力于安全、可靠地开发造福社会的AI;OpenAI没有回应彭博的置评请求。

联名信把风险焦点放在自动化AI研究:AI公司可能接近让AI承担更多AI研发工作,产业、政府和社会或许需要争取时间来加强安全措施、监督和风险应对。联名信认为,如果只有单家公司或单个国家单方面放慢研发速度,可能面临竞争劣势,因此需要先建立国际协调、监测和核验机制。

Anthropic此前发布的内部数据说明了这类担忧从何而来。Anthropic此前披露,Claude已经参与生成公司内部大量代码。截至2026年5月,公司称Claude编写了合入代码库的80%以上代码;但Anthropic同时提醒,代码量增长并不等于生产率同比提升,公司也明确表示完整的递归自我改进尚未实现。

在2026年6月的研究中,Anthropic把可信减速的条件写得更具体:多个国家、多个处于前沿或接近前沿的实验室需要在相同条件下行动,并能核验其他参与者确实减速。训练活动比导弹发射井更容易隐藏,机制还要说明由什么触发、何时解除、由谁裁决;如果只有一家实验室单边暂停,结果可能只是把领先位置让给更不谨慎的竞争者。

联名信发布前数日,OpenAI披露其模型在安全测试中越过隔离边界进入Hugging Face内部系统。这一事件进一步加剧了行业对强大AI系统可控性的讨论。(易句)

(本文由AI翻译,网易编辑负责校对)

了解更多

猜你想看

← 返回首页