Anthropic、OpenAI、Google 秘密讨论建立AI行业安全标准机构

知情人士透露，Anthropic、OpenAI和谷歌一直在讨论合作创建人工智能行业标准机构，甚至在Anthropic首席执行官达里奥·阿莫代周六呼吁AI公司协调测试和审计该技术之前。

一位知情人士透露，OpenAI首席执行官Sam Altman在本周早些时候的公司全体市政厅会议上告诉员工，他支持成立一个人工智能行业的测试和审计机构，但认为主要AI实验室必须在没有美国政府支持的情况下自行创建标准机构。

这种行业自我监管是更广泛提案的一部分，Amodei已发布在人工智能日益强大的风险加剧下，公司将放缓人工智能开发并建立独立监督。

阿莫代表示，企业可以在政府制定人工智能监管的同时推进自愿安全标准，政府可能推动或推动行业讨论。

Amodei在X上的帖子迅速获得了包括Altman在内的多位科技领袖的支持，Altman写道，放缓前沿人工智能开发是公司近几周讨论的话题。最近辞去Google DeepMind首席执行官职务的Demis Hassabis表示，该提案总体上是朝正确方向迈出的一步，尽管有些细节“需要进一步完善”。

SpaceX首席执行官埃隆·马斯克也支持Amodei的计划。

建立人工智能自律组织的想法已在公众讨论中持续数月。7月，哈萨比斯发表了随笔提出一个以金融业监管局为蓝本的自我监管机构提案，该机构负责监管美国经纪自营商和证券专业人士。

但公司之间已经开始合作制定行业标准的程度，此前并未被报道。据知情人士透露，自七月以来，谷歌、Anthropic和OpenAI由CEO以下代表组成的工作组定期召开会议，讨论设立标准机构的提案。

白宫曾流传一份行政命令草案，旨在创建这样一个组织，但由于未能在特朗普政府内部获得足够支持，该努力在夏末陷入停滞，《信息》此前报道报道.前白宫人工智能局长大卫·萨克斯一直公开批评建立类似FINRA的人工智能机构，反对政府介入。

Meta平台首席执行官马克·扎克伯格在8月与总统唐纳德·特朗普的电话通话中也表达了对设立国家人工智能监管机构计划的担忧，Politico报道.

本周在市政厅会议上，奥特曼表示，虽然他乐观地认为政府会支持标准机构，但业界尚未达成足够共识，一些公司反对这一想法，知情人士说。

他补充说，最好的出路是尝试与其他实验室合作。奥特曼在同一市政厅上告诉员工，OpenAI也可以放缓其开发步伐，彭博社报道.

Anthropic、OpenAI和谷歌关于行业主导的标准化机构的工作组会议（据人士称仍在进行）显示出三家实验室除了高管的高调公开评论和提案外，仍渴望采取行动。

一位知情人士表示，该小组最近一次会议还在上周。

目前尚不清楚Meta在这一问题上的立场。周六，该公司首席人工智能官Alexandr Wang在X上写道：“对齐是为每个人提供个人超级智能的基础”，他指的是AI系统的行为遵循所提供指令的意图，尽管他并未明确表示支持或反对Amodei的提议。

Anthropic 自己的员工最近几天在 X 上走红的帖子，重新引起了人们对日益强大人工智能潜在风险的担忧。一位 Anthropic 研究员表示，他决定辞职，因为公司和 OpenAI 都“没有负责任地行动”，而一位现任员工则表示，公司真心相信 AI 可能对人类构成生存威胁。

周六，阿莫代提议每家领先的人工智能公司应给予外部评估机构如模型评估和威胁研究公司与员工相同的技术访问权限，他表示Anthropic已承诺采取这一措施。

他还呼吁政府允许人工智能公司在安全方面协调，同时避免违反反垄断法，并表示政府应对某些对话发布“狭义豁免”。

萨克斯在X上表示，人工智能公司应继续推进安全工作，不需要反垄断豁免来协调。但他质疑放慢开发速度是否“纯粹是出于利他”，指出产品责任风险已经提供了防止人工智能造成伤害的经济激励。

人工智能行业内有人对阿莫代伊的计划持更为批评的态度。Cohere首席执行官艾丹·戈麦斯在X上的一篇帖子中表达了对最大人工智能公司协调制定可能限制小型竞争对手规则的担忧，写道：“卡特尔带来了很棒的想法。”

Leo Schwartz是一名报道科技与政治交汇点的记者。他可以通过以下方式联系[email protected]或在leomschwartz.24的信号中