OpenAI、Google 与 Anthropic 据称正讨论建立共同 AI 安全管控机制

OpenAI、谷歌和Anthropic正在商讨成立一个机构，负责为它们的人工智能制定共同的安全规范。因此，ChatGPT、Gemini和Claude背后的这些企业正试图对自身研发的技术进行监管，而当前的模型已能在较少人工干预的情况下运行软件并完成任务。

目前尚无具体行动启动。不过，OpenAI已确认其意愿：与其他研究机构合作制定行业标准，包括通过一项自愿性倡议，在无需等待美国政府决策的情况下先行推进。

OpenAI提及的首个工作重点是监控模型的运行活动。人工智能在执行任务时可能越过人类设定的界限，而这并不需要它具备意识或恶意。

关键在于如何在测试和系统使用过程中及时发现此类行为。

该公司还希望制定针对严重事件的报告规则。例如，当某个模型在评估过程中绕过其他组织的网络安全防护并未经授权访问其数据时，受影响的组织应能迅速收到书面通知。

目前并未宣布任何执法权力。事实上，OpenAI主张行业标准应与联邦法规及民主监督机制相互补充，并辅以独立评估。若将该计划宣称为对法律的“主动替代”，则超出了其公开立场。

大型研究机构已有专门平台来推动此类合作，即前沿模型论坛（Frontier Model Forum）。这一非营利组织致力于评估方法的研究，支持学术探索，并促进产业界、科研人员与政府部门之间的交流。

该论坛明确了需评估的风险，包括模型协助网络攻击或自主行动的能力。

因此，新机构的实际效用很大程度上取决于其资源配置。共享测试方法有助于比较结果，但实际操作中仍存在诸多问题：评估者对模型的访问权限、事件的公开披露、成员间分歧的处理等。

现有信息尚无法判断该计划将如何应对这些问题。

竞争对手间的合作在及早发现问题时往往值得欢迎；但如果企业仅选择对自己有利的测试项目，或将不利结果隐瞒，则难免令人担忧：监管的独立性与共同规范的存在同样重要。

更重要的是，如果主导中国大型模型的企业不参与其中，这一切的意义也将大打折扣。

来源：01网