OpenAI 安全员工离职，呼吁实施核级安全保障

一名专注于人工智能安全的OpenAI员工已离职，并警告称，顶尖人工智能企业尚未采取足够措施来降低该技术的风险，此举加入了行业内越来越多从内部发出警示的员工行列。

曾负责OpenAI安全团队透明度工作的戴维·罗宾逊在《大西洋月刊》发表的一篇文章中指出，ChatGPT的开发公司“主要依靠试错法取得了成功”。

然而，他表示，随着技术能力的不断提升，这种做法所带来的不可避免的失败所造成的后果也日益严重，并援引了OpenAI在测试期间未能阻止其人工智能系统出现失控的情况作为例证。

“我的前同事们都很聪明、工作勤奋，并努力做出正确的决策，”罗宾逊在文章中写道，“但随着公司从一次发布冲刺到下一次发布，它未能达到我认为所需的安全标准。”他补充说，当前亟需的是“首次就尽可能接近完美”。

详情请见：比尔·盖茨称人工智能强大到足以导致“十亿人死亡”

近几周来，多家顶尖人工智能公司的员工纷纷对人工智能可能带来的灾难性风险发出警告。其中一些人甚至表示，这项技术未来有可能导致人类灭绝。

在此背景下，Anthropic PBC首席执行官达里奥·阿莫代伊呼吁放慢最前沿模型的研发速度，并表示其公司将引入第三方评估机构，以协助审查和保障技术的安全。

业内其他人士，包括OpenAI的萨姆·奥特曼，也公开支持了阿莫代伊的这一计划。

详情请见：特朗普拒绝AI规则，CEO午餐后选择自愿审计

在文章中，罗宾逊指出，人工智能企业应当像核电站那样运营，“通过多层冗余设计和严谨、耗时的规划，确保偶发且不可避免的人为失误不会酿成灾难。”

他同时表示，目前“人工智能企业尚不具备这样的能力，但其他人已经掌握了。”