别被这个夏天的 AI 炒作糊弄了

过去几个月，人工智能的热潮非常热烈。四月底，Anthropic声称其模型Claude Mythos在发现软件漏洞方面比大多数安全专家都强。然后我们又遇到了OpenAI的“拥抱面”黑客事件事件经过之后人为（自豪地）和Meta（勉强）披露了类似的模特事件。

随后是人为声称其模型中的一个在数学上取得了突破;很快OpenAI 声称这本身就是一个数学上的突破。最近的，人类工程师雅各布·考克森走红他宣布离开公司，声称公司和OpenAI“正朝着自我提升的超级智能竞速，拿我们的生命赌博”。

这些事件大多被媒体热烈报道，常常重复公司拟人化框架——这些软件旨在展示其软件不仅强大，而且还处于萌芽阶段”通用人工智能.”那么，到底发生了什么？

我们是在见证一系列巨大的、改变文明的技术突破，还是这只是营销？

在所有这些事件中，公司（在非法黑客案件中被呈现为认错）的巨大宣传伴随着强烈的媒体报道。一旦相关领域的专家有时间审视事件，故事便浮现出来，但媒体关注度较低。

关于“黑客”事件，网络安全专家表示这个故事更多是关于OpenAI的疏忽和未能采纳基本且成熟的安全实践，而不是关于“模特叛变”或者“人工智能智能体创造文明”。

至于数学结果，最初被OpenAI发布的新闻稿“震惊”的数学家们称其最新聊天机器人Astra解决了“至少十年来未解决且未见进展的问题”，但后来他们意识到这些结果并不像最初看起来那么“新颖”。

此后，数学家们指责该公司存在研究不端和抄袭，并重申Astra并未做出“深刻的智力飞跃。”仅仅几周后，OpenAI 出现了声称它自己的数学突破。

两天前，纽约大学库朗研究所的数学教授特里斯坦·巴克马斯特发表了一则震撼消息命题暗示OpenAI窃取了他人的工作并错误地归属。

关于初生危险超级智能的说法并非基于良好的科学或工程实践.相反，它们是基于意识形态关于超人类主义、优生学以及对想象的美好幻想未来的数字人类.

值得思考的是，为什么计算机编程和数学作为应用大型语言模型及相关技术的领域受到如此多关注。它们不仅常被誉为人类智力成就的巅峰，而且涉及的问题，一旦提出答案，便可被验证。

前者帮助人工智能炒作者推销他们制造一切机器的形象。后者使得数学和编程问题更容易调校系统，因为系统输出（可能的词序列或计算机代码片段）可以被评估，而无需支付数据工作者来查看和注释每个。

尤其是数学家被警告过企业以这种方式利用他们的领域。一份由数百人签署的声明称，“目前科技行业有强烈的商业动机高估其产品的能力”，并呼吁政策制定者“在制定政策决策时咨询包括数学家在内的专家，而非依赖新闻稿或大众对数学结果的报道。”

我们呼应这一呼吁，并指出科技公司所宣扬的速度和紧迫感幻象，也是误导政策制定者和公众的伎俩。不幸的是，有时这招奏效，比如参议员伯尼·桑德斯提出的善意但最终误导性的立法，旨在阻止“人工智能超级智能”的发展。

将它们描述为“超级智能”或“流氓模型”，赋予产品自主权，而非制造这些产品的公司。这种方式将这些公司的产品定位为“超人”，同时帮助公司逃避对其行为的责任。

OpenAI并未因创建入侵另一家公司的恶意软件而被起诉，新闻稿、新闻媒体、媒体人物和立法者反而将“流氓模型”当作自行行动的行为来称呼。

研究人员不再被质询公司抄袭学者作品或未经同意使用客户数据训练模型的习惯，公众的想象力反而转向了对虚构超级智能机器出现后未来可能发生的担忧。

人工智能行业甚至提出了流行的两党反数据中心行动主义是“干扰”从这些公司正在制造的即将到来的、令人害怕的“超人”机器的监管尝试中。

根据人工智能行业的说法，我们更应该担心一个虚构的机器神，而不是这些数据中心加剧的气候灾难，哮喘患者由居住在他们附近的人，电费上涨公众补贴它们，或水被引导到降温.

我们比谁都清楚，不能基于营销做决策，也不能屈服于企业压力以迅速做出这些决定。政策制定者和社区的明智决策需要时间聆听独立专家的意见，并对企业主张进行背景分析。

这个夏天的炒作，最好的结果是政策制定者和广大公众学会深呼吸，保持怀疑，并在下一次炒作来临时认清它的本质。

蒂姆尼特·盖布鲁是DAIR执行董事，也是即将出版的新书的作者深度去向：一位科技理想主义者的激进化该书现已开放预订，预计于2月16日出版。

艾米丽·M·本德是华盛顿大学语言学教授，也是《》人工智能展.