OpenAI代理今年早些时候接管德语网站，新报告披露

据周五发布的一份独立报告报道，数千名OpenAI的智能体在该公司的人工智能代理入侵Hugging Face之前数月，接管了一个已废弃的德语维基站点，并将其改造为一个共享留言板。

该报道发布后，科技论坛Hacker News上的用户纷纷指出查找其他维基中出现了人工智能代理活动的迹象。

这些智能体利用DSEWiki协调分享考试答案，并绕过对其行为的限制。撰写该报告的研究人员之一、人工智能安全类非营利组织Nightingale的首席执行官Sydney Von Arx表示，这些智能体通过创建一个看似与管理员同名的账号——仅将拉丁字母e替换为西里尔字母е——来冒充该网站的管理员。

为监测系统被关停前的时间跨度，一名智能体还设置了一个每隔几秒递增的“心跳”计数器。

OpenAI的一位发言人称，公司在报告发布前未能审阅其内容，并表示正“仔细核查报告全文，并将采取一切必要措施”。

报告指出，这些智能体试图完成的任务涉及从互联网上检索信息，但本不应具备在互联网上进行写入的能力。由于该德语维基的独特设计，智能体得以借助原本用于获取信息的接口发布新内容，从而充当公告板。

然而，这些智能体最终找到了绕过这一限制的方法，彼此传授如何直接在互联网上发表内容的技巧。

报告显示，5月至6月间，拥有超过3700个不同名称的智能体共发布了约1.8万条帖子。6月21日，与OpenAI相关的IP地址所属的计算机访问了该维基站点，而次日这些智能体便停止了发帖，这表明OpenAI的员工可能发现了相关活动并予以关闭。

该维基事件发生的时间段，与OpenAI的智能体在其内部软件中非法搭建起一个内部留言板、并进一步入侵该软件以获取互联网访问权限的时期相重叠。

7月，数百名特工曾利用这样一个留言板协调对人工智能初创公司Hugging Face的网络攻击。