认识"激进意向主义者"：AI 叙事如何遮蔽人为问责

关于“叛变AI”的最新消息（从今天到现在......）

当前围绕人工智能的辩论面临的一个挑战是，我们被迫以谁的叙事为依据。

1）资金充足的“人工智能安全”团队（有时称为“末日论者”），专注于独立行动系统的危害。
2）批判性人工智能视角，有时称为怀疑论者，关注这些系统背后的人类决策和问责机制，以及它们对人类的影响。

如果关键的人工智能讨论是与理解并受行业不愿监管或保护这些事物影响的人对话，那么人工智能”安全”对话则将目光投向一种技术性的“对齐”形式，即探讨如何构建反映模糊抽象优先级的技术系统人类价值观：技术解决方案主义，他们通过这种智能意识形态理解的系统。

这正是在“杀光我们所有人”叙事再次浮出水面时正在上演，重要的是要注意，像OpenAI的Hugging Face被黑事件并非这些担忧的根源——没有任何科技高管或举报人提出我也是系统才是会杀死我们的根源。

相反，这个时刻是一个向政策制定者宣扬有利于行业的叙事的机会，并让他们目光投向想象中的未来能力。

我写了很多关于这个话题的内容，想总结一下自黑客事件以来的一些关键内容。

今天：激进意向主义的文化

机器试着.聊天机器人相信.特工们通缉.表面上看，谈论一个复杂系统的意图是理解其运作方式的简单方式。但在其他技术领域，我们已经成功区分了现实与隐喻。

如今，政策制定者和行业讨论科技时，我称之为激进意图主义者立场：坚持认为我们只能通过内部“信念”、“思想”和“欲望”来观察系统。

这是一个陷阱——一旦它被纳入政策，会带来真正的后果。

💡我最新的情况：为了让人工智能成为规则，政策制定者必须抵制“激进意图主义者”的影响

之前：无处之星的系统

一旦你认为模型的意图是解释该系统的唯一可接受方式，你就会切断问责。在行业中，这意味着将自己排除在他们看待设计模型的方式之外。

意图立场的对立面是设计立场——归根结底，我们希望人们在看待这些系统带来的问题时能采用这种立场。

否则，你会得到我称之为“”无处之星系“这种行为完全逃避了问责。媒体经常报道这些事情，好像没人制造，且超出人类控制：这对行业来说非常有用。

💡阅读更多：无处之星的系统

之前：叛变AI。

流氓AI很大程度上是这两种情况的结果。但当你看看Hugging Face事件时，你会发现这些系统是不可预测的，被当作可预测的存在对待，可能是由于疏忽和安全措施的疏忽，而非有意攻击任何人。

在我的文章中，最初发表于此，标题为”模特不会叛变随后由《原子科学家公报》转载为”不是叛变的AI突破了拥抱面，是人类的决策“我审视这些报告的细节——两份均持激进意图主义立场——以审视人类判断中的错误，这些错误导致了袭击的条件。

💡不是叛变的AI突破了拥抱面，是人类的决策

播客

值得一提的是，我最近在两个播客中也谈到了这些。

负责任字节

首先，我和与Zena Assaad博士的负责任字节讨论了“无处有的系统”，以及它如何通过联合国对“人工智能”的悲观定义，将其转向人工智能政策。

数据修复

其次，我再次与Mél Hogan博士就流氓AI事件进行了交谈。数据修复播客。

更多内容敬请期待。