末日将至，笑对之
<p><em>欢迎来到</em>和谐协会<em>一份关于技术与文化的通讯，两者都被广泛地理解。在本期中，我只是对几周前OpenAI/Hugging Face事件后，关于人工智能带来风险的近期讨论提出一些观察。<br><br>我建议，虽然我们的关注点是对惊人风险的投机性前景，但我们或许应该警惕另一种存在性风险。</em></p><p><em>感谢阅读，</em></p><p><em>迈克尔</em> </p><p>“无论什么造就伟大——高贵、尊严、坚定和一种笑声般的勇气——在几个世纪中基本保持不变。”</p><p>——汉娜·阿伦特</p><p>本月初，在X/Twitter上，或者至少是我所经历的时间线版本，感觉像是2020年初的诡异回声。在大多数主流媒体几乎不关注武汉的发展之前，仍然有可能在网上遇到关于即将来临危机的传闻。<br><br>然而，这次即将到来的危机并非健康紧急情况，而是某种人工智能引发灾难的变体。流传着“没人准备好迎接即将到来的灾难”和“现在世界上只有500个人重要”的说法，后者指的是那些在前沿人工智能实验室工作的特殊人物。</p><p>这些担忧因未发布的OpenAI训练模型的消息而加剧在沙盒环境中，并黑入了另一家公司Hugging Face。OpenAI模型部分通过利用漏洞建立了内部留言板，供代理协调。<br><br>OpenAI发现了这一点并关闭了它，但方式使模型能够重组留言板并继续追求目标，最终导致它入侵了Hugging Face，寻找完成任务所需的信息。<br><br>毫不奇怪，这一切在某些圈子里激起了对最坏AI情景即将出现的更多焦虑。那句反复出现的“没人准备好面对即将到来的…</p>
评论
点赞
收藏