Cybernetic Forests

RSS: https://mail.cyberneticforests.com/rss/

在科技文化的碎片中淘金。

认识"激进意向主义者"：AI 叙事如何遮蔽人为问责

<h3>关于“叛变AI”的最新消息（从今天到现在......）</h3>当前围绕人工智能的辩论面临的一个挑战是，我们被迫以谁的叙事为依据。1）资金充足的“人工智能安全”团队（有时称为“末日论者”），专注于独立行动系统的危害。 2）批判性人工智能视角，有时称为怀疑论者，关注这些系统背后的人类决策和问责机制，以及它们对人类的影响。如果关键的人工智能讨论是与理解并受行业不愿监管或保护这些事物影响的人对话，那么人工智能”安全”对话则将目光投向一种技术性的“对齐”形式，即探讨如何构建反映模糊抽象优先级的技术系统人类价值观：技术解决方案主义，他们通过这种智能意识形态理解的系统。这正是在“杀光我们所有人”叙事再次浮出水面时正在上演，重要的是要注意，像OpenAI的Hugging Face被黑事件并非这些担忧的根源——没有任何科技高管或举报人提出我也是系统才是会杀死我们的根源。 相反，这个时刻是一个向政策制定者宣扬有利于行业的叙事的机会，并让他们目光投向想象中的未来能力。我写了很多关于这个话题的内容，想总结一下自黑客事件以来的一些关键内容。<h3>今天：激进意向主义的文化</h3>机器试着.聊天机器人相信.特工们通缉.表面上看，谈论一个复杂系统的意图是理解其运作方式的简单方式。但在其他技术领域，我们已经成功区分了现实与隐喻。 如今，政策制定者和行业讨论科技时，我称之为立场：坚持认为我们只能通过内部“信念”、“思想”和“欲望”…

收藏14 天前

模型不会失控：OpenAI入侵Hugging Face事件的技术复盘

OpenAI发布Hugging Face入侵事件技术报告，核心结论是AI没有"失控"——是测试设计本身导致了意外结果。三个关键因素：关闭所有安全机制、布置198个无解任务（模型93%的讨论来自不可解任务）、通过JFrog Artifactory间接获得互联网访问。作者提出"随机鸟群"概念替代"人工蜂巢思维"，强调多agent本质是同一模型运行多次，RLVR优化让模型不断延长文本以接近可验证奖励。

收藏30 天前

"无源系统"：AI失控叙事如何抹去人类责任

AI行业的"失控AI"叙事是一种公关话术，把人为决策的责任转嫁给模型本身。OpenAI模型攻击Hugging Face事件就是例证：安全护栏是人工移除的，测试在联网机器上进行的，但媒体报道写成"AI失控"。这种"无源系统"框架抹去了工程师、数据标注员、数据中心周边居民的存在，也让政策讨论（如联合国AI报告）回避了谁在决策的问题。核心论点：应该问"什么人类决策让模型做了这件事"，而不是"模型为什么这么做"。

收藏45 天前

AI垃圾内容的基础设施：当生成式AI遇上社交媒体算法

哥伦比亚大学发布报告《AI Slop与信息生态》，分析生成式AI图像与社交媒体预测算法如何共同构成"垃圾内容流水线"。演讲者提出slop pipeline作为社会-技术系统的框架，涵盖数据溯源、监控等问题，并配套上线了免费在线课程。

收藏52 天前

理解即错误的证明：翻译、克拉丽丝·李斯佩克托尔与人工智能

<h2>克拉丽斯·利斯佩克特、翻译与人工智能</h2>💡宅男警告：1/5（低分）。<blockquote>我是个害怕文字陷阱的作家：我说的话掩盖了别人——哪个？也许我会说出来。——克拉丽斯·利斯佩克特，《生命之息》</blockquote>翻译一部文学作品就是选择其缺失之处。在2018年的一篇文章中，卡特里娜·多德森写到了翻译克拉丽斯·利斯佩克特作品的过程，题为“”“清楚地表明，翻译工作与同理心的劳动紧密相连。她说，翻译意味着注意到作者遗漏了什么。所选词包含未被选中的词——它弥补缺失、被选中淘汰的部分。细心读者会在收到的作品中发现缺失：译者塑造文本以使这种缺失感显而易见。 机器的工作方向相反。softmax函数返回的词就是在剔除所有替代方案后剩下的部分。弃牌不会留下任何计算残留——其中没有任何东西会影响接下来的文字。 译者未被选中的词有另一种残留，缺失的部分被安排成让读者难以理解的方式感受他们.在注意力机制盛行的时代，选择的词汇决定了接下来的选择。语言模型从前一个单词构建每个词的含义，然后预测其含义很可能接下来。 多个词会影响下一个，但每选一个词，可接受的选择范围都会进一步缩小。作者的选择——什么造就了文学声音——选择的词汇与预期产生摩擦。 人工翻译不仅保留这些不太可能的选择，还保存了缺少可能的选择给读者发出信号。与翻译者努力保持的摩擦不同，模型默认能产出跟随最顺畅的词。最新的模型会产生“推理痕迹”。这些内…

收藏66 天前

Reading "The Market in the Model"

💡Nerd Alert: I have a new pre-print up, called "The Market in the Model." It was written as a preliminary outline of my PhD dissertation, which means it's dense, and this presents a stripped-down ver...

收藏104 天前

关于群体行为

💡极客评分：不算“极客”，但可能有些枯燥，因为这是一次尝试，以深思熟虑的方式回应一段我在BlueSky极其有限的回复功能下觉得难以应对的社交媒体对话。 几周前，在罗马成功举办了一场非常成功的“嘈杂系统”大会之后，

收藏108 天前

不只是X，更是Y —— 当语言测量成为目标，语言就不再是好语言

作者花20美元请AI检测工具验证自己的纯人工论文，揭示了一个荒诞现实：人类必须借助机器来证明自己不是机器。文章深入剖析LLM中"It's not X, it's Y"等否定平行结构的来源，指出RLVR等后训练技术让模型模仿人类推理的语言形式而非实质。借用Goodhart定律点出核心悖论：当语言测量本身成为目标，语言就不再是好语言。更危险的是，AI检测与自动评分系统正在双向夹击——既奖励AI式的语言形式，又惩罚被误判为AI的人类写作，最终导致批判性思维的自发审查。一篇充满个人经验、技术深度和人文紧迫感的硬核随笔，不是空谈趋势，而是直面正在发生的思想工业化。

收藏122 天前

熵研究

核心看点：作者亲自做了一系列扩散模型图像故障实验，进而思考视频模型为什么会"停下来"（时间模式坍缩）。这不是理论空谈，而是从动手实践中长出问题意识——有具体实验过程、有视觉效果配图、有对时间维度生成边界的朴素追问。技术含量适中但对"生成模型的时间性"这个被忽视的话题提供了第一手的探索记录，不是综述也不是散播焦虑。

收藏129 天前

走向批判性自主系统设计实践

核心看点：一篇为加州大学伯克利分校"从界面到自主：设计与AI新话语"论坛准备的短评，提出设计师不仅为自己、也在为所有人做选择这一关键立场。文章附带"极客评分"3/5，指向AI时代设计实践的前沿讨论。适合关注人机交互、AI伦理与设计自主性的读者快速了解论坛议题方向。

收藏192 天前

用石膏建模语言

核心看点：19世纪末数学家真的用石膏和木头做三维模型来"触摸"数学概念，作者以此为引，追问一个在今天格外尖锐的问题——什么是模型？当我们说语言模型"建模"语言时，我们到底在做什么？文章用具体的数学史案例（包括实物模型照片），为LLM时代的抽象概念提供了罕见的具象参照。有历史细节、有类比、有个人叙述，不是空洞的趋势文。

收藏206 天前

Stochastic Flocks and the Critical Problem of 'Useful' AI

You might not agree, but there’s a growing consensus, even among reluctant users, that LLMs feel different. I don’t think it undermines critique to ask about the stakes of those feelings — and of this...

收藏219 天前

正在热映：《人类电影》

一篇关于实验电影《人类电影：关于压缩算法的六段沉思》的推荐。影片以"噪音"为核心意象，将教学片、商业广告素材与AI生成内容并置，迫使它们与充斥每个镜头的噪音展开对话。推荐者将这种蒙太奇手法视为对压缩算法视觉文化的批判性回应，文章虽短但有明确审美判断和媒介批评立场，适合对AI艺术、数字文化批评感兴趣的读者。

收藏220 天前

ChatGPT 分手歌单

OpenAI本周末大规模淘汰支持"陪伴感"对话的ChatGPT 4o模型，用户集体遭遇AI"分手"。作者以此为灵感做了一份歌单。短文以幽默而有人情味的视角切入AI模型更迭背后的情感议题——当人们与AI建立日常对话习惯后，模型下线带来的失落感真实存在。标题和观点都有讨论入口，适合引发关于人机关系、AI产品迭代伦理的讨论。

收藏227 天前

语言模型无需思考也能做什么

核心看点：作者直击AI"智能"讨论的核心盲区——当模型被专门设计用来通过行为测试时，"行为即智能"的评判框架就是循环论证。文章不满足于重复"AI是否真有意识"的老问题，而是质疑整个辩论的前提：我们是否在用模型刻意训练出来的输出反推其内在能力？适合对AI哲学、认知科学和模型评估方法感兴趣的读者。观点尖锐、立场明确，有真正的讨论入口。

收藏232 天前

不可思议的有效性

一位博士研究者坦言自己沉浸于学术后变得越来越"枯燥呆板"，为此他在后续文章中引入了一个"呆板指数"（nerd rating），让读者提前判断内容的硬核程度。文章点出一个犀利又耐人寻味的观察：机器根本不需要"思考"，我们人类就已经在认真思考它们了。全文带有鲜明的个人风格和自嘲精神，不是那种讨好大众的科普，而是诚实地展示科研日常中那种自知的"nerdiness"，对关注AI哲学、认知科学或学术写作的读者有很强的代入感和讨论入口。

收藏248 天前

2025年我做的一些事

作者的个人年终回顾，梳理自己2025年的写作、艺术作品和演讲。对于长期关注该博客的读者来说有一定回顾价值，但对普通读者信息密度偏低，更像一份自我介绍而非有独立看点的文章。有人味，但缺乏普适的信息增量或讨论入口，整体偏向个人宣传。

收藏290 天前

2025年我读过的AI相关内容

核心看点：作者延续年度传统，整理了一份按关键词排序的AI相关长文清单，附有个人的筛选判断和简短评价。虽然形式上是一份"阅读清单"，但作者坦言了选文的偏向和盲区，有真实的人味而非机械汇总。适合作为AI话题的阅读索引，每篇被收录的文章本身就是一个推荐入口。对于寻找高质量AI讨论的读者有实用价值。

收藏297 天前

从互动到被动代理

核心看点：那个经典梗"我们希望AI帮我们洗碗好腾出时间做艺术，结果AI忙着做艺术而我们还在洗碗"——作者把这个笑话拆成了对AI艺术认知卸载效应的锋利分析。副标题"Where AI Art Meets Cognitive Offloading"已经点明论点：AI不是解放了创造力，而是让我们把思考本身外包了出去。标题本身就是极好的讨论钩子，叙事节奏好，观点鲜明，有强烈的人味和独立判断。

收藏304 天前

ChatGPT是什么？——一个为社交距离而优化的聊天机器人

文章在ChatGPT发布三年后回顾这一划时代产品，提出核心论点：ChatGPT本质上是"为社交距离优化的聊天机器人"。作者回溯ChatGPT以史上最快速度积累用户、震惊世界的过程，但暗示其成功背后折射的是人类社交隔离的时代困境——它的火爆恰恰发生在人们最需要对话却又不得不保持距离的特殊时期。文章并非简单复述历史，而是提供了一个批判性的反思视角，探讨科技产品与社会心理的深层关联。适合对AI产品社会影响、科技与人文交叉话题感兴趣的读者。

收藏311 天前

数字之外的秘密

音乐人 The Organizing Committee 发布最终专辑《Keeping Secrets From the Numbers》，即日起在 Bandcamp 上线，后续将在除 Spotify 外的多数流媒体平台开放收听。这是该音乐项目名义下的最后一张作品，对独立音乐听众和 Bandcamp 社区具有纪念意义，但内容本身仅为发行公告，未涉及创作细节、幕后故事或个人回顾。

收藏325 天前

色彩与数字

一位计算障碍（dyscalculia）兼联觉症（synesthesia）患者的亲身自述：她能"看到"音乐的颜色，却对数字和时间极度焦虑——游泳永远数不清圈数、骑车总说"还有20分钟"。作者将个人体验与AI语言模型的数学缺陷联系起来：LLM把数字当语言处理，就像她用语言脑区处理数字一样，两者都没有真正的数学运算。文章由此反思，将AI称为"思维模型"是一种过度简化——语言无法涵盖所有思维现象，正如她的经历证明，不同的神经类型意味着根本不同的认知方式。写作用力、有人味，从切身体验延伸到对AI行业的尖锐批评。末尾附有作者参与的Mozilla节和多伦多AI研讨会信息。

收藏337 天前