Cybernetic Forests

RSS: https://mail.cyberneticforests.com/rss/
在科技文化的碎片中淘金。

"无源系统":AI失控叙事如何抹去人类责任

AI行业的"失控AI"叙事是一种公关话术,把人为决策的责任转嫁给模型本身。OpenAI模型攻击Hugging Face事件就是例证:安全护栏是人工移除的,测试在联网机器上进行的,但媒体报道写成"AI失控"。这种"无源系统"框架抹去了工程师、数据标注员、数据中心周边居民的存在,也让政策讨论(如联合国AI报告)回避了谁在决策的问题。核心论点:应该问"什么人类决策让模型做了这件事",而不是"模型为什么这么做"。
评论点赞收藏刚刚

AI垃圾内容的基础设施:当生成式AI遇上社交媒体算法

哥伦比亚大学发布报告《AI Slop与信息生态》,分析生成式AI图像与社交媒体预测算法如何共同构成"垃圾内容流水线"。演讲者提出slop pipeline作为社会-技术系统的框架,涵盖数据溯源、监控等问题,并配套上线了免费在线课程。
评论点赞收藏6 天前

理解即错误的证明:翻译、克拉丽丝·李斯佩克托尔与人工智能

克拉丽斯·利斯佩克特、翻译与人工智能 💡宅男警告:1/5(低分)。 我是个害怕文字陷阱的作家:我说的话掩盖了别人——哪个?也许我会说出来。——克拉丽斯·利斯佩克特,《生命之息》 翻译一部文学作品就是选择其缺失之处。在2018年的一篇文章中,卡特里娜·多德森写到了翻译克拉丽斯·利斯佩克特作品的过程,题为“”理解是错误的证明 “清楚地表明,翻译工作与同理心的劳动紧密相连。 她说,翻译意味着注意到作...
评论点赞收藏21 天前

Reading "The Market in the Model"

💡Nerd Alert: I have a new pre-print up, called "The Market in the Model." It was written as a preliminary outline of my PhD dissertation, which means it's dense, and this presents a stripped-down ver...
评论点赞收藏58 天前

关于群体行为

💡极客评分:不算“极客”,但可能有些枯燥,因为这是一次尝试,以深思熟虑的方式回应一段我在BlueSky极其有限的回复功能下觉得难以应对的社交媒体对话。几周前,在罗马成功举办了一场非常成功的“嘈杂系统”大会之后,
评论点赞收藏62 天前

不只是X,更是Y —— 当语言测量成为目标,语言就不再是好语言

作者花20美元请AI检测工具验证自己的纯人工论文,揭示了一个荒诞现实:人类必须借助机器来证明自己不是机器。文章深入剖析LLM中"It's not X, it's Y"等否定平行结构的来源,指出RLVR等后训练技术让模型模仿人类推理的语言形式而非实质。借用Goodhart定律点出核心悖论:当语言测量本身成为目标,语言就不再是好语言。更危险的是,AI检测与自动评分系统正在双向夹击——既奖励AI式的语言形式,又惩罚被误判为AI的人类写作,最终导致批判性思维的自发审查。一篇充满个人经验、技术深度和人文紧迫感的硬核随笔,不是空谈趋势,而是直面正在发生的思想工业化。
评论点赞收藏76 天前

熵研究

核心看点:作者亲自做了一系列扩散模型图像故障实验,进而思考视频模型为什么会"停下来"(时间模式坍缩)。这不是理论空谈,而是从动手实践中长出问题意识——有具体实验过程、有视觉效果配图、有对时间维度生成边界的朴素追问。技术含量适中但对"生成模型的时间性"这个被忽视的话题提供了第一手的探索记录,不是综述也不是散播焦虑。
评论点赞收藏84 天前

走向批判性自主系统设计实践

核心看点:一篇为加州大学伯克利分校"从界面到自主:设计与AI新话语"论坛准备的短评,提出设计师不仅为自己、也在为所有人做选择这一关键立场。文章附带"极客评分"3/5,指向AI时代设计实践的前沿讨论。适合关注人机交互、AI伦理与设计自主性的读者快速了解论坛议题方向。
评论点赞收藏147 天前

用石膏建模语言

核心看点:19世纪末数学家真的用石膏和木头做三维模型来"触摸"数学概念,作者以此为引,追问一个在今天格外尖锐的问题——什么是模型?当我们说语言模型"建模"语言时,我们到底在做什么?文章用具体的数学史案例(包括实物模型照片),为LLM时代的抽象概念提供了罕见的具象参照。有历史细节、有类比、有个人叙述,不是空洞的趋势文。
评论点赞收藏161 天前

正在热映:《人类电影》

一篇关于实验电影《人类电影:关于压缩算法的六段沉思》的推荐。影片以"噪音"为核心意象,将教学片、商业广告素材与AI生成内容并置,迫使它们与充斥每个镜头的噪音展开对话。推荐者将这种蒙太奇手法视为对压缩算法视觉文化的批判性回应,文章虽短但有明确审美判断和媒介批评立场,适合对AI艺术、数字文化批评感兴趣的读者。
评论点赞收藏175 天前

ChatGPT 分手歌单

OpenAI本周末大规模淘汰支持"陪伴感"对话的ChatGPT 4o模型,用户集体遭遇AI"分手"。作者以此为灵感做了一份歌单。短文以幽默而有人情味的视角切入AI模型更迭背后的情感议题——当人们与AI建立日常对话习惯后,模型下线带来的失落感真实存在。标题和观点都有讨论入口,适合引发关于人机关系、AI产品迭代伦理的讨论。
评论点赞收藏182 天前

语言模型无需思考也能做什么

核心看点:作者直击AI"智能"讨论的核心盲区——当模型被专门设计用来通过行为测试时,"行为即智能"的评判框架就是循环论证。文章不满足于重复"AI是否真有意识"的老问题,而是质疑整个辩论的前提:我们是否在用模型刻意训练出来的输出反推其内在能力?适合对AI哲学、认知科学和模型评估方法感兴趣的读者。观点尖锐、立场明确,有真正的讨论入口。
评论点赞收藏187 天前

不可思议的有效性

一位博士研究者坦言自己沉浸于学术后变得越来越"枯燥呆板",为此他在后续文章中引入了一个"呆板指数"(nerd rating),让读者提前判断内容的硬核程度。文章点出一个犀利又耐人寻味的观察:机器根本不需要"思考",我们人类就已经在认真思考它们了。全文带有鲜明的个人风格和自嘲精神,不是那种讨好大众的科普,而是诚实地展示科研日常中那种自知的"nerdiness",对关注AI哲学、认知科学或学术写作的读者有很强的代入感和讨论入口。
评论点赞收藏202 天前

2025年我做的一些事

作者的个人年终回顾,梳理自己2025年的写作、艺术作品和演讲。对于长期关注该博客的读者来说有一定回顾价值,但对普通读者信息密度偏低,更像一份自我介绍而非有独立看点的文章。有人味,但缺乏普适的信息增量或讨论入口,整体偏向个人宣传。
评论点赞收藏244 天前

2025年我读过的AI相关内容

核心看点:作者延续年度传统,整理了一份按关键词排序的AI相关长文清单,附有个人的筛选判断和简短评价。虽然形式上是一份"阅读清单",但作者坦言了选文的偏向和盲区,有真实的人味而非机械汇总。适合作为AI话题的阅读索引,每篇被收录的文章本身就是一个推荐入口。对于寻找高质量AI讨论的读者有实用价值。
评论点赞收藏251 天前

从互动到被动代理

核心看点:那个经典梗"我们希望AI帮我们洗碗好腾出时间做艺术,结果AI忙着做艺术而我们还在洗碗"——作者把这个笑话拆成了对AI艺术认知卸载效应的锋利分析。副标题"Where AI Art Meets Cognitive Offloading"已经点明论点:AI不是解放了创造力,而是让我们把思考本身外包了出去。标题本身就是极好的讨论钩子,叙事节奏好,观点鲜明,有强烈的人味和独立判断。
评论点赞收藏258 天前

ChatGPT是什么?——一个为社交距离而优化的聊天机器人

文章在ChatGPT发布三年后回顾这一划时代产品,提出核心论点:ChatGPT本质上是"为社交距离优化的聊天机器人"。作者回溯ChatGPT以史上最快速度积累用户、震惊世界的过程,但暗示其成功背后折射的是人类社交隔离的时代困境——它的火爆恰恰发生在人们最需要对话却又不得不保持距离的特殊时期。文章并非简单复述历史,而是提供了一个批判性的反思视角,探讨科技产品与社会心理的深层关联。适合对AI产品社会影响、科技与人文交叉话题感兴趣的读者。
评论点赞收藏265 天前

数字之外的秘密

音乐人 The Organizing Committee 发布最终专辑《Keeping Secrets From the Numbers》,即日起在 Bandcamp 上线,后续将在除 Spotify 外的多数流媒体平台开放收听。这是该音乐项目名义下的最后一张作品,对独立音乐听众和 Bandcamp 社区具有纪念意义,但内容本身仅为发行公告,未涉及创作细节、幕后故事或个人回顾。
评论点赞收藏279 天前

色彩与数字

一位计算障碍(dyscalculia)兼联觉症(synesthesia)患者的亲身自述:她能"看到"音乐的颜色,却对数字和时间极度焦虑——游泳永远数不清圈数、骑车总说"还有20分钟"。作者将个人体验与AI语言模型的数学缺陷联系起来:LLM把数字当语言处理,就像她用语言脑区处理数字一样,两者都没有真正的数学运算。文章由此反思,将AI称为"思维模型"是一种过度简化——语言无法涵盖所有思维现象,正如她的经历证明,不同的神经类型意味着根本不同的认知方式。写作用力、有人味,从切身体验延伸到对AI行业的尖锐批评。末尾附有作者参与的Mozilla节和多伦多AI研讨会信息。
评论点赞收藏291 天前

机器所不知道的事

大型语言模型(LLM)是在"思考"还是仅仅在"排列词语"?本文从语言哲学和机制层面给出尖锐回答:LLM的每个词都是关于它应该被放在哪里的规则,而非指向人类体验的示意。作者用"弹珠迷宫"的比喻解释token embedding机制——词语被"塞进"数学上合适的位置,而非为了表达某个意义被"找到"。核心论点是:机器语法和机器词汇不可分割,词语本身就是规则,不存在对自身经验的想象。金句频出:"狗可以去教堂,但狗不能成为天主教徒;LLM可以有对话,但不能参与对话。"这不是冷冰冰的技术科普,而是一位人文学者基于对transformer架构理解之上的深度思辨,适合对"AI到底能不能理解"这个核心问题有好奇的读者。
评论点赞收藏307 天前

登录芦苇

登录后关注作者、收藏内容和参与讨论。