Andy Masley

RSS: https://blog.andymasley.com/feed
摸着石头过河。

为什么我认为当前 AI 模型真的能思考和理解 - 第 1 部分,共 2 部分

<p>这篇比较长。为了完整论证,我不得不引入许多来自心灵哲学和科学的思想。我想如果人们读关于数据中心和水的中篇小说,他们会读一篇关于当前最重要的哲学问题的文章。<br><br>如果我能和聪明的朋友花几个小时表达我对人工智能和心灵哲学的真实看法,这就是我能做到的最好了。</p><h2>简介</h2><p>首先,我想明确说,当我说人工智能模型能“思考”和“理解”时,我并不是说它们拥有像我们一样的心智。人们用“意识”指的是两个相关但不同的事物,哲学家内德·布洛克称之为“现象意识”和“访问意识”。<br><br>现象意识是第一人称体验你作为一个人的感受。我们通常把这种意识看作不仅仅是信息处理。有一种独特的体验,无法用纯粹的第三人称视角来描述你的大脑状态。<br><br>访问意识是指你大脑中的信息同时被大脑的多个部分使用。这一点确实可以用第三人称语言完整描述,信息流经物理系统。人工智能可以拥有访问意识(同时在多个内部过程共享信息),但没有现象意识。<br><br>不会有“它是什么感觉”。因为人工智能会“感觉”得像死了一样。我不会假设或争论人工智能拥有现象意识。</p><p>我会在每篇文章中提出两个主张:</p><ol><li>我们的思维和理解大多不依赖于意识,而在意识依赖的地方,它们依赖的(访问)意识方面原则上可以在人工智能模型中复制。(本文)</li><li>当前的人工智能模型似乎具备实现真正思考和理解所必需且充分的品质。(第二部分)</li></ol><p>这些主张有争议,但我对每个观点的论点都很有说服力。我的论点不会基于任何关于思维或人工智能本质的有争议信念。相反,…</p>
评论点赞收藏13 小时前

我从有效利他主义中获得了什么

<p>这是我从这些想法集群中获得的核心内容系列文章的第一篇(EA)作为套餐提供。EA已经是,我与它公开合作已经有五年了,之前十年我一直在远处潜水。<br><br>这就是我想对一位聪明朋友说的话,他想知道与EA的高层次交易,超越推销说辞,但没有任何行话。这篇第一篇文章是对EA关于世界大故事的非常高层次的解释,以及为什么我认为它有用,但这只是众多心理工具中的一个。<br><br>我想向大家解释蚊帐、动物福利和人工智能之间的潜在联系。</p><h2>有效利他主义的世界故事</h2><p>有效利他主义的核心故事讲述了关于世界的,我们行善的方式,无论是通过捐赠还是事业,往往强烈取决于我们认为什么能让我们获得社会地位或其他帮助我们进步。<br><br>有充分理由相信我们更高层次的思维方式所以当我们开始寻找“如何做好事”时,实际上我们是在捕捉不同事业周围微妙的社会氛围,试图弄清那些“善良”(通常指高地位)的人在做什么、信仰什么。</p><p>这本身并非坏事或无用。地位系统传递了大量有用的信息。社会常常赋予事物地位,因为它们确实有用,只是无法以能清晰表达的方式告诉每个受我们赋予地位拉扯影响的人。<br><br>所以社会地位的行为很像市场,数十亿人的行为共同决定不同事物获得多少地位,而没有任何中央计划者做出最终决定。我们做好事的倾向实际上是对这些市场激励的反应。<br><br>这是好事!它让社会运转,帮助我们共同…</p>
评论点赞收藏9 天前

别把关于 AI 的表层隐喻当成描述根本现实的语言

作者(物理学背景)从物理学类比切入,指出人类日常使用的"物质""力""实体"等概念其实只是对底层现实的不完美地图,我们却容易误以为它们是世界的基本构成。 文章由此延伸到 AI 语境:当前讨论中大量"智能体""理解""意识"等表面隐喻被当成了对 AI 本质的描述,作者提醒读者不要把这类隐喻当作根本事实,否则会产生对 AI 能力的误判。 核心论点是:隐喻是工具,不是本体;区分"描述层级"和"底层机制"对正确评估 AI 很关键。信息增量在于用物理学的"地图-疆域"思维给 AI 讨论提供了一组清晰的认知框架,适合对 AI 叙事持怀疑态度的技术读者,但偏科普随笔、缺少工程或实验细节,讨论入口集中在"隐喻 vs 本质"的哲学层面。
评论点赞收藏11 天前

AI安全与数据中心反弹浪潮

Andy Masley认为数据中心反弹浪潮是让更多人认真思考AI风险的机会,但反弹本身对AI安全帮助有限。他同时是反对AI环境误解的公众人物,也是有效利他主义AI风险担忧者,这篇文章是他在这两个身份之间的个人立场梳理,整体偏推测性而非实证。
评论点赞收藏29 天前

数据中心抵制潮,到底是在反对什么

Andy Masley认为数据中心抵制潮就是针对数据中心本身,而非其他政治议题的替罪羊。不同政治阵营都试图把这场争议解释成自己一贯主张的延伸——反大科技的人说是抵制科技巨头,经济增长怀疑论者说是反对以增长衡量福祉,AI安全倡导者说是担忧AI失控推进。 Masley指出这种解读过于强大且激烈,不像是单纯针对建筑本身,但他认为评论者倾向于把动机 conveniently 对齐到自己已有的政治立场。
评论点赞收藏35 天前

其他大型产业揭示了数据中心争论的贫乏

一篇反思数据中心争议的文章,以韩国光阳制铁厂航拍图切入,指出人类在宏观和微观尺度上塑造世界的能力远超数据中心能耗争论所体现的视野。 作者认为将数据中心问题放在钢铁、造船等重工业背景下,能揭示当前讨论的狭隘。
评论点赞收藏42 天前

如何避免陷入意识形态狂热

Andy Masley 写了一篇关于意识形态极化的反思:当你持有激进观点时,遇到的大多数反对者往往缺乏相关知识,他们的糟糕论证不应成为强化自己信念的理由。 他用马克思主义、纯素食主义、核武器政策等例子说明,普通人普遍对专业议题一无所知,因此应该主动寻找真正有深度的批评者,而非从随机路人的无知中得出"我是对的"的结论。
评论点赞收藏51 天前

Toward Environmental Liberalism

The underlying idea of political liberalism is that free, reasonable people will come to drastically different conclusions about ethics and metaphysics: what counts as violence, how scarce resources s...
评论点赞收藏82 天前

AI Art as Curation

When I make an AI image or song, I don’t feel the kind of satisfaction I do when I draw, or play something on the guitar. Angry memes about how “no one making AI art is an artist” just bounce off me, ...
评论点赞收藏89 天前

What does it mean for AI to be democratic?

I love democracy. I have what’s basically religious zealotry for the form of liberal democracy most of the wealthy world lives under. Citizens having control and oversight of their leaders is a rare t...
评论点赞收藏101 天前

A simple trick to fix the data center debate

A lot of the data center debate is guided by status quo bias, where people are much more likely to oppose any change or new externalities regardless of the upsides. To override this, a simple trick I ...
评论点赞收藏116 天前

A history of the data center panic - part 1

I write a lot about misconceptions about data centers, which until recently people saw as a weird niche obsession that didn’t matter in the national discourse. Now that the (I think mostly unfounded) ...
评论点赞收藏133 天前

A crash course on US air pollution

In December 2024, a paper estimated that air pollution from US data centers could impose more than $20 billion in annual public health burdens by 2030. A later version moved that forward to 2028. The ...
评论点赞收藏134 天前

Data center land use issues are fake

A few weeks ago I shared my axis of which data center concerns I think are most real and fake: I’ve already covered water use, water poisoning, and infrasounds. There’s one fake issue left to address:...
评论点赞收藏150 天前

登录芦苇

登录后关注作者、收藏内容和参与讨论。