完美是无面孔的：AI时代，人性藏在缺陷里

和许多其他人一样，人工智能的进步让我开始思考人性。当然，我一直在思考“人性”这个词来指代我们所有人，最近我写了很多相关内容，但我也一直在思考人性作为我们每个人所拥有的属性，也就是作为人类的本质。

我最喜欢的故事之一是《奥术》。剧透警告。故事中，一个名叫维克托的角色成为“机械先驱”，治愈人们的缺陷，最终踏上“修复”人类的旅程。

个体最终变成的构造体如下：

金白色，纤细，快速却强健，强大、完美，却无面容。

我不确定编剧们写《奥术》时是否考虑到了我们的现代人工智能，但我忍不住觉得这是一个完美的类比。如今，数学家陶哲忧虑最新人工智能生成的证明和散文其实太好了.现在在hackernews读者有时是赞美奇怪的拼写错误被视为文本是人类的标志。

在故事写作实验中，虽然AI文本现在常常能赢得盲评测试，但它们写的故事既能被感受到，又能被感知测量就像彼此的复制品，只做表面上的改动。

这并不令人惊讶。在预训练阶段，模型会被训练成以普通人类为特征的独特性，然后通过强化学习，训练它们在所有可测量的方面达到完美。

完美是一个固定点，只要足够努力，许多事情都可以被测量，放在好坏的尺度上，并向其优化。我相信，剩下的只有我们的缺点，或者那些我们最终可以放下“更好”或“更差”概念的事情（这是很难做到的）。

我记得和一位朋友聊过她最喜欢的艺术家之一，H. R. Giger。他为《异形》等作品开发了艺术风格，而他作品的独特性有时被归因于他年轻时所经历的创伤。

我不认为真正的创造力必须来自创伤，但我确实相信，我们生活经历的独特性是机器永远无法复制的。要完美准确复制所有必要的内容，创作出捕捉一个人生活的作品，直观上必须完整模拟该个人的生活。

也就是说，我唯一敢断言AI永远无法做到的，就是完美呈现每个个体的独特复杂性，因为唯一的办法就是，嗯，像矩阵一样的完美模拟。

但这其实毫无意义，因为我们这里就有真实的版本。

当我环顾四周，看到人们开始理解人工智能有多“优秀”时，我看到了很多情绪。否认，认为它根本没有某些人说的那么好，这很常见。愤怒则不用多说。

在编程和数学等受影响最严重的领域中，最常见的情绪之一是抑郁。理解这些模型确实取得了真实成果，却不确定自己还能剩下什么。我也有过这种感觉，但后来得出了不同的结论。

我决定要爱我们所有的缺点和不完美。有些我仍会努力抗争或改变，但我相信它们都是自然的，绝不会选择将任何一个排除在人性定义之外。

相反，犯错才是真正让我们成为人的原因。我真心相信多样性是力量，但事实上，未来它可能是我们唯一的力量。我们必须找到爱它的方式，既爱自己内心，也爱彼此。

本文最初发表于威尔逊博客.