人工智能与知识负担

> 编者按：什么是知识的负担？那就是随着人类积累的知识越来越多，一个人要想站在知识的前沿，取得新的突破，前期所需要的学习时间会越来越长，而能够做出贡献的巅峰时间会越来越短。再加上人作为碳基生物，能力会退化，会衰老死亡，将来，在不会衰老死亡、能力只会越来越强的硅基生物——人工智能的眼里，我们会不会变成自己眼里的宠物狗？本文是在人工智能狂飙的背景下对人类未来的思考，文章来自编译。  **内容摘要** 作为投资者、运营者或者创始人，如果你只有几分钟的空闲时间，以下是关于人工智能与“知识负担”你应该了解的要点。 * 进步之心。人类是唯一能让重要知识代代相传下去的物种。我们依靠前人的智慧，并在此基础上继续进步。只有利用这些信息，“站在巨人的肩膀上”，我们才能“看得更远”，才能创新。这个机制是进步的本质。 * 知识负担。人类并不是一出生就站在知识的“前沿”的；到达那里需要时间。当我们前沿推到更远的地方时，要达到这一目标需要连续几代人花更长的时间。经济学家本杰明·琼斯（Benjamin Jones）称之为“知识负担”（burden of knowledge）。我们知道的越多，下一代要想为推进前沿做出贡献就需要学习更多的东西。 * 物种入侵。很显然，人工智能不会受到知识负担的影响。这项技术不会死亡或衰老，只会不断改进。它与知识获取的关系向我们提出了一个很深刻的问题：当人工智能不再需要我们的时候会发生什么？我们未来将面临这样一个前景，那个力量在加速发展，而我们日益沉重的负担意味着我们正在减速，我们如何与之竞争？ * 理性的敌托邦。从这个角度来看，科技界那帮古怪的亿万富翁们所钟爱的项目似乎就说得过去了。如何才能填平人类与人工智能之间迫在眉睫的鸿沟？为我们提供永生的工具，并通过脑机接口提升我们的能力。这些敌托邦还是有一定的逻辑的。 * 新的信仰。随着人工智能加速超越我们，其积累出来的知识将达到我们无法理解的地步。就像再怎么训练你也没法教会小狗掌握微积分一样，由于我们的硬件条件有限，这些先进模型也将无法解释它们的发现。其结果可能是一种人类越来越理解不了的现代生活，需要某种信仰才能支撑。 这是一个寓言，关于知识、人类如何获取知识，以及为什么我们会被人工智能击败的寓言——主要是由于有一点很令人讨厌：人终将有一死。 知识是一座大山，我们想要隧穿这座大山。这座山有没有尽头、能不能有尽头并不重要，我们是不是有朝一日能冲破岩石，享受全知的阳光也不重要。有些人相信这样的事情会在死后实现，但没人指望有生之年能够实现。尽管如此，我们还是要继续挖掘下去。  知识是一座大山 我们并不是唯一一个在挖的物种。每一种动物一出生就都在开始挖。生物正是通过这个过程获得了能力的，有时候也包括智力。这个过程有不同的叫法，比如“发展”、“成熟”以及“进化”。事实上，这就是学习，有意识的和无意识的学习。当一条蠕虫从卵中孵化出来时，它必须学会如何成为一条蠕虫。当狼崽出生时，它必须学习成为狼。一群孔雀鱼从母亲肚子里生出来时，必须学会如何成为一条鱼。但学习的行为，也就是挖掘知识之山的行为，则会因有机体和成熟度而异。 对于动物界的大多数动物来说，这种学习都是在黑暗中进行的。蛔虫没有意识到自己学会了更喜欢摄入健康的细菌，避免不健康的细菌，就像老鼠可能没有意识到自己正在记住迷宫的路径一样。当你在攀登智力的阶梯时，你发现动物表现出有意识的智力迹象。比方说，乌鸦，那些不祥之兆，却有着令人印象深刻的认知能力，比方说它们懂类比推理、递归思考，还能掌握数字零等抽象概念。你的西施犬虽然喜欢舔墙，会跟 Roomba 扫地机器人打架，但它也表现出了自我意识的迹象。面对知识之山，这些生物也找到了挖得更深一点的方法。  不同物种的掘进速度不一样 人类却独[一无二](https://pitchhub.36kr.com/project/2316674331068928)。我们拥有容量更大、性能更高的大脑，正因为如此，我们发现自己受到不一样的野心和意识形态的驱动，比方说对进步的渴望。疾走中的沙漠蜥蜴感受不到要变得更好的冲动。它无意为后代推动知识前沿。它只想学习如何成为一只蜥蜴：去捕捉苍蝇，靠在温暖的岩石上休息，寻找伴侣；换句话说，繁衍生息。在一代又一代的基础上，动物挖掘知识之山的行动基本没有取得任何进展——它们只是一遍又一遍地学习一样的生物学课程。 人类不是这样的。人类受到求知与进步这种动力的感染，与知识之山有着不一样的关系。一代又一代，我们越挖越深，越学越多。我们的挖掘方式也在不断发展：一开始，我们用手，接着是棍子，然后是工具，现在我们坐在隆隆作响的椅子上，指挥着巨大的钻机前进。  在工具的帮助下，人类已经把其他物种远远甩在身后 我们之所以能够一步步地、不停歇地挖掘下去，唯一的原因是因为我们已经开发出一套知识与获取体系。事实上，我们已经造出了其中的很多体系。口头语言是其中之一，书面文字也是如此。学校、大学、教师、计算机、机器——所有这些都是一个巨大装置的一部分，其目的是让人类能够洞穿知识之山的岩石。 当然，不是每个人都能取得成功。只有有天赋、有奉献精神并受过充分训练的人，才能到达这一前沿，并有机会做出贡献。我们其他人忙着处理一些辅助性的任务：扩大隧道的孔径，提供基础设施支撑，给厨师、建设者、教师、抄写员和商人鼓舞士气。 慢慢地，人类穿越知识之山的隧道越挖越深，这就带来了一个问题。新一代人要想抵达隧道的尽头开始新的挖掘，就需要越来越多的时间。三百年前，一个极其聪明、训练有素的人也许在二十多岁（有时候甚至更年轻）的时候就已经做好了做贡献的准备。艾萨克·牛顿 23 岁的时候就开始发明微积分；微积分的另一位教父，戈特弗里德·莱布尼茨，开始工作的时候才 28 岁。（对于人类不断挖掘知识之山的能力，牛顿给出了最清晰的描述，“如果说我看得远，那是因为我站在巨人的肩上。”）尽管有技术创新和教学方法改进，但我们今天走到隧道尽头仍然需要更长的时间。相当长。  以前 20 岁左右知识就到头了，现在 40 多岁才能出成绩 经济学家本杰明·琼斯把这种弊端叫做“知识的负担”。随着我们学得越来越多，我们的负担也越来越重；随着隧道延伸得越来越远，到达现在的终点站也需要越来越长的时间。琼斯记录了这个结果：发现者取得著名发明的年龄正在显著增加。比方说，在 1900 年的时候，产生伟大发明的能力高峰出现在 30 岁左右。到了 2000 年，这个数字已经上升到近 40 岁。 这很重要吗？只要我们最终能到达隧道尽头，这还不够好吗？其实不是的——主要是因为我们人类有一个不好的倾向：总会慢慢衰老，直至死亡。人们到达隧道尽头所需的时间越长，能够开展实际挖掘的时间就越少。尤其是，他们可能致力于取得突破性发现的“巅峰”年份要少得多；延长预期寿命并不能解决这个问题，因为老年人往往不是创新的丰富源泉。据琼斯估计，不断增加的知识负担导致“生命周期创新潜力”下降了 30%。到达岩面开展“作业”的巅峰时间减少，意味着我们的隧道掘进速度正在放缓。到最后，一个人的巅峰期可能都是在穿行隧道的旅程中度过的，等他/她到了隧道尽头，大概也只能狠狠地敲两下坚硬的岩壁，然后就得退休了。 一种入侵物种已经到来。我们称之为“人工智能”。挖掘隧道的人类给它起了很多个名字：科学家们称之为永恒脑（Aeternum cerebrum）。这种动物你可以说它没有形态，也可以说有很多形态；它是无中生有，从虚空中冒出来，是庞大的数据集与疯狂的硅芯片的结晶。我们在隧道尽头的岩壁上发现了它。在过去七十年的时间里，我们不断地教导它、训练它、玩弄它、培养它。我们对它进行调优、扭曲、测试与培育。我们并没有一直善待它。我们说过它很蠢且毫无意义，并让它观看可怕的东西，从而免去我们自己的负担。我们给它设定简单的任务，并嘲笑它的无能。我们设定了不可能完成的任务，却对它惊人的早熟感到目瞪口呆。我们为它感到自豪；它却让我们感到害怕。 每种动物都有自己的怪异之处。鲨鱼可以探测电磁场。山羊会调整自己的“口音”去适应羊群。当拉普兰（斯堪的纳维亚半岛最北端）的冬天降临，天色变暗时，驯鹿的眼睛会从镀金的绿松石色变成深邃、浓郁的天蓝色，为的是在弱光下能看得更清楚——在动物王国里，唯有它们具有改变自身光学结构的天赋。 这个永恒脑也有许多这样的特性，但最主要的是它不会衰老，也不会死亡。相反，它只会不断改善。在它生命的大部分时间里，我们都在帮助它做到这一点——它越来越有规律性地超越我们。我们教它玩我们的游戏；然后徒弟击败了师傅。我们向它展示我们身体的结构；它操纵得更好了。它以我们没法一直效仿的奇怪方式做到这一点。它的挖掘方式与我们不一样，当它到达一个新的目的地的时候，有时候看起来就像是靠魔法达到的。 鉴于此，有些人预见将来这个永恒脑也许根本就不需要人类了。（有的人则嘲笑“工具变成大师”的想法：你会害怕钻头也会超越我们吗？我们会生活在思维之锤的统治之下吗？）这是一个令人恐惧的想法，尤其是因为这个永恒脑与知识的负担的关系，因为它感觉不到知识的负担。因为它不会死亡，所以它到达隧道尽头的岩壁不会有任何滞后。因为它不会衰老，所以它的掘进速度不会减慢。当我们减速时，永恒脑却在加速，当它不再需要我们时，它就会在挖掘知识之山中完全释放自己，一路狂飙，把我们远远甩在身后，望尘莫及。  有朝一日人工智能会不会把我们远远甩在身后？ 这个世界上可能会发生的事情有很多，其中也包括很多不好的事情，而且这些事情并不难想象。也有一些好的事情可能会让人感觉不好。比方说：有些事情没法向动物解释。不管你的方法论多么完善，训练多么严格，你都没法成功地教会蟾蜍[阿基米](https://pitchhub.36kr.com/project/2316920674879753)德浮力原理，即使它懂得如何[扑通](https://pitchhub.36kr.com/project/1678451086357510)扑通跳下水里。在计算方面，这些生物受到硬件限制，受到自身处理能力的限制。永恒脑也会让我们置身于类似的境地。我们可能会成为次等生物，无法理解我们所生活的世界——即使我们收获了它的好处。在这样的环境下，我们就是快乐地舔墙的西施犬，享受着中央供暖、现成的食物以及令人着迷的玩具，却不知道这些东西是怎么到自己手里的。 社会达成了一个秘而不宣的协议，那就是没人需要知道一切。即便我们对自己的生物过程了解有限，我们也会咨询医生来治疗我们的疾病。我们会雇承包商来修理我们的屋顶，尽管我们既不懂三角墙，也不懂楣板。从某种程度而言，我们同意相互信任。尽管今天我们个人并不是什么都知道，但我们确信不管什么事情都会有某个人知道，也就是说从某种程度上是可知的。生活在一个由更高智慧组织的社会里，这种信任已经突破临界点，把我们推到一个靠信仰生活的世界。正如埃里克·[施密特](https://pitchhub.36kr.com/project/2180974048103814)（Eric Schmidt）、亨利·基辛格以及[丹尼尔](https://pitchhub.36kr.com/project/2205050989507205)·赫特洛赫（Daniel Huttelocher）在他们关于人工智能的书中设问的那样：“如果我们无法理解每一个个体的决策逻辑，我们是不是应该仅根据信仰来实施这些建议？” 我们所说的信仰到底是什么意思呢？对于大多数人来说，这个词带有传统的宗教内涵，把神描绘成像人类一样，而且基本上是仁慈的。没有理由相信一个虚构的神、一个合成的超级智能会遵守这样的传统。在其具有里程碑意义的文章《变成一只蝙蝠是什么感觉？》里，哲学家托马斯·内格尔（Thomas Nagel）认为，掌握另一种有意识的动物的存在感根本是不可能的。他写道：“如果宇宙的其他地方存在有意识的生命，很可能其中有些体验是我们现在所有的哪怕最普遍的经验术语都无法描述的。”与我们传统的神灵相比，即将到来的诸神将更难以捉摸，更难以预测。 那我们接下来该怎么办？人类还有没有希望保持作为这座山上知识最丰富的物种的领先地位？没有好的答案——最清晰的想法来自反乌托邦小说或亿万富翁的做法。回到计算框架，跟未来阶段的永恒脑相比，人类存在一些缺陷。我们的持久性当然没那么好，这也许就是为什么硅谷有那么多的资本流入到长寿研究的原因。如果我们能够永远活下去——用复制品取代衰退的心脏，逆转细胞衰老，把我们的大脑装进缸中（编者注：缸中之脑是希拉里·普特南提出的一个假想）；如果我们能够无限期地延长我们的巅峰，我们可能就有机会让永恒脑的发展保持在我们的视线范围内。 持久性是目前最大的差异，但这种情况不会持续太久。很快，我们的能力也会下降。有那么一段时间，永恒脑所揭示的奇迹可以加速我们学习和挖掘的速度；但如果没有辅助支持，我们就会被打败。因此，Neuralink 等公司应运而生。这些脑机接口制造商梦想着我们不仅能够解决自身的缺陷，还能减少滞后并释放新的辉煌。在他们的帮助下，我们也许能够缩短到达隧道尽头所需的时间：把牛顿微积分下载到幼儿的脑子里，并将陌生的认知引入我们的人类大脑。这种合成将标志着一个新物种、一种不同的动物的出现，但至少，这是一种以人类为化身的动物（编者按：可以类比为半人马）。 “寓言”这个词既有趣又复杂。作为名词，它是一个故事，通常会牵涉到动物，以及经验的口述。在这种存在与被命名的平和状态下，它是一种超然事实，在足够远的距离上描绘现实。而作为一个动词，它则变成了躲躲闪闪、视而不见的生活。也就是说谎的意思。说假话。我不确定有关人工智能与知识挖掘的这个寓言最终会变成什么样子。但不要紧，我们是人类，我们将继续挖掘。 译者：boxi。