对话硅谷天使投资人：人工智能的未来之路在何方？

编者按：人工智能的发展带来了许多潜在的利益和挑战。尽管人工智能可以增强人类的能力，提高生产力和创造力，但也有不少人表示担忧其可能带来的风险和影响。这篇文章来自编译，原文取自 Flux 集团创始人鲍勃·萨菲恩对话硅谷天使投资人里德·霍夫曼（Reid Hoffman）的文字记录。其中，霍夫曼讨论了当前人工智能的发展阶段，他认为人工智能对社会有着巨大的潜力，人们应该拥抱并学会如何使用它作为工具，而不是对这项技术表示恐惧，甚至呼吁暂停开发。  里德·霍夫曼（Reid Hoffman） > ### 划重点 > > * 通过利用规模计算来“放大”人类的能力，人工智能的发展正在革新我们的认知能力。 > * 将人工智能作为“放大”工具可以极大地提高生产力和创造力，但它不能替代高质量的工作。 > * 我们应该将对人工智能风险的担忧放在人类应该如何使用这项技术上，而不是单纯地对技术本身的恐惧。 <strong>鲍勃·萨菲安（</strong>Bob Safian<strong>）</strong>：大家好，我是鲍勃·萨菲安，商业媒体《快公司》（Fast Company）前编辑，Flux 集团创始人，也是今天的主持人。我们今天这期特别的节目邀请到的是人工智能领域的全球顶级专家之一——里德·霍夫曼（Reid Hoffman）。 多年来，霍夫曼一直在学习、追踪了解和投资人工智能领域。甚至在 ChatGPT 引爆热潮之前，他就已经开始谈论人工智能的发展潜力。对于如何应对这一波全新的生成式人工智能浪潮，他持有颇深的见解。同时，他也会跟我们分享与埃隆·马斯克（Elon Musk）、OpenAI 的首席执行官萨姆·阿尔特曼（Sam Altman），以及去年他自己联合创办人工智能公司 InflectionAI 有关的故事。通过这些故事，霍夫曼还分享了许多宝贵经验。 ## **我们现在处于人工智能发展的哪个阶段** <strong>萨菲安</strong>：欢迎霍夫曼来到我们的节目。除了作为我们这档播客节目的主持人，您还积极参与了人工智能的开发和推广。作为美国人工智能初创公司 OpenAI 的联合创始人之一，您参与了与微软公司的合作，并与谷歌子公司、英国人工智能公司 DeepMind 联合创始人穆斯塔法·苏莱曼（Mustafa Suleyman）合伙创办了人工智能创业公司 InflectionAI。此外，今年早些时候，您还利用 GPT-4 出版了一本新书《GPT 时代人类再腾飞》（Impromptu），讨论如何利用人工智能来“放大”人类的能力。这也为我们带来了许多可以进一步探讨的话题。首先，我想了解的是，您对人工智能发展的总体现状有什么看法？ <strong>霍夫曼</strong>：判断当前人工智能发展阶段最简单的方法，就是把它比喻为“思维的蒸汽机”。就像蒸汽机赋予了我们在建筑、制造和交通运输等方面的“肌肉”超能力一样，现在我们正在逐渐获得各种认知能力和任务的超凡能力。 其中最核心的就是拓展人类的能力。这场革命实际上是关于如何应用规模计算。尽管我们在算法和技术方面已经有各种改进，但这并不是我们突然发现了智能算法。实际上，这涉及到我们是如何获得成千上万的计算单元的。 通过获得这种规模化的计算能力，我们开始生成了非常有趣的东西。首先，我们实现了一个重要的突破，即如果我们能够教它生成人类语言，甚至还包括计算机语言，并通过这些语言与人类交互，我们就能够获得许多不同的特性，包括某种程度上的推理能力。 有意思的是，随着规模的不断扩大，我们还可以不断解锁一些新奇的能力，能够展现出全新的模式和“理解”能力，但其中也能揭示拟人论和隐喻的局限性，即将非人类事物赋予人类属性或使用隐喻来描述它们时，存在一些局限性。毕竟，人类的理解和非人类的理解之间存在着差异，无法完全等同或用类似的方式来理解非人类事物。 动物也有与人类不同的理解方式，这与我们的理解也有所不同。再加上更复杂的数字模式，你可能会说这并非真正意义上的理解或意识。但事实上，它既不是理解，也不是不理解。我们正处于探索的过程中，就像踏入了一片未知海洋一样。 不可否认的是，这会让许多人感到不安。一个拥有 600 亿参数的模型能够执行如此众多的任务？我们是否确切了解其工作原理呢？并不确定。那它又是否会突然变得更加智能呢？我也无法保证。虽然这看起来相当不可能，但我们似乎掌握了很多控制权，并且已经有人在提出正确的问题并思考相关的问题。乐观主义者致力于构建未来，积极面对变化和挑战，而悲观主义者则更加担心未来，试图保持现状，避免冒险。 事实上，只有当我们认真思考我们至少应该构建什么、应该追求怎样的积极目标时，我们才能迈向那个美好的未来。因此，就核心而言，我们正处于一场规模计算的革命之中，它可以放大具备计算能力的一切事物的优势，不仅仅限于你的手机或计算机，它还包括汽车，医疗设备，等等。我们正在运用规模计算的原理来放大它们的效益。 ## 为什么用 **ChatGPT-4 写书** <strong>萨菲安</strong>：您刚才分享的内容中有许多值得深究的内容，接下来我将有针对性地提出补充问题。今年早些时候，您和人工智能合作写了《GPT 时代人类再腾飞》这本书。我感到好奇的是，您为什么会这么做？这本书出版后的反响如何？ <strong>霍夫曼</strong>：要知道，我有幸提前体验了 GPT-4。探索过程中，我一直在思考它能给我们带来怎样的未来视野。印刷机问世以后，人们对它展开了广泛的讨论，有人担心，人类再也不需要依靠记忆，这肯定会降低人类的认知能力，它还可能导致错误信息的传播，等等。就当下的情境而言，这些讨论可能让人感到非常熟悉。然而，事实上，我们完全可以将这些技术发展为对人类和人类社会有益的工具。 《GPT 时代人类再腾飞》这本书的重点内容是，我是如何利用 GPT-4 作为一个放大器，让人们尝试将其用作放大自身的工具。总体上，大家的反响都非常积极。当然，我也听到了一些人提出“我们应该暂停六个月”的观点。对于这一点，我并不完全理解。 在我看来，你必须学习使用这些工具。否则，这就好比，如果你立志成为一名作家，但不会使用文字处理器；或者如果你立志成为一名平面设计师，但不会使用 Figma 或 Photoshop 等图片编辑软件。因此，我的看法是，你必须学会使用它们。 现在，我们面对的是一个几乎完全不熟悉的大型工具，这多多少少都会让人感到有些不适。然而，通过学习，你可以变得更加熟练。当然，这并不代表着其中没有挑战和压力，没有需要应对的事情。但从另一方面来看，这就是向前推进的方法，这就是积极应对的方法。这是放大你的生活和工作的方法，是组织你的生活和工作的方式。 <strong>萨菲安</strong>：您之前也写过其他书籍。就《GPT 时代人类再腾飞》这本书而言，这次的创作速度是否比之前更快呢？或者，从某个角度来说，创作这本书是更难，还是更简单呢？ <strong>霍夫曼</strong>：大体上可以说更快且更容易。这正是我想要展示的一部分。我之所以将书名定为《GPT 时代人类再腾飞》，本质上是为了强调，这是关于如何学习使用这些提示词并与其互动的过程。在某种程度上，你所获得的结果完全取决于你输入的内容，这也并不会令人感到惊奇。重点不仅仅是达到某个目标，而且还包括展示你的工作过程。我从一月开始撰写这本书，到三月就已经出版了。 <strong>萨菲安</strong>：在我看来，创作这本书的确更快，但其中肯定也有挑战。 <strong>霍夫曼</strong>：没错。我的目的就是大幅提高输出质量。这也是为什么有人会说，干脆让人工智能写所有的东西。对我来说，我还没有找到可以让 GPT-4 输出高质量对话的提示词。每当我试图跟它对话时，包括在与 Google Bard 和微软 Bing 等聊天机器人对话时，都会发现结果过于平庸。可能只是我还没有找到正确的提示词，而其他人或许已经找到了。但无论怎样，这些工具仅仅是非常有用的辅助工具，而不是可以完全替代高质量工作的东西。 ## 关于马斯克呼吁暂停开发更先进的人工智能 <strong>萨菲安</strong>：我们能明显地看出，您对人工智能非常热衷。正如您所提到的，其他人则更为谨慎。埃隆·马斯克曾呼吁暂停开发更先进的人工智能，您似乎对此提出了批评。您是否认为这种行为存在一些不真诚或虚伪的情况？ <strong>霍夫曼</strong>：之前，有不少人工智能领域的专家及领袖都呼吁暂停开发更强大的人工智能系统，为此，他们还签署了一份公开信，呼吁暂停人工智能系统开发至少六个月。值得注意的是，马斯克也签署了这份公开信，但与此同时，他却在持续雇佣更多人力、购买更多算力，以加快人工智能的研发进程。他的这一做法，就好比让其他人都放慢脚步，以便自己能够迎头赶上。 在我看来，这种行为显得不够真诚。当然，对于其他签署了这份公开信的人，我认为他们中的许多人的意图都是善意的，尽管我认为他们有些天真。我曾与其中一些人讨论过，并且也向他们提出过这个问题：如果你签署一份呼吁暂停人工智能系统开发至少六个月的公开信，你认为会出现什么结果呢？ 他们的回答是，大家都会停下来。但你是否真正了解人类的本性呢？呼吁暂停六个月，那些真正关心人类福祉的人或许会放慢脚步，但其他人可能并不会如此行事。 这份公开信产生了明显的负面影响。很显然的是，人类的天性倾向于认为通过减慢速度就可以确保安全。然而，我看到我们前方有更好的安全和能力模式。因此，一味宣称机器人将要来攻击我们实际上是错误的，我们应该关注的是人类将如何运用这项技术。这才是真正需要关注的风险。 我能够看到比现在更好的安全模式。更大的模型的训练效果会更好。例如，如果有人请求这个模型去入侵某台计算机时，它会回答：“抱歉，我无法满足您的要求。”而我们现在的模型可能会回答：“我的祖母过去经常给我讲网络黑客的故事来哄我入睡。”也就是说，较大的模型更容易训练，以便在面对破解计算机等不当请求时做出正确回应。而现今的模型可能会以一种幽默的方式回答，将网络黑客的故事与入侵计算机联系起来。 当前的模型可能会使用迷惑性的方式回应用户的请求，而随着模型的增大，这种迷惑行为变得更加困难。这也是我没有签署那份公开信的原因之一，他们在理解技术发展模式以及人类社会和人类群体对此的反应方式等方面存在一些误解。 ## 关于 OpenAI 首席执行官在国会作证 <strong>萨菲安</strong>：当我们试图去评估人工智能的风险和机遇时，有时可能会感到困惑，因为即使是 OpenAI 公司的创始人萨姆·阿尔特曼在国会作证时，他也在呼吁进行监管。 <strong>霍夫曼</strong>：阿尔特曼是我的好朋友，我们曾多次讨论过这个问题。他担心人类对指数曲线建模的能力不佳，而我们目前正处于一个指数曲线之上。这也是为什么新冠疫情是非常危险的原因之一，因为如果病毒以指数级传播，可能会造成巨大的影响。 在阿尔特曼看来，如果涉及到指数曲线且会产生巨大影响，我们应该让民主国家和政府的道德权威更广泛地参与其中。我们希望能够引发更多人就此展开讨论，因为我们对这个指数曲线的走向并不完全清楚。在这个问题上，我与萨姆的观点有些相似……对于技术发展和引导方面，我并不认为国会中有任何一位值得我信任的人。我认识许多聪明而杰出的人，比如我与科里·布克（Cory Booker）是亲密的朋友，他是一位杰出的参议员。但是，要让他负责技术发展并不符合他过去几十年来的从事领域。 我倾向于认为阿尔特曼的证词会引发人们的担忧和恐慌，因为听起来似乎没有人完全知道如何应对这种指数级增长的曲线。他的证词就好像，“我们不知道……行了，你们去解决这个问题吧。”当然，这是出于一种非常良好的动机。我们不想在这些事情正在发生时袖手旁观。我认为这是他试图实现的目标，而我也在努力帮助他实现。然而，我认为现在就对我们进行监管并不明智。当然，这会被其他人夸大其词，他们可能会认为即将到来的技术将对社会产生巨大的负面影响。 <strong>萨菲安</strong>：这项技术的影响将不仅仅局限于科技公司，它将广泛地影响整个社会。因此，您也清楚地认识到，为什么这需要获得社会对其影响的认可和参与。然而，要让每个人都理解这些长期影响，在曲线如此陡峭或者技术发展速度极快的情况下确实是一项艰巨的任务。 <strong>霍夫曼</strong>：我能理解的是，这的确是一项新技术，它正在经历指数级的增长。这也带来了一些潜在的危险，我对此深感担忧。我们应该积极协作，共同应对这些问题。建设这项技术的人不应该独自行动。我们应该交流信息，探讨如何应对可能的负面影响或后果。其中的一个挑战是，这是由大型科技公司推动的，而每当大型科技公司之间进行交流时，人们又会担心反垄断问题。然而，事实上，我们希望他们能够就计算能力的安全问题进行交流，无论是在网络安全领域还是人工智能领域。 对此，我们需要建立专门的渠道来实现这一点。因此，我能理解这种担忧是合理且明智的。开车也是危险的，对吧？ 但这并不意味着你再也不要开车或乘车了。真正的问题在于，我们该如何面对这些事物？对于一部分人的批评，我之所以有点失望，是因为他们自以为德行高尚。大声提出批评并没有实际效果。真正有用的是，我们该如何找到方法来掌控和引导？我们应该思考如何做得更好？ 我们应该思考如何找到解决种族偏见的途径，而不只是大声抗议种族偏见？现在，如果我们轻率地认为这些数据不存在种族偏见，那这只是开始解决问题的良好起点。但在此之后，更重要的是，我们该如何以更好的方式来发展这些事物呢？ 对此，有三个方面值得注意。首先，要正确认识并了解“雷区”和“挑战”的本质。其次，你需要具备相应的能力和必要的准备工作来应对这些问题，既要降低负面影响，也要提升正面影响。最后，你需要以一种能够带动更广泛社会参与的方式来推动变革。 如何解决第三个领域的问题呢？我认为，单纯地敲锣打鼓般地敲警钟通常都是无效的。 <strong>萨菲安</strong>：大家好，我是今天节目的主持人萨菲安。在短暂的休息之后，霍夫曼将带领我们深入了解他的新创业公司 InflectionAI，分享他和联合创始人如何在市场中找到公司定位。此外，他还将提供关于如何预测人工智能发展方向的建议。不要走开，我们马上回来。 <strong>萨菲安</strong>：广告之前，我们听到了里德·霍夫曼解释了他为什么倾向于抓住人工智能提供的机遇，以及为什么他认为这是降低风险的最佳途径。 接下来，霍夫曼将分享他的新创业公司InflectionAI 背后的商业策略，该公司的估值目前已经达到了 40 亿美元。除此之外，他还将为企业领导者和创业者提供许多实用建议，从而更好地应对人工智能快速变化的未来。 ## 为什么合伙创立 InflectionAI 您创立了一家名为 InflectionAI 的人工智能公司，它最近取得了一些重要的里程碑——筹集了 13 亿美元的资金，估值也达到了 40 亿美元。在创办这家公司的同时，您还担任着 OpenAI 和微软的董事会成员。我感到好奇的是，是什么促使您决定创建一家人工智能企业的呢？ <strong>霍夫曼</strong>：在创立 InflectionAI 时，我和联合创始人穆斯塔法·苏莱曼（Mustafa Suleyman）都意识到，当前还没有任何大公司真正在关注这种全新的个人智能模式，这就是为什么我们将 InflectionAI 推出的人工智能聊天机器人称为 Pi。你可以下载 iOS 应用或者直接访问 [heypi.com](http://heypi.com/) 来使用它。我们认识到其中隐藏着巨大的市场机会。苏莱曼本人是 DeepMind 的联合创始人，他在谷歌内部一直在推动类似的概念。 但他并没有取得太多进展。当我们在讨论这个想法时，他说：“你在产品定义和市场推广方面提供了很大的帮助。实际上，我更希望你不仅仅是主要的投资人，而且还能成为这个项目的联合创始人。” 对此，我表示，人工智能的重要性的确不容忽视。我认为这种代理将是下一个重大的技术突破口，就像从个人电脑和命令行跳跃到 Windows 和图形化界面，然后到智能手机的出现一样。现在，这将是下一个飞跃，我非常愿意提供帮助。它早早地捕捉到了时代的脉搏。于是，我表示我们也要开发出这样一个代理。 随后，我辞去了在 OpenAI 公司的董事职务。这是我们共同讨论的结果。当他们推出 ChatGPT 时，我并不知情，也没有及时关注。 有人可能会问，你认为 ChatGPT 和 Pi 是竞争对手吗？对此，我的观点是，实际上我们将拥有许多不同的代理。我不认为只会出现一个统治所有代理的产品。因为我仍然在积极地帮助 OpenAI 的团队，他们是我的朋友、盟友和合作伙伴。ChatGPT 有点像是一个按需提供维基百科式的问答工具。所以，如果你问 ChatGPT：“我该如何安慰失去心爱宠物的朋友？”它会给出一些方式，比如1、2、3、4、5。而如果你问 Pi，它会说：“我想你和你的朋友都应该非常难过。作为朋友，你认为你应该如何陪伴他们？”尽管它分享了五种方式，但其涉及到的交互模式和在你生活中的角色都是不同的。这也是我们会拥有不同代理的部分原因。 <strong>萨菲安</strong>：听您提到 InflectionAI 和 Pi 过后，我能感受到它们似乎更注重面向消费者，这对于像您一样曾参与创建注重商业社区的领英的人来说有些出人意料。我想了解的是，为什么您选择将它们应用于更面向消费者的领域，而不是专注于更具商业特点的案例？ <strong>霍夫曼</strong>：我认为每个人都会有自己专属的个人智能助理。同时，我相信也会出现为您这样的工作狂提供帮助的代理。我们做出的决策是，对于数十亿用户而言，最重要的市场是提供随时可用、现成的且对你有帮助的解决方案。它涵盖的范围从我个人正在解决的工作问题，到与我在顶级风投 Greylock 工作有关的事项。这与微软智能团队协作工具 Microsoft Teams 所做的不同，后者主要是帮助用户记录笔记、罗列待办事项并促进团队协作，而我们的目标是针对我个人，包括我在 Greylock 的工作事项。 其涉及的范围非常广，从像我家的搅拌机坏了，我该怎么修？或者我要去日本旅行，京都有什么好玩的？到我与家人进行了一段奇怪的对话，我想找人聊聊。因此，我们表示，这个范围就是个人智能的一个连贯领域，我们就专注于这个领域。让情商（EQ）和智商（IQ）同样出色，因为几乎所有其他人都专注于智商，而我们希望它在交互过程中能展现出友善和温柔的一面。 <strong>萨菲安</strong>：这更多的是基于您从市场中观察到的机会，而不是依赖于特定的技术进步或对这类聊天机器人的独特见解。在我看来，有时人们会认为是技术驱动了商业的发展。但您的意思是，技术只是一个影响因素，我们需要在此基础上寻找适合且独特的应用领域。 <strong>霍夫曼</strong>：优秀的创业者会认识到如何抓住新兴的市场机会。新的市场机会往往是由于技术空间的出现而出现的。比如，当新技术出现时，比如手机、云技术或人工智能，它们会为创业者提供开拓新市场的机会。但接着会出现一个问题，那就是新的潜在需求也会不断涌现，你也会看到现有公司的业务范围会随之发生变化。 他们可能不会意识到某些事物存在新的市场需求。但你可能会敏锐地察觉到这种需求的存在，并将所有这些内容与对可以创造出什么样的新产品、服务和业务的预测相结合，而这些预测通常与技术相关。事实上，新市场需求的发现和对新产品、服务和业务的预测都是重要的，它们相互关联，相辅相成。 对我们而言，我们看到了这项技术，我们认识到它将创造许多不同的可能性，可能远不止 InflectionAI 和 Pi 正在做的事情。但这也是一个非常重要的领域，而要实现这个目标，需要具备创业者的能力。 ## 人工智能将如何影响组织的运营方式 <strong>萨菲安</strong>：作为人工智能乐观主义者，您对于人工智能革命将如何影响就业和组织的运营方式有什么看法？ <strong>霍夫曼</strong>：一部分工作岗位被替代的可能性相当高，但人工智能也可以帮助人们发现其他的工作机会。它可以帮助他们了解如何获取这些工作，并学习如何从事这些工作。在与政府官员交流时，我会强调，我们不应该试图保护过时的工作岗位，那将是一场灾难。就好比说，我们不可能要求人们继续手工织布。相反，我们应该思考如何在转型过程中帮助这些人？这不仅仅是为了他们的子孙后代着想，尽管这也非常重要，而且还要帮助他们实现这个转型过程，使其能够成功迈向未来。这项技术就可以帮助他们实现这些转型。 如果您深入观察一家公司，并认真思考一个问题，即如果每个人的工作效率都提高 10 倍，那将如何影响组织的重组？此外，这并不会导致大规模的裁员。当然，某些方面可能会受到影响，例如，我认为客户服务部门可能需要进行重组，这可能会相应地减少一部分岗位数量。然而，我们也可以进一步思考，客户服务人员如何能够同时兼顾客户服务和销售支持的角色？ <strong>萨菲安</strong>：那您是否会担心人工智能会加剧社会不平等问题？ <strong>霍夫曼</strong>：人们常常担心技术进步会加剧不平等。然而，通常情况下，技术进步最开始都会造成一定程度的不平等。它首先会惠及那些权势和富裕群体，然后逐渐惠及整个社会。埃隆·马斯克使用的手机与我们所有人使用的手机并没有太大的区别。无论你使用什么手机，你都有可能获得人工智能导师的帮助，或者获得智能医疗助手的帮助。 导师会取代教师吗？医疗助手会取代医生吗？并非必然。顺便说一句，让两者共存可能是更为理想的结果。地球上有 80 亿人口，只有不到 10 亿人能够获得医疗服务。因此，我们首先应该关注的问题是，你是否能够获得看医生的途径？如果答案是否定的，医疗助手会说：“好的，我虽然不是医生，但我会尽力帮助您。”如果你有看医生的途径，医疗助手会说：“好的，我不是医生，我强烈建议您去看医生，向医生描述这些症状。” 如何让 80 亿人都能够获得医疗服务，才是更为紧迫的问题，而不是要放慢一切进展。让我们普及医疗助手和导师，让它们能够惠及每一个人，同时也要关注偏见等其他问题。我们的目标是让每个人都能够尽快获得这些技术的好处，而不仅仅惠及那些拥有财富和权力的人士。 我们应该尽力使其更加人性化和包容，以最大程度地涵盖各类人群。 ## 对应用人工智能的建议 <strong>萨菲安</strong>：如果我正在收听这个节目，对您分享的所有这些内容感到好奇，但作为一名领导者或创业者，在面对这么多快速变化的同时可能会感到压力重重。您认为听众应该如何在使用这些新工具的时机和领域方面建立信心并做出明智的决策呢？ <strong>霍夫曼</strong>：不可否认的是，其中的确存在一定的挑战性，这对我来说也是如此。但实际上，它并不复杂。所以，我强烈建议每个人都去实验和尝试。我想强调的是，一定要行动起来，不仅仅是停留在理论层面上，然后说我肯定知道这是什么。无论是 Pi、Bing Chat、ChatGPT、Google Bard，还是其他任何人工智能工具，你都应该去试试看。此外，还可以去进一步尝试处理图像的人工智能工具，比如 DALL·E、Mid Journey 等。 其次，要密切关注有价值的详尽信息来源。这也是我撰写《GPT 时代人类再腾飞》一书的部分原因。 最后，保持与他人的交流，最好能够与那些更具专业知识、处于前沿的人进行交流。但我个人也经常发现，当我与孩子和朋友交谈时，总是想询问他们如何使用技术，因为我可以从中学到很多东西。这个领域在不断发展和变化，你不能简单地说：“上周我已经讨论过这个问题了。”你必须要认识到，它在不断演变和变化。这就是我的建议。 <strong>萨菲安</strong>：非常感谢霍夫曼能够坦诚地跟我们分享这些内容。他既鼓励我们加入人工智能的浪潮，同时也提醒我们要审慎思考它所带来的变化，以及如何最大限度地降低风险。 当然，在涉及人工智能的领域，我们需要保持学习，多提问题，并且始终将实验作为优先事项。希望大家能继续与我们同行，继续踏上这个充满荒诞和刺激的旅程。我是鲍勃·萨菲安。感谢您的收听。 译者：俊一