当人工智能开始取代人类时

编者按：验证码（CAPTCHA）的意思区分人与计算机的全自动公共图灵测试。但除了承担这区分人与机器的这个表面任务以外，验证码还有一个隐秘的作用，那就是利用人类去训练人工智能。直到有一天，机器的表现渐渐超过了人类，这时候你还能用它来分辨对方是否是人类吗？这也是机器取代人类的开始。文章来自编译。 要想跟踪技术的发展动态，办法之一是看看验证码（CAPTCHA）。 CAPTCHA是Completely Automated Public Turing的缩写，意思是区分人与计算机的全自动公众图灵测试。你可能还记得验证码的第一次迭代，你得解码那些歪歪扭扭、难以辨认的单词。  我们都按下过那个有点反乌托邦的按钮：“我不是机器人。”  验证码出自 reCAPTCHA 公司，这是由卡内基梅隆大学研究生研究员路易斯·冯·安 (Luis von Ahn) 于 2007 年创立的， 2009 年，公司被出售给谷歌。很多人没有意识到，你辨认的那些歪歪扭扭的文字正在帮助将旧书数字化。一般来说，早期验证码提供给用户的那些扭曲的单词都是计算机看不懂的旧文本当中的单词。比方说，如果有足够多的人把难以阅读的单词识别为“dog”，那么这个单词就会被（计算机）自信地解读为“dog”，然后验证码就会换一个新的单词来挑战用户。 2007 年，reCAPTCHA 与《纽约时报》合作，帮助将这家报纸 100 年来的档案实现了数字化。在收购了 reCAPTCHA 之后，谷歌为该公司提供了强大的支持，CAPTCHA 很快每年就破译了相当于 200 万本书的内容（！）。最重要的是，在将 reCAPTCHA 出售给谷歌的两年后，路易斯·冯·安又创立了 Duolingo。今天他仍然是Duolingo的首席执行官。 后来验证码不再给我们提供歪歪扭扭的单词了。它的新迭代我们都很熟悉，交通灯、人行横道、车辆的图块。  大家在网上普遍都有过这种体验，以至于辨认验证码成为了无数模因的来源。  下面的问题在 Quora 上引起了激烈的争论——电线杆究竟算不算交通信号灯的一部分？ 🤔  当然，reCAPTCHA（以及幕后的谷歌）让我们识别交通信号灯是有原因的。跟将旧书数字化一样，他们暗地里有个目的。这一次，数十亿人正在帮助谷歌训练它的人工智能。每识别出一辆自行车，你都是在帮助谷歌提高图像识别能力。事实证明，这对谷歌至关重要，尤其是在自动驾驶汽车方面。 （这就是为什么我们会看到那么多与街道相关的物体，如人行横道和交通灯！🚦） 这些努力得到了回报：谷歌的图像识别能力现在比人类的图像识别能力大概要高20%。 验证码诞生的目的只有一个：我们如何才能区分人类与计算机？ 很少有比这更应景或更紧迫的问题了。美国无数的学校教师正在努力区分学生提交的论文哪个是自己写的，哪个来自 ChatGPT 的输出。上面 Quora 的那个问题获得了人类的回复，写得很好，但 ChatGPT 的回复也很容易被当作是人类写的。 （Quora 已经在与 ChatGPT 合作，并在自己的网站上为这个聊天机器人提供了宝贵的空间。）  ChatGPT对杆算不算红绿灯这个问题的回答 验证码的早期迭代反映了互联网的早期目的：把离线信息转化为在线信息。互联网就是为了聚合所有的人类知识然后再进行索引的。所以谷歌是第一个时代的主要受益者，在线搜索索引部分被它占住了——这可以说是有史以来最伟大的商业模式。 验证码的更新迭代反映了技术的最新应用——强大的人工智能模型现在处理人类的独特任务也能表现得比人更好了。这张图表里面的实线展示的是人工智能在图像分类和阅读理解方面相对于人类基准（虚线）的表现：  资料来源：高盛研究 上周的一篇文章也展示了类似的可视化（来自Visual Capitalist）：  当然，最近的验证码很有讽刺意味的一点是，人类一直在训练人工智能，结果直到某一天，会让人类在机器面前变得过时。 （倒吸了一口凉气吧！） 当然了，这种说法有点夸张——实际上，把人类（人物）自动化并不一定是坏事。很多任务都是死记硬背、吃力不讨好的那种，自动化这些任务可以让人类腾出时间来处理更复杂、更有价值的工作。但人工智能进步的速度已经快到令人恐惧的地步。盖洛普的一项新调查发现，现在有 22% 的美国员工担心人工智能会取代他们，而 2021 年这一比例为 15%。没有大学学位的员工对人工智能的恐惧维持在 20% 左右，而拥有大学学位的员工对人工智能的恐惧有所上升，两年内从 8% 大幅增加到 20%。  不同人群对人工智能的恐惧度 本文将深入探讨人工智能会如何取代人类，以及会产生什么样的连锁反应。内容可以分成三个部分： 1. 工人失业 2. 人工智能原生市场 3. 人工智能原生生产力软件 ### 工人事业：高层视角 就算是流行歌星也没法躲过人工智能自动化的影响。 今年夏天，华纳音乐集团签订了第一份人工智能表演合约，这位由计算机生成的演出者叫做 Noonoouri。 Noonoouri 在 Instagram 上拥有 40.5 万粉丝，被称为“有史以来第一位全数字化的流行歌星”。而她的歌声是经过真实人类声音训练的生成式人工智能做出来的。  Noonoouri 是第一位与大厂牌签约的人工智能生成的流行歌星 当然，Noonoouri是更广泛的自动化的一个例外，尽管是个迷人的例外。人工智能自动化的大部分工作不会出现在流行音乐领域。泰勒·斯威夫特与碧昂丝目前大概是安全的。 面临自动化冲击的首先的是普通人。据高盛研究（Goldman Sachs Research）估计，生成式人工智能会导致 3 亿个全职工作岗位面临自动化，当前的工作岗位当中有三分之二已经实现了一定程度的自动化。以下是高盛预计受影响最大的行业的可视化图表。行政办公工作、法律工作、建筑与工程首当其冲。  欧美1/4的工作任务都可以被人工智能自动化掉 我们已经看到初创公司开始涉足这些领域。比方说前两类：初创企业Xembly 可以为每个人提供自动化的行政助理，帮助安排会议，总结通话，而 Harvey 为律师提供服务，帮助进行合同分析、尽职调查、处理诉讼和监管合规事宜。 （人工智能进入法律等高能力领域可以帮助解释上面盖洛普民意调查的结果：受过大学教育的人焦虑感激增。） 为了进行比较，以下是高盛预计各行业的自动化程度：  不同行业被人工智能自动化的机率对照 如果你从事的是维护、修理或建筑工作，那是相当安全的。如果你从事的是行政或法律工作，你有大约 40% 的机率被人工智能取代掉。 （一个有趣的趋势：Z 世代对水管工和电工等技术行业评价很高。最近的一项调查发现，73% 的 Z 一代表示他们把熟练工种看作是一种职业，这个比率仅次于医学的77%；47 % 对从事熟练工种感兴趣。其中一个潜在原因是：74% 的人表示他们相信熟练工种不会被人工智能取代。） 今年春天我的另一篇[文章](https://36kr.com/p/2222020957209478)曾经更深入地讨论过自动化，指出太阳底下并无新鲜事。摘自那篇文章： > 很多现代工作很快就会变成遥远的回忆。同样的模式我们在过去的技术时代已经目睹过了。在重置保龄球瓶的自动设备出现之前，“保龄球瓶摆放工”其实是个职业。“灯夫”也一样——灯夫平均每天要步行 10 英里，在黄昏前点亮灯，在黎明时熄灭。像行政助理、撰稿人或会计师这样的工作会不会也将灭绝？ > 一线希望：从历史上看，自动化导致的失业已经被创造出来的新工作抵消。我们会看到现在我们甚至还想不出来的工作的出现[“提示工程师（Prompt Engineer）”似乎就是一个较早出现的有利可图的例子]。30 年前，谁会想到网络安全分析师、数据库管理员或机器学习工程师等职位的出现？更不用说社交媒体经理、SEO 顾问或 Discord 社区经理这样的了。 这样的周期会反复出现，在技术圈很常见。  让我们回到互联网的第一个时代，那个我们用验证码破译旧书和报纸的时代。那个时代消灭了很多工作岗位。 “百科全书推销员”以及“黄页送货员”都是真实的工作；现在，这些工作大部分已经消失，但仍有 15 万人替谷歌工作，“整合全球信息，供大众使用，让人人受益”。 类似地，“旅行社”也大多被 Booking.com、Expedia 以及 Airbnb 等网站淘汰； Radio Shack 助手（“Radio Shack Attendant”）先后被 iTunes 和 Spotify 淘汰；而胶卷冲洗（Film Developer）先是被数码相机干掉，后来又被手机的兴起杀死。  数码相机的兴衰沉浮 问题是——行政助理会重蹈这些工作地覆辙吗？ 想想看行政助理都干些什么：日程安排；研究公司的办公空间；为公司聚餐寻找一个好的私人餐厅。几年之内，如果你发现聊天机器人能够更快（更经济）地完成这些任务应该不足为奇：“我想在曼哈顿下城找个办公空间，请提供10个选项，条件是从 10 月 1 日开始就可用地，能容纳我们 15人左右的团队规模，每月费用应该低于 1.5 万美元。”如果今后我们的孩子得知人类曾经承担过这样的任务，他们可能会感到震惊的。 行政助理的工作会出现演变，变得更像办公室主任，角色会转变成需要人类参与的，更复杂的任务。 这里面会催生哪些创业机会呢？ 很多工作会被部分自动化，而且会有人工智能“助理”。律师助理的助理会帮助她起草更多的案情摘要；税务顾问的助理会帮助他在报税季节为更多的客户提供服务；工程师的助理（比如GitHub Copilot）会帮助她更好更快地编写代码。其他工作可能很快就会被各种“垂直人工智能”解决方案完全取代，这些可以说是垂直 SaaS 的下一代版本。 我预计首先实现自动化的工作将是工资较低且重要性较低的工作（也就是要评估一下一个错误的代价有多大？）。情况可能会这样发展：  这些框里面举的职业例子并不完美，但你明白我的意思就行了。我的预测也可能是错的；考虑到可以为公司腾出更多的钱，也许更高薪的职位会首先被淘汰。不管怎样，像“医生”这样的角色很可能会被归入“助理”这类，人类有意义的参与可能会永远存在。到底有多少病人的就诊可以被人工智能取代呢？毕竟，一项研究发现 ChatGPT 在提供医疗建议方面要优于现实生活当中的医生，而另一项研究则发现，人工智能的“临床态度”比人类医生更好。 不管如何发展，我们都需要大量的劳动力再培训。很多公司的成立都是为了开发人工智能的基础设施与人工智能应用，但我发现为我们制订解决方案，从而快速提高劳动力技能，好抵消与人工智能相关的大规模失业的公司却要少得多。投入到帮助员工再培训的资源只占GDP的0.1%，不到 30 年前的一半，这意味着我们必须依靠私营部门快速提出解决方案。 接下来的两部分将简要介绍人工智能取代人类可能会如何影响技术领域两个最具吸引力的商业模式。 ### 人工智能原生交易市场 交易市场（Marketplaces）是一种优雅的商业模式。用最简单的话来说，经典的双边市场可将（买卖）双方连接起来，提供产品或服务。通常，其中一方或双方都是人，比方说 Airbnb，连接的是客人和房东，或者 Uber， 连接的是乘客和司机。 但当其中一方是人工智能时会发生什么？ 服务市场可能会出现这种情况，这个市场的发达程度仍比不上产品市场。 下面是Faire 的市场专家 Dan Hockenmaier 的一幅可视化，我很喜欢：  美国上市的十大交易市场企业（市值超过 100 亿美元）没有一个属于服务业（你可以说 Uber 就算，但也就只有这一个而已）；非上市的十大交易市场公司也没有一个。就像 Dan 所说那样，“在亚马逊上你只需点击一下就能买个灯泡回来，但要想雇个电工过来仍然像 100 年前一样困难。” 这是因为跟产品相比，服务更加多样化，因此更难以分类。服务还涉及人的参与，导致会出现大量的来回反复。任何人，只要试过在 Thumbtack 上雇水管工、在 TaskRabbit 上雇家具组装工或在 Handy 上雇房屋清洁工的人，应该都明白这一点：37 条消息之后，你还在努力确定开价低于100美元，周四可以来完成这项工作的人。 人工智能将首先通过帮助加快匹配过程来重塑市场；经过这 37 条消息（乘以数百万客户）训练的大语言模型将十分擅长快速给出最好的服务提供商。这应该会释放服务市场的创新潜能。 但我也对将你与人工智能匹配的服务市场感兴趣。很多服务很容易会受到自动化的影响。辅导，网页设计，翻译，动画片，网站创建等。 今天，我可能会在 Fiverr 上寻找一位logo设计师来为 Daybreak 制作一个新标志。如果市场给我匹配一个可以廉价且高效地完成这项工作的人工智能的话会怎样呢？需求方仍然是人，但供给方变成了人工智能。 ### 人工智能原生生产力 近年来的生产力软件给人一种老掉牙的感觉——像 Slack 和 Notion 这样的全面产品，或者像 Figma（设计）和 Gong（销售）这样的品类赢家就这么多。而这些公司均已有 8 年以上的历史。更重要的是，与 Microsoft Office 365（3.45 亿付费用户）以及 Google Workspace（30 亿用户，包括付费和非付费用户）等巨头竞争是很有挑战性的。 但人工智能可以注入新的“杀手级功能”。正如Seth Rosenberg在一篇关于产品主导型人工智能的好文章中所指出那样，多年来微软的Excel 主导了电子表格市场。然后谷歌推出了一款同类产品——Google Sheets，虽然比不上Excel，但它抓住了最重要的一个功能：实时协作。 Figma 在设计上做了类似的事情，打了既有企业和初创企业一个措手不及。 实时协作现已成为关键。但当人工智能成为前沿和中心时会发生什么？ 就拿幻灯片来说吧，这是我们都很讨厌的商业世界的主要内容。 PowerPoint 有一些漂亮的新技巧，但人工智能还远没有站在前沿和中心。与此同时，初创公司 Tome 则是完全围绕着人工智能开发的。我记得 Tome 的创始人 Keith Peiris 曾经告诉我，“幻灯片制作和讲故事应该变得更加容易。”人工智能实现了这一愿景。 用 Tome 尝试制作幻灯片时，我先是要求给幻灯片添加一幅狗的图像。  几秒钟后，我得到了输出：  在后来的一张幻灯片上，我又要求提供一些关于人工智能为何将改变生产力软件的要点。  结果：  生产力软件几年来一直停滞不前，一潭死水的局面。但人工智能优先的思维——也就是围绕现在可能的、新的杀手级功能构建一整个产品体验——给既有企业制造出创新者的困境，也为初创企业创造了机会。重塑每个类别的时机已经成熟。 ### 最后思考 到最后，我们应该积极应对技术替代的局面，这是不可避免的。 教师应该如何应对课堂上的人工智能？老师不应该用（不可靠的）软件来评估学生的论文是否用了人工智能，而应该重新思考她的教学方式：或许她可以安排学生用 ChatGPT 来写一篇论文——这是他们在现实世界当中可以拥有的一种工具！——然后在课堂上，让学生分析、解剖、点评 ChatGPT 写的论文。计算器发明出来之后，数学的教学也得与时俱进。英语教学（以及其他所有学科）也需要不断发展，以应对人工智能的改进。 人工智能意味着未来几年员工的状况会发生巨大改变。很多人将配备人工智能助理，从而让他们更快、更高效地完成工作——尽管这不太可能意味着工作时间就会减少，而更有可能意味着生产率的提高，GDP 的更大增长。 （请记住，1930 年的时候，约翰·梅纳德·凯恩斯就曾预测，由于创新，到 2030 年时我们每周将只需要工作 15 小时。唉！）其他人很多人会失业。我们需要开辟新的劳动力市场来减轻失业带来的痛苦。 思考会诞生哪些人工智能原生公司来挑战现有企业也很有趣。过去10年，交易市场和专业消费者 SaaS 这两种商业模式为初创企业的价值创造提供了很大动力——让它们迭代成人工智能优先能不能带来同等的动力？现有企业很可能将面临另一次清算，初创企业未来也许还可以创造出更多的价值。 译者：boxi。