权力与预测：颠覆式AI经济学

价值中国ALEX 00:04
感谢您，教授。多年前，著名管理学大师汤姆·彼得斯（Tom Peters）曾倡导每家公司设立一个名为“首席颠覆官”（CDO, Chief Destruction Officer）的职位。巧合是，您也创立了“创意颠覆实验室”（Creative Destruction Lab, CDL）。这一举措背后的理念是什么？

Ajay Agrawal教授 00:36
是的，创意颠覆实验室。首先，这名字来源于约瑟夫·熊彼特（Joseph Schumpeter），他是哈佛大学经济系教授，也是首位将企业家置于经济增长模型核心的经济学家。他之所以这样做，是因为他认为企业家的角色非常重要。如果没有企业家，随着公司——尤其是老牌公司——规模的扩大，它们会逐渐变得僵化，停止创新，因为它们凭借规模优势无需创新。熊彼特的观点是，创新并试图进入市场的企业家会创造一种竞争动态，从而使资本主义蓬勃发展。他将这种现象称为企业家力量所带来的“持续的创意颠覆风暴”。这种力量不断更新旧的基础设施，引入新的东西。

因此，当我们建立创意颠覆实验室时，我们的重点是关注创业公司，特别是那些致力于将科学成果商业化的创业公司。这是我的研究领域，过去25年来，我一直在研究创业与早期科学成果的商业化。因此，我们希望创建一个实验室，帮助科学家将他们的创意转化为具有财务可扩展性的企业。创意颠覆实验室的使命是促进科学的商业化，以改善人类福祉。这是实验室的核心目标。

价值中国ALEX 02:53
很好，谢谢。您在2012年经历了个人的人工智能（AI）觉醒时刻。您注意到申请加入创意颠覆实验室的AI初创公司激增，这些公司使用了尖端的机器学习技术。因此，您开始从经济学的角度研究AI的影响。没错吧？您认识到AI与其他技术一样，受到相同的经济环境影响。请详细阐述经济环境如何影响技术发展，并结合您的观察和研究，说明经济环境与技术发展之间相互作用的基本规则。

Ajay Agrawal教授 03:54
好的。我在多伦多大学任教。2012年，这里发生了一件重要的事情：我们计算机科学系的教授杰夫·辛顿（Geoff Hinton）***一直在研究算法开发，试图证明这种方法——神经网络——能够产生强大的效果，主要是进行预测性的计算统计。然而，当时缺少的是足够多的标记数据来训练这些模型。与此同时，在加利福尼亚州，另一位教授李飞飞（Fei-Fei Li）——

Ajay Agrawal教授 04:55
她是一位在斯坦福大学任教的中国裔女教授。李飞飞将自己的职业生涯押注在数据的重要性上。她花了很多时间构建了一个非常大的标记数据集，但她没有合适的算法来利用这些数据，展示其潜力。她有数据，但没有算法。而多伦多的辛顿教授有算法，但没有数据。2012年，杰夫·辛顿实验室的一些学生前往斯坦福，参加李飞飞举办的ImageNet竞赛。这次竞赛首次真正展示了这一技术的威力。您提到经济影响。2012年是我们创立创意颠覆实验室的第一年。那一年，杰夫·辛顿实验室的一名学生加入了我们的项目。他是我们见到的第一个尝试将深度学习技术应用于商业问题的人。他利用这一技术预测哪种分子与哪种蛋白质结合得最好，也就是所谓的结合亲和力。他加入了创意颠覆实验室，这是我们第一次观察到将这项技术应用于商业问题能创造多大的经济价值。

在这个案例中，技术被用于药物研发的核心环节。接着，我们开始看到其他学生带着不同的创意，使用相同的技术，但应用于不同的场景。例如，有人来到实验室，想用它来预测金融交易中的欺诈行为；还有人想用它通过非常短的音频数据（如电话语音）预测阿尔茨海默病的早期发病。2012年到2013年间，我们开始看到各种商业应用，这些应用因提高了生产力——即一个人在单位投入下所能产生的产出——而创造了巨大价值。这让我们意识到，这项技术将产生显著的经济影响。这是我们看到科学突破转化为商业影响的核心路径。

价值中国ALEX 08:01
非常深刻的见解。感谢您。在您于《哈佛商业评论》发表的关于《人工智能极简经济学》一书的文章中，您提到机器智能本质上是一种预测技术。因此，经济变革将围绕预测成本的下降展开。

请讨论人工智能或机器智能降低预测成本的三大主要影响。

 

 

Ajay Agrawal教授 08:44
好的。机器学习或机器智能有效地实现了更便宜、更快速的预测。根据经济学101的入门课程——微观经济学，当某物的成本下降时，需求曲线呈向下倾斜，意味着对该物的需求会增加。我们的第一个洞察是，这项技术——人工智能——有效地降低了质量调整后的预测成本。当预测成本下降时，会发生三件事。首先，我们会使用更多的预测，因为它更便宜了。我们会以两种方式使用更多预测：第一，在我们已经使用预测的地方，我们会使用更多，因为它更快、更好、更便宜。例如，银行已经在使用预测分析进行欺诈检测，它们会使用更多，因为这项技术变得更好、更快、更便宜。第二种方式是，我们会将原本不被视为预测问题的问题重新定义为预测问题，因为预测技术使这一资源变得更便宜。例如，十年前，没人会将驾驶描述为预测问题，但今天我们就是这样解决的。我们将驾驶转变成了预测问题。

举个例子，想象你想训练一个AI来驾驶汽车。你可以让一个人坐在驾驶座上，驾驶100万英里。人类在驾驶时，通过眼睛和耳朵接收数据，然后用大脑处理数据，并采取行动。驾驶时的动作空间非常有限：向左、向右、刹车、加速，仅此而已。我们接收大量数据，处理后采取行动。现在，想象在副驾驶座上有一个AI。AI没有我们的眼睛和耳朵，所以我们为它配备了传感器，比如汽车周围的摄像头、雷达和激光雷达。随着人类驾驶，AI通过其传感器接收数据，并尝试预测人类司机在下一秒会做什么：我认为司机会右转，我认为他们会直行，我认为他们会刹车。一秒后，它会知道自己的预测是否正确。如果预测正确，它会强化自己的模型；如果错误，它会更新模型。初期，AI会犯很多错误，在统计学上我们说它的置信区间很大，意味着预测信心不足，错误较多。

但随着驾驶和模型更新的进行，模型越来越好，置信区间越来越小，预测越来越准确，直到它能很好地预测人类司机的行为，我们就可以不再需要人类司机，直接将AI预测机连接到执行器，让汽车自动驾驶。重点不是深入讲解自动驾驶汽车的运作，而是传达将驾驶转化为预测问题的理念，同样地将翻译、设备检查等问题转化为预测问题，比如预测设备在未来24小时内是否可能发生故障。在医学中，诊断也是预测，当有人生病去医院时，医生的诊断就是一种预测。

Ajay Agrawal教授 13:10
我们开始意识到，许多原本不被视为预测问题的问题可以转化为预测问题。这是第一点：当预测成本下降，我们会使用更多预测。使用更多的方式有二：一是在已使用预测的地方使用更多，因为它更好、更快、更便宜；二是将原本不视为预测问题的问题重新定义为预测问题。第二件事是，我们会用新的、更便宜的机器预测替代旧的、更昂贵的预测形式。例如，如果过去我们用人的大脑进行预测，现在往往可以用机器替代，因为机器预测更好、更快、更便宜。

一个例子是伦敦的出租车司机。在伦敦，出租车司机需要学习三年，熟记城市街道，通过考试后才能获得驾驶执照。如今，你我可以飞到伦敦希思罗机场，即使从未去过伦敦，我们也可以租一辆车，依靠导航AI像伦敦出租车司机一样在城市中导航。这就是用新的、更便宜的机器预测替代旧的人类预测的例子。这是第二点：替代。第三点是互补品。当某物的成本下降，比如机器预测成本下降，互补品的价值会上升。就像高尔夫球杆和高尔夫球是互补品，如果球杆价格下降，我们会买更多球杆，进而增加对球的需求，球的价值也会上升。

同样，当预测成本下降，与预测互补的资源价值会上升。例如，数据的价值上升，因为数据是预测的互补品；受预测影响的行动价值上升，因为预测更便宜，行动更有价值；判断的价值也上升，因为决策需要预测和判断，当预测成本下降，判断的价值上升。总结一下，您问到的三件事：第一，预测成本下降，我们使用更多预测；第二，预测成本下降，替代品（如人类预测）的价值下降；第三，互补品（如数据和判断）的价值上升。

价值中国ALEX 16:31
这是一个非常关键的时刻。那么，如何在机器智能与人类智能之间复杂的互动关系中平衡成本和价值？

Ajay Agrawal教授 17:01
能否再详细解释一下您的问题？

价值中国ALEX 17:05
好的。在这个关键时刻，人们需要思考人类智能与机器智能之间的互动关系。就像您刚才提到的，李飞飞在斯坦福大学共同创立了一个名为“以人为本AI”（Human-Centered AI）的实验室。您的观察是什么？

Ajay Agrawal教授 17:51
机器智能为我们提供了一种新的能力——高保真的预测。这种预测能力可用于许多领域。过去一年，尤其在西方，最令人兴奋的可能是语言生成，比如ChatGPT类型的生成式语言模型，你输入一个提示，AI会预测接下来最可能的词序列。这意味着，对于人类来说，某些我们过去做的事情现在机器可以完成，这些事情的价值会下降。但与AI互补的其他事情的价值会上升。举个例子，从之前的技术来看，我在商学院任教。40年前，商学院的学生学习会计是一个主要科目，他们需要掌握快速、准确的算术技能。

比如，作业可能是让他们翻开电话簿，计算某一页上所有电话号码的和，以练习加法，因为加法在当时非常重要。后来，电子表格技术出现了，所有会计事务所开始使用电子表格。如果你花了很多时间练习加法，而现在机器可以超越你，会计师们会担心这对他们的工作意味着什么。但实际情况是，会计师仍然存在，只是他们不再用纸笔做加法。机器完成所有加法，而会计师负责输入数字，决定需要对数字进行哪些分析，以及如何解读结果。他们现在花时间做判断，而不是算术。我们预计预测领域也会发生类似的事情。

价值中国ALEX 21:15
我明白了，这也是AI与人类价值对齐的一个很好的例子。在您的另一本书《权力与预测》中，您提到人们不希望系统的任何部分出现意外行为，他们期望的是可靠性。规则有助于增强系统的可靠性。然而，当AI的预测违反这些规则并转化为决策时，现有系统的可靠性会下降。除非系统能够重新设计以适应AI促成的决策，否则使用AI可能是徒劳的。请详细阐述这本书的三大最重要见解。

我知道您在之前的回答中已经部分讨论了这个问题，请再分享一些关于这种颠覆性张力的观察或见解，与您上一本书相比，这本新书的独特之处是什么？

Ajay Agrawal教授 22:54
想象一个很简单的场景，比如你要赶飞机去机场，前往机场可能会遇到很多不确定因素导致延误。因此，人们或航空公司通常会设定一个规则，比如提前3小时到达机场。这个规则的制定是因为存在很多不确定性：不知道某些环节需要多长时间，有时快，有时慢。因此，他们制定了一个规则：所有人都要提前3小时到达。这可能会导致你在机场浪费很多时间等待。但因此，机场现在的设计与25或30年前不同。现在机场有很多高端商店，人们可以在那里购买奢侈品，比如Gucci、Prada等品牌。这些商店的存在是因为人们提前到达机场，有很多时间等待，可以购物。如果有了高保真的AI预测，能准确预测你需要什么时候离开家才能准时赶上飞机，你就不需要遵守“提前3小时”的规则。你可以查询AI，它可能会告诉你今天只需提前1小时或75分钟离开。你可以准时到达机场。如果每个人都开始准时到达，机场的等待时间就会减少。如果等待时间减少，机场里那些高端奢侈品商店可能就不再合理。这些商店依赖于“提前3小时”的规则。

因此，高保真预测不仅改变了你离开家去机场的时间，还可能影响整个机场的设计，因为人们不再需要长时间等待。这是一个有趣的例子，展示了从低保真预测世界到高保真预测世界的转变如何产生直接影响（比如我可以稍晚离开家，准时到达机场）和间接影响（比如当所有人都减少等待时间，机场的设计会发生变化）。

价值中国ALEX 26:14
好的，谢谢。您的研究非常重要。另一个有趣的现象是，很多人讨论AI对日常生活和科学的影响，但很少有人像您一样讨论AI对决策和管理的影响，以及对当今管理者、商业所有者的影响。请谈谈您对这一未来视角的看法。

Ajay Agrawal教授 27:08
决策非常重要，是我们在商业中最重要的事情之一。每天人们来工作，做的就是一系列决策。通常，我们的决策基于非常有限的数据输入，因为我们的认知能力在处理数据方面非常有限。例如，我在芝加哥大学的一位同事研究了医生在医院做决策的场景：当患者来到医院，怀疑可能有心脏病发作时，医生需要决定是否送患者去做检查。

Ajay Agrawal教授 27:57
这些检查费用很高，因此只有在认为患者确实有心脏病发作风险时才会安排检查。结果发现，医生往往过于重视少数几个数据变量，比如患者是否抱怨胸痛。如果患者报告胸痛，医生很可能会送他们去做检查。但很多人即使没有心脏病发作也会感到胸痛，而有些人即使有心脏病发作也没有胸痛。因此，过于关注胸痛会导致很多错误。他们开发了一个AI，能够读取医院收集的所有患者数据，然后比较AI和医生的表现，看谁在决定是否送患者去检查时表现更好。

很快，AI就超越了人类医生。它减少了不必要的检查，浪费更少，同时还识别出一些人类医生不会送去检查、但实际上需要检查的患者。

因此，AI在这一决策上表现优于人类。我们在许多不同决策场景中都看到了类似的证据。通常，这种情况发生是因为人类决策者只基于一两个或三个数据变量做决策，而AI可能使用15或20个变量，并能根据多个变量的交互进行微调，从而显著提高决策质量。

价值中国ALEX 30:28
是的，非常好。最后一个问题是关于您两本书之间的不同反思。我们知道，在2018年到2022年间，您出版了两本重要的著作。与此同时，AI经历了显著甚至颠覆性的发展。在这一时期，您的观察和反思是否经历过自我颠覆或颠覆？此外，您认为有哪些基本规则在长期内保持不变？这个问题是关于变化与不变的内容。

Ajay Agrawal教授 31:30
我想说，最大的变化是AI能力的通用性，特别是在语言方面。AI现在能够阅读语言并对书面或口头查询生成响应的能力非常惊人。这是全新的，至少与我们第一本书相比，这些能力令人震惊。当我们写第一本书时，完全不清楚我们会在这么短的时间内取得如此大的进展。至于不变的内容，我们在高保真预测方面取得了很多进展，但在我们称为“判断”的领域没有任何变化。判断是指机器有某种意图——当它希望实现某个结果时，它可以为不同类型的错误分配权重。

Ajay Agrawal教授 32:51
例如，如果我要预测是否会下雨，并用这个预测决定是否带伞出门。你我都知道有20%的降雨概率，我们要走30分钟去上班。即使我们知道相同的事实，你可能决定带伞，而我可能决定不带，因为我们有不同的偏好和判断。

Ajay Agrawal教授 33:28
换句话说，你可能更倾向于安全，不想被淋湿，所以即使现在没下雨，但因为有降雨的可能性，你会带伞。而我可能不喜欢带伞的麻烦，觉得即使预测错了，被淋湿的代价对我来说比你小。所以，我们还没有开发出具有判断能力的AI。

Ajay Agrawal教授 34:00
所有的判断仍然来自人类，AI只是进行预测。这在我们2017、2018年写第一本书时是正确的，据我所知，这方面没有任何变化——机器在决策和判断的自主性上没有取得任何进展。

价值中国ALEX 34:22
听起来是个好消息，判断仍然属于人类。非常感谢您今天与我们分享您的精彩见解，祝您有美好的一天。

Ajay Agrawal教授 34:42
价值中国ALEX，非常感谢。感谢您和您的听众对这项工作的兴趣。

 

---注---

杰弗里·埃弗里斯特·辛顿，FRS（Geoffrey Everest Hinton，1947年12月6日—），英国出生的加拿大计算机学家和心理学家，多伦多大学教授。以其在类神经网络方面的贡献闻名。辛顿是反向传播算法和对比散度算法（Contrastive Divergence）的发明人之一，也是深度学习的积极推动者，被誉为“深度学习教父”。

辛顿因在深度学习方面的贡献与约书亚·本希奥、杨立昆共同获得2018年的图灵奖。2024年，辛顿与约翰·霍普菲尔德共同获得诺贝尔物理学奖。