权力与预测

三位作者围绕人工智能的决策和预测，讲述了人类应如何认识和应对这种颠覆性变革，如何变危机为机遇。作者具有较高知名度、话题前沿、受众广泛。

前言  成功来自远方吗 003
第一部分 中间时代
第一章 三位企业家的寓言 003 
第二章 人工智能的系统未来 013 
第三章 人工智能是预测技术 025 

第二部分 规 则
第四章 决策：做还是不做041 
第五章 隐藏的不确定性 055 
第六章 规则是黏合剂 065 

第三部分 系 统
第七章 黏合系统与灵活系统 077 
第八章 系统思维 087 
第九章 *伟大的系统 099

第四部分 权 力 
第十章 颠覆与权力 109 
第十一章 机器拥有权力吗 121 
第十二章 积累权力 133 

第五部分 人工智能如何颠覆
第十三章 伟大的“脱钩” 147 
第十四章 从概率的角度思考 159 
第十五章 新的裁决者 173 

第六部分 展望新系统  
第十六章 设计可靠的系统 191 
第十七章 白 板 205 
第十八章 预见系统变化 219 

结 语 人工智能偏见与系统233 

注 释 245 
致 谢 263

在2018年出版《AI极简经济学》一书时，我们曾认为已经论述了人工智能经济学的方方面面，但我们现在发现：我们错了。
尽管我们意识到技术将不断进步——即使人工智能仍处于起步阶段——但我们知道底层的经济学原理不会变。这就是经济学的魅力所在。技术会变，但经济学原理不会。我们在那本书中制定了人工智能经济学框架，它在今天仍然有用。不过，《AI极简经济学》的框架只讲述了故事的一部分——点解决方案。在此后的几年里，我们发现人工智能故事的另一个关键部分还有待讲述，那就是系统解决方案。本书则会讲述这一部分。我们为何一开始错过了这一部分呢？要想解释这个问题，我们得追溯到2017年，那时我们正在撰写《AI极简经济学》。
那一年，人们表现出了对人工智能新技术的极大兴趣，就在5年前，加拿大人工智能领域的先驱展示了深度学习在图像分类方面的卓越表现。每个人都在谈论人工智能，有人猜测它可能会将加拿大推上世界的科技舞台，而这不过是时间问题。
我们创立了一个科技导向型的初创项目，叫作创新颠覆实验室（Creative Destruction Lab），其中一部分人专注于人工智能研究。大家都在问：“你们认为加拿大的第一家人工智能独角兽公司，即第一家市值达10亿美元的人工智能初创公司会出现在哪里呢？”我们预计是蒙特利尔，也可能是多伦多，或者是埃德蒙顿。
不仅我们这么认为，加拿大政府也在下同样的赌注。2017年10月26日，时任加拿大总理贾斯廷·特鲁多参加了我们在创新颠覆实验室举办的年度人工智能会议，主题为“机器学习和智能市场”。他在讲话中强调了投资集群的重要性。集群是指拥有不同的行业参与者，包括大型企业、初创企业、大学、投资者和人才的地理区域，其整体大于部分的总和，能促进创新并创造就业机会。核心理念是位置聚集（colocation）。几个月后，加拿大政府宣布为5个新的“超级集群”提供大量资助，其中一个位于蒙特利尔，专攻人工智能研究。我们对人工智能商业化有十足的信心。可以说，我们是这个课题的专家。我们撰写了一本畅销书，探讨了人工智能经济学；我们发表了大量关于该课题的学术文章和管理学论文；我们正在合作编写《人工智能经济学：议程》，该书将成为该领域博士生的参考书；我们创立了一个人工智能商业化项目，据我们所知，这是全球人工智能公司*集中的项目；我们在世界各地向企业和政府领导人发表演讲；我们还在多个与人工智能相关的政策委员会、工作组和圆桌会议上担任职务。
我们认为人工智能应该被视为预测，这一点引发了从业者的共鸣。我们受邀在谷歌、网飞、亚马逊、脸书和微软发表演讲。Spotify是世界上*大的音乐流媒体服务提供商之一，其产品、工程、数据和设计主管古斯塔夫·索德斯特伦在采访中提到了我们的书：
（作者）在他们的《AI极简经济学》一书中讲得非常好。想象一下，机器学习系统的预测准确度就像收音机上的音量旋钮一样……当你调到旋钮上的某个点，也就是你的预测足够准确时，就会发生不可思议的事情。当你根据机器学习重新思考整个商业模式和产品时，你就跨过了一个阈值……通过“每周推荐”（Discover Weekly）功能，我们实现了从“先购物再发货”到“先发货再购物”的范式转变，就像《AI极简经济学》中所描述的那样。我们的预测准确度已经达到了一定水平，不再只是提供工具来帮助用户制作歌单，而是为用户提供每周歌单，让他们保存自己真正喜欢的曲目。我们从“用更好的工具来自己制作歌单”变成了“你再也不用制作歌单”。我们的方法是设计一个质量调整预测成本非常低的世界，而这既具有实际意义，也可以为人工智能战略提供宝贵见解。
那么，我们为什么如此肯定第一家人工智能独角兽公司会来自蒙特利尔、多伦多或埃德蒙顿呢？我们与两位*近的图灵奖（等同于计算机科学领域的诺贝尔奖）得主保持着联系，他们因在深度学习方面的创举而被人们认可，分别在蒙特利尔和多伦多工作，还有一位强化学习领域的主要先驱，他在埃德蒙顿工作；加拿大政府将慷慨资助三家致力于推进机器学习研究的新机构——分别在蒙特利尔、多伦多和埃德蒙顿；许多全球企业争相在蒙特利尔（如爱立信、脸书、微软、华为、三星等）、多伦多（如英伟达、LG电子、强生、罗氏、汤森路透、优步等）和埃德蒙顿（如谷歌/深度思考、亚马逊、三菱、美国国际商用机器公司等）设立人工智能实验室。
我们曾认为我们已经非常了解人工智能的商业化，然而，我们却猜错了，并且是大错特错。第一家加拿大人工智能独角兽公司并非来自蒙特利尔、多伦多或埃德蒙顿，它甚至不在我们猜测的第二组城市——温哥华、卡尔加里、滑铁卢或哈利法克斯。它如果不是来自加拿大的这些技术中心，那么会来自哪里呢？
2020年11月19日，《华尔街日报》刊登了一则头条新闻，标题为“纳斯达克将以27.5亿美元收购反金融犯罪公司Verafin”。Verafin公司的总部位于纽芬兰省的圣约翰斯市。很少有人（当然不是我们）会预测到加拿大的第一家人工智能独角兽公司会出现在北美东北角的这个小镇上。
你能到达的离科技活动*远的地方，就是纽芬兰省的圣约翰斯市。纽芬兰省是加拿大*东边的省份，仅有约50万人口。科技界从未关注过它。事实上，尽管美国是加拿大的邻国，但许多美国人第一次听说纽芬兰，还是在热门百老汇音乐剧《来自远方》获得2017年托尼奖*佳音乐剧等4个奖项的提名时。这部音乐剧改编自真实故事，讲述了“9·11”事件后一周内发生的事情，当时有38架飞机被命令在纽芬兰降落，幽默友好的当地居民收留了“来自远方”的7 000名滞留旅客。但正是在纽芬兰，布兰登兄弟、杰米·金和雷蒙德·普里蒂创立了Verafin，*终为北美3 000家金融机构提供了欺诈检测软件。我们怎么就漏掉了这个呢？这纯属偶然吗？还是随机事件呢？看来就算是专家也会偶尔出错。作为“事后诸葛亮”，我们明白小概率事件也会发生。
纳斯达克购买的是人工智能技术。Verafin已经投入巨资，开发了能够预测欺诈和验证银行客户身份的工具。无论是在运营方面还是在监管合规方面，这些都是金融机构的关键功能。要做到这一点需要大数据，而其中*庞大的就是银行和信用社的数据。
经过反思，我们发现像Verafin这样的企业于同行并非偶然，而是必然的。我们对预测机器的潜在性过于关注，而忽略了实际商业部署的可能性。虽然我们一直关注人工智能本身的经济属性——降低预测成本，但低估了构建人工智能新系统的经济学。
如果当时我们能更好地明白这一点，就不会去评估*先进机器学习模型的生产情况，而会去调查专注于预测问题的应用程序领域，因为这些应用程序将被嵌入机器预测的系统中，而无须取代人类的预测。我们会寻找已经雇用了大量数据科学家的企业，它们已经将预测分析整合到组织的工作流程中。我们很快就会发现，机器预测在金融机构中的应用*为普遍，因为它们雇用了大量数据科学家来预测金融交易中的欺诈、洗钱、不遵守制裁和其他犯罪行为。然后，我们将寻找那些正在采用人工智能*新技术来解决这些问题的小公司。我们会发现，当时加拿大只有少数几家这样的公司，其中一家名为Verafin，总部位于纽芬兰省的圣约翰斯市。
我们意识到，是时候再思考一下人工智能经济学了。Verafin的方法遵循了《AI极简经济学》中的指南，这并不奇怪。但不太合理的是，为什么许多其他应用程序需要花费更长时间来大规模部署呢？我们不仅要思考技术本身的经济学，还要思考技术运行的系统。我们必须了解，是什么经济力量导致人工智能在银行业的自动欺诈检测和电子商务的产品推荐方面被迅速采用，而在保险业的自动核保和制药业的药物发现方面，被采用的速度却如此缓慢。
在现有组织设计中采用人工智能要面临很大的挑战，我们并不是低估这些挑战的人。我们在多伦多大学的同事，杰弗里·辛顿因在深度学习方面的开创性工作而被誉为“人工智能教父”，他也低估了采用人工智能的难度。他曾开玩笑说：“如果你从事放射科医生的工作，你就会像跑到了悬崖边的一匹郊狼，你没有往下看，所以没有发现脚下悬空。人们现在应该停止培养放射科医生。在5年内，深度学习会做得比放射科医生更好。”尽管他对技术进步速度的预测是正确的——如今人工智能在各种诊断任务中的确做得比放射科医生更好——但在他发表这番言论5年后，美国放射学会报告称，接受放射学培训的新生数量并没有下降。
我们逐渐意识到，人类已经进入了历史上独特的一刻——“中间时代”（The Between Times）——我们正处于目睹了人工智能这项技术的威力之后，但又在它被广泛采用之前的时代。其中一些实施方案是所谓的点解决方案，它们很直接。对于点解决方案来说，采用人工智能只是简单地用新的人工智能工具（像Verafin那样）替代旧的机器生成的预测分析（这些事情正在迅速发生），而其他实施方案则需重新设计产品、服务以及提供它的组织，以充分实现人工智能的好处并证明背后的成本是合理的。对于后一种情况，企业和政府正在竞相寻找一个盈利途径来实现这一目标。
我们将重点从探索神经网络转移到了人类认知（我们如何做决策）、社会行为（为何某些行业的人能迅速接受人工智能，而有些行业的人会抵触）、生产系统（某些决策如何依赖于其他决策），以及行业结构（我们如何隐藏某些决策以保护自己免受不确定性的影响）。
为了探索这些现象，我们找到了企业决策者、产品经理、企业家、投资者、数据科学家和采用人工智能的计算机科学家。我们与专家及决策者一起开会研讨，同时亲自考察了数百个由风险投资公司资助的人工智能初创企业，从中我们了解了什么是可行的、什么是不可行的。
当然，我们也重拾经济学的基本原理，对人工智能经济学进行了实证研究。几年前，在我们写《AI极简经济学》时，这个领域几乎不存在，但现在它正在蓬勃发展。我们将各种信息联系起来，构建了一个经济框架，区分了点解决方案和系统解决方案，这不仅能解决Verafin难题，还能为下一场人工智能的使用提供预测。通过关注系统解决方案而非点解决方案，我们可以解释这项技术*终将如何席卷各个行业，巩固一些现有行业的地位并颠覆其他行业。所以，现在是时候写一本新书了——就是你手中的这本书。

人工智能发展所带来的颠覆即将到来。

目前，人工智能已经影响了全球许多行业——金融、制药、汽车、医疗、制造和零售等。然而，这只是人工智能开始向更便宜、更好、更快预测迈进的开始，当预测被发挥到时，各行各业就会发生转变，而这种转变也会带来颠覆。

其根源何在？著名经济学家阿杰伊·阿格拉沃尔、乔舒亚·甘斯和阿维·戈德法布在他们的第一本畅销书《AI极简经济学》中，解释了人工智能虽然简单却能改变游戏规则的经济学。现在，在《权力与预测》一书中，他们更深入地研究了*基本的分析单位：决策。三位作者认为，决策的两个关键要素是预测和判断，我们在头脑中将两者结合在一起，却往往没有意识到这一点。人工智能的兴起正在将预测从人类转移到机器，从而减轻人们的认知负担，同时提高决策的速度和准确性。

这为新决策的蓬勃发展创造了条件，并对系统层面的创新产生了深远影响。重新设计相互影响的决策系统需要时间。当前，许多行业正处于暴风雨前的宁静期，但当这些新系统出现时，它们会在全球范围内产生颠覆性影响。决策赋予权力。在行业中，权力带来利润；在社会中，权力带来控制。在这个过程中，有赢家也会有输家，作者向读者展示了企业应如何利用机遇，以及如何保护自身地位。

这本书充满了启发性的见解、丰富的实例和实用的建议，是任何企业领导者或政策制定者的指南。

 阿杰伊·阿格拉沃尔(Ajay Agrawal）， 
 创新颠覆实验室创始人，多伦多大学罗特曼管理学院战略管理教授，“未来人工智能”（Next AI）组织的共同创始人。 
 乔舒亚·甘斯（Joshua Gans） ，
 创新颠覆实验室首席经济学家，多伦多大学罗特曼管理学院战略管理教授，《纽约时报》《哈佛商业评论》《福布斯》等媒体撰稿人。 
 阿维·戈德法布（Avi Goldfarb） ，
 创新颠覆实验室首席数据科学家，多伦多大学罗特曼管理学院营销学教授。