全新正版逃离算法9787504699312中国科学技术

引言 人工智能的创造、伪装与摆脱

部 “创造”人工智能
章 今天的智能劳动者何在？
第2章 资本、劳动与监管之间的人工智能
第3章 外卖骑手
第4章 数字化产消合一、监控、区隔
第5章 预测的力量

第二部分 “伪装”人工智能
第6章 在零工经济中争取劳动者的同意
第7章 自动化和自主？
第8章 自动化能否获得客户信任？

第三部分 “摆脱”人工智能
第9章 历久弥新
0章 工作中的自我跟踪和逆向监视
1章 摆脱数字原子化
2章 抵制“算法老板”
参考文献

[英]菲比·V.穆尔（PhoebeV.Moore）英国莱斯特大学商学院副教授，德国柏林社会科学中心研究员，著有《不稳定中的量化自我：工作、技术和重要的东西》(ThentifiedSelfinPrecarity:Work,TechnologyandWhatCounts)。
[英]杰米·伍德科克（JamieWoodcock）伦敦的一名研究员，研究主题为劳动力、工作、零工经济，著有《零工经济》(TheGigEconomy)。

引言
人工智能的创造、伪装与摆脱纵观历史，技术以各种方式塑造了工作。数字技术不断为不同类型的工作带来种种变革，这个过程将随着人工智能和自动化应用的日益增加而进一步深化。到目前为止，人工智能已经在人员招聘、管理、解聘等方面得到应用，但是人们还不太了解人工智能对劳动过程、劳动者以及管理者会产生哪些更广泛的影响。虽然大多数平台借人工智能来规划工作、管理并控制劳动者，但有关这些过程在实践中如何运作的经验研究并不多。
目前，学界在探讨人工智能和自动化时主要存在两个问题。个问题是，有观点认为二者介入劳动过程的程度。机器一直以来致力于实现部分劳动过程的自动化以提高劳动者的产出，其历史远比自动驾驶汽车或自动化仓库拣选机悠久。由此引出第二个问题，即外界对自动化的理解往往呈现出二元：么实自动化，要么不实现自动化。人们因此更关注机器（例如新型自动驾驶汽车的效率如何），而不是自动化对工作和劳动者的实际影响。自动化主要用于劳动过程，它不是非此即彼的关系。“”（augmentation）一词通常意为“改进、提高”，但本书打算挑战这一定义本身乃至整个概念。虽然自动化和机械有于改善劳动者的生活，但是在新自由（neoliberalcapitalism）的背景下，学界普遍认为技术将简化工作并提高组织效率，而不是产生后续各章讨论的危险和风险。
在讨论这些挑战时，本书收录的12篇文章，从3个方面剖析人工智能、自动化与工作的问题。部探讨“创造”人工智能，主要内容包括：人工智能的发展和应用（例如在人力资源决策方面的应用）；劳动者因为充当训练人工智能数据集的“人工智能训练师”而成为机器的资源；就劳动者在工作场所的定位而言，劳动者似乎不是直接与机器竞争，就是听命于具有管理者身份的机器；以及软件开发人员的工作。第二部分探讨“伪装”人工智能，即人工智能越来越频繁地被用作掩盖管理决策过程和责任的障眼法。第三部分探讨“摆脱”人工智能，即围绕人工智能和自动化实践构建的系统，着眼于正处于发展初期的和未来可能出现的劳动者抗争。
在数字化工作研究中，有关平台工作和零工工作的经验研究与理论研究（参见本书编辑在这一领域的研究：WoodcockandGraham，2019；MooreandJoyce，2019）已取得重要进展，也影响到英的勒报告》（Taylor2017）等政策。除这些批判介入外，算法治理和人工智能工具如今被越来越多地用于对劳动者做出决策，也频繁见于外卖送餐和共享出行之外的工作。了解在实践中运用人工智能的方法以及抵制人工智能的手段，成为劳动者和研究者愈发关注的内容。针对这些迅速出现的问题展开讨论迫在眉睫，本书从3个方面剖析人工智能，为讨论奠定了基础。根据肖莎娜·祖波夫（ShoshanaZuboff）的推测（2015：82），问题不在于社会发展没有跟上技术发展，而在于掌握技术的用户（包括积极进取的跨国公司、以及公共/个人行动者）：一方面，这些用户与对手展开逐顶竞争，通过大举人工智能的研发来分析劳动者；另一方面，它们与对手展开逐底竞争，通过寻求新颖、具有创新的方式来尽可能地降低工资和劳动者的代表。
部：“创造”人工智能本书部主要探讨人工智能的“创造”及其在工作场所的应用，收录的5篇文章从过程、决策、变革动力等方面进行论述。
章抛出“今天的智能劳动者何在？”这个问题，菲比V.穆尔根据自己之前对量化自我所做的研究展开讨论。穆尔从两方面分析了这个问题，一是人们期待机器具备哪种智能，二是新一代智能劳动者的智能会因此受到哪些影响。章不仅介绍了这些智能劳动者面临的后果和所能采取的抗争手段，还讨论了机器对自动化和工作场所监控会产生哪些复杂的影响。
第2章主要讨论推动人工智能发展、押注人工智能未来的行动者，并分析使人工智能“梦想成真”所需的大量（包括资本和劳动力）。托尼·普鲁格（ToniPrug）和帕什科·比利奇（Pa?koBili?）采用马克思主义的观点方法进行分析，首先聚焦于促进人工智能的资本积聚和资本集中问题。两人特别指出，虽然人工智能有望成为应用前景广阔的共技术，但尚未兑现所承诺的结果。接下来，第2章讨论了资本既依赖高技能和高收入的劳动力从事软件开发，又依赖日益隐藏和全球分散的劳动力训练机器学习算法。结合生产矛盾的背景，普鲁格和比利奇随后分析了人工智能发展缺乏有效监管的问题。这种分析的优势在于通过人工智能的融资和生产来追溯权力与剥削的关系，指出当前人工智能的未来看似由资本，事实却未必如此。
第3章运用马克思主义劳动过程理论的方法剖析外卖平台使用的算法，并根据经验据着重论述劳动者受到算法管理的体验。本杰明·赫尔（BenjaminHerr）指出：“为约束并控制劳动，劳动过程会有意识地构建和实施算法。”第3章围绕外卖骑手（配送员）的工作体验展开讨论，提醒人们迫切需要关注实践中的技术问题。以“自由的错觉”（WatersandWoodcock，2017）这一论据为基础，赫尔分析了算法的运作和骑手对算法的体验。如果希望从批判的角度分析外卖工作，就必须理解算法如何在实践中发挥作用。竟正如赫尔所言，把劳动者组织起来以提高议价能力的出发点是为了劳动者的权益，而且应该从“（他们）对工作的认知以及工作中应用的技术”入手。第3章为后续章节讨论劳动者的抗争埋下伏笔，给接下来的容提了重要背景。
第4章聚焦生产和消费之间的重叠，以此为基础剖析数字技术产生的影响。爱德华·穆勒（EduardMüller）首先回顾“产消者”（prosumer）的相关讨论，思考如何在数据驱动监控的背景下推广这些讨论。尤其值得注意的是，第4章重拾皮埃尔·布尔迪厄（PierreBourdieu）提出的“惯习”（habitus）概念，并根据监控赋予其新的内涵，将其运用到组织环境中。穆勒因此指，平技术使工作和休闲变得越来越难以区分。数字化方面的研究往往把权力问题摆在突出位置，这一点在米歇尔·福柯（MichelFoucault）的理论中尤为明显。而穆勒认为，通过解构消费者的惯习（它在组织中扮演着越来越重要的角色），今后的研究可以从布尔迪厄的观点中得到启发。惯习的商品化代表未来研究的一个重要方向，学界因而得以从批判的角度进一步理解数字化的变化关系。
第5章再次把注意力转向数据，重点探讨应用于工作场所的人力资本分析（peopleanalytics）。在漫长的控制历史中（无论是工作还是方面），人力资本分析代表“控制未来”的尝试，把新的治理术入其。乌韦·沃姆布什（UweVormbusch）和彼得·凯尔斯（PeterKels）首先从批判的角度研究人力资本分析，指出这种分析方法利用自动化和算法来筛选、分析并处理数据。两位学者讨论了人力资本分析可能应用在人力资源管理的哪些环节以改变工作中的决策，然后继续探讨预测人力资本分析目前的实施情况。沃姆布什和凯尔斯指出，由于包括劳动者和管理者在内的用户不了解自动化决策的过程，因此很难理解或质疑这些决策。第5章主要讨论预测人力资本分析的局限，特指出这种分析方法涉及社会正常化和强制，却对工作方式的多样视而不见。两位学者认为，经济权力由于这些实践而集中在新兴的数据专家阶层，从而可能引发劳动者抗争或严重的法律挑战。
第二部分：“伪装”人工智能本书第二部分着眼于“伪装”人工智能的相关问题，围绕算法和自动化的局限展开讨论。尤其值得注意的是，已有资本装应用人工智能的先例，其目的往往是博人眼球或赢得使用这种“高大上”技术的赞誉，而幕后实际上仍活跃着劳动者的身影。因此，第二部分相当于通往人工智能希望之路尽头的短暂之旅，由此拉开了当代学界对人工智能主张的帷幕。
第6章主要讨论如何在零工经济中争取劳动者的同意。吕卡·佩里格（LucaPerrig）借鉴了针对瑞士本地外卖平台开展的经验研究，他进入5家主要的外卖平台担任骑手达6个月之久，并采访了几十位骑手和平台经理，还前往平台经理的办公室开展了为期1个月的民族志调研。根据这些详细的经验数据，佩里格再次提出布洛维（Burawy，979）以及学者提出的问题：劳动者为什么会努力工作？佩里格从对平台模式的批评入手来分析这种模式在实践中面临的挑战。考虑到外卖骑手大多数是自雇者，佩里格认为这种不稳定不利于争取骑手的同意，这个问题由于平台工作对在线交流的依赖而进一步复杂化。第6章从这些挑战落笔，令人耳目一新。以平台模式如何运作而不是资本的胜利为切入点，这一章对于平台综合运用差异化配送费、游戏化（gamification）、信息控制等手段来实现管理职能的自动化着墨甚多。三种手段都是为了尽可能提高骑手的接单率。佩里格并不认为算法已经解决了这些问题，他探讨了作为市场中介的平台能发挥哪些作用，分析了平台如何利用自动化来影响市场。
第7章致力于重新审视劳动过程理论中技术变迁与劳动自主间由来已久的争论。比阿特丽斯·卡萨斯·冈萨雷斯（BeatrizCasasGonzález）焦德国制造企业的两个经验案例研究（作为研究对象的两家企业分别来自行业和通信技术行业），探讨技术中介如何影响劳动者的控制感。冈萨雷斯发现技术主要有两方面影响：一方面，新技术被纳入直接劳动控制策略，从而限制了劳动者的决策和行动范围；另一方面，技术作为控制策略的组成部分，依赖劳动者的能动。这些不同的变革动力存在于同一工作场所，可能引发矛盾和压力，劳动者不得不自行解决，但他们并不认为自己的工作会因此受到更多控制。由此引出如何理解技术中立的重要问题。第7章强调，无论是了解当今资本统治的产如何运作还是如何打破资本统治，掌握技术如何影响劳动者的控制感都很重要。
第8章聚焦自动化能否获得客户信任的问题，围绕智利银行业一个丰富的案例研究展开讨论，包括长达13年的劳动力市场数据、36次访谈以及为期8年的民族志调研。乔治·博卡多（GiorgioBoccardo）的注意力集中在智利银行业的劳动过程，后者与银行业的劳动过程有相似之处。他从银行业内部技术变迁的长期趋势入手探讨自动化问题，然后把银行业劳动过程的特异放在实践中进行分析。第8章重点讨论了自动化在银行与客户之间生产和产信任方面的界限和局限，揭示出自动化在实践中的复杂。博卡多指出，应该将自动化置于现有的权力关系中，如果工会可以改变这些关系，就能为自动化带来积极的结果。
第三部分：“摆脱”人工智能本书第三部分探讨“摆脱”人工智能的相关问题，讨论重点转向劳动者为抵制工作中使用的算法和自动化而采取的新手段。第三部分之所以被冠以“摆脱”之名，是为了提醒读者注意劳动者为抵制技术而进行的漫长且复杂的斗争。这部分收录的文章并没有沿袭“捣毁机器”（machinebreaking）的老套路，而是致力于探讨劳动者如何抵制新的生产关系。抵制生产关系可能与抵制技术直接有关，但也不能忽视劳动过程中对管理的广泛抵制。第三部分各章以前两部分的论点为基础，围绕构建这些技术的方式以及它们在实际应用中出现的“伪造”方面的差距展开论述。本书由此过渡到劳动者的斗争——既包括他们的抗争手段，也包括他们在新环境中重塑自身条件的方法。
第9章主要讨论平台配送工作，亚当·巴杰（AdamBadger）从这类工作的悠久历史入手来研究如何运用各种技术管理配送劳动过程。配送工作的平台化既源于人工智能技术的发展，也源于股东的利益。巴杰根据斯尔尼塞克（Srnicek，2017）对平台的分析来解构平台，通过自己深入英国伦敦配送行业一线开展的民族志调研进行批判分析。他比较了两家互为竞争对手的配送平台，强调数据生成对商业模式的重要。田野调查的结果显示了配送员如何应对劳动过程中的矛盾：为尽可能增加收入，他们往往会选择“应用多开”（multi-apping），即注册多个不同的平台并同时登录。巴杰指出，既要注意罢工和抗议活动中存在的明显抗争，也要注意劳动者在日常工作中质疑算法的微观实践。
0章结合劳动过程理论和人机交互的见解进行讨论。有关监视和自我跟踪的许多批判论述着眼于技术如何劳动过程的管理，而玛尔塔·E.切基纳托（MartaE.Cecchinato）、桑迪·古尔德（SandyGould）与弗雷德里克·哈里·皮茨（FrederickHarryPitts）致力于思考数据采集、聚合与管护存在新的集体实践。因此，三位学者讨论能否“摆脱”技术的初始用途，代之以可能具有解放质的途。讨论内容不仅包括技术的各种管理用途，也包括自我跟踪的个化途。0章还剖析了“逆向监视”（sousveillance）的概念，可以视其为一种自下而上的倒置监视，即劳动者监督管理者，而不是管理者监督劳动者。
1章聚焦送餐工作的劳动过程。海纳·海兰（HeinerHeiland）和西蒙·绍普（SimonSchaupp）采用以下手段开展研究：作为外卖平台户户送（Deliveroo）和食速达（Foodora）的骑手在德国6座不同城市进行了为期8个月的参与式观察；对7座不同城市的骑手进行了47次访谈；开展在线调查；分析论坛和聊天群的内容。两位学者收集的数据表明，虽然平台致力于完全控制劳动过程并实现骑手的原子化，但是从骑手的角度，平台的企图并未得逞。骑手之间通过面对面交流和在线交流工具保持经常联系，两位学者认为这些交流形式奠定了团结和集体行动的基础。为抵制原子化，骑手们已经掌握了在劳动过程中自组织的方法。海兰和绍普指出，交流本身不足以培养集体团结。在实践中，集体斗争源自劳动者的自组织和激进的工会，更传统的工会随后才开始介入。针对人工智能已经可以解决劳动过程中的资本控制问题，1章自始至终对此持批判态度。
2章致力于梳理外卖平台的算法管理与抗争实践之间的关系。乔安娜·布罗诺维卡（JoannaBronowicka）和米蕾拉·伊万诺娃（MirelaIvanova）对德国柏林的户户送和食速达骑手进行了深入的田野调查，根据收集的数据分析骑手如何“摆脱”算法。在两人看来，算法管理给骑手的劳动过程带来了3种额外的压力，即信息隐瞒、反馈机制缺失、依赖数据的绩效控制方法。劳动过程中的这些紧张关系使作为研究对象的外卖骑手发展出一系列抗争实践：，他们试图“猜测算法”以理解平台所做的决策，猜测过程成为骑手们共同参与的集体过程；第二，他们设法“钻系统的空子”以规避算法规则；第三，他们对工作进行重构，在管理者（或算法）的视线之外尤其容易产生集体不满；第四，他们通过集体抗议和罢工直接质疑算法决策过程。

了剥削的算法，难道不懂歧视吗？看似中立的人工智能技术，是如何一步步蚕食劳动者的生存空间的？被平台剥夺了话语权的劳动者，如何摆脱“算法领导”？1.人工智能技术是中立的吗？用户如何在使用AI的同时，抵制AI？不同的主体，又是如何应对AI的？2.人类“创造”人工智能。掌握优选技术的用户，一方面与对手展开逐顶竞争，通过大举人工智能的研发来分析劳动者；另一方面，它们与对手展开逐底竞争，通过寻求新颖、具有创新的方式来尽可能地降低工资和劳动者的代表。3资本“伪造”人工智能。人工智能与的大多数技术一样，掩盖了对工人的深度剥削。为约束并控制劳动，劳动过程会有意识地构建和实施算法。一方面，新技术被纳入直接劳动控制策略，从而了劳动者的决策和行动范围；另一方面，技术作为控制策略的组成部分，依赖劳动者的能动。4劳动者“摆脱”人工智能。为尽可能增加收入，一些外卖骑手会选择“应用多开”，即注册多个不同的平台并同时登录。但为了保障自己的权益，他们也会抗争，使用“逆向监视”—— 一种自下而上的倒置监视，即劳动者监督管理者，而不是管理者监督劳动者。