你有没有想过，当你刷着手机、用着AI、享受着算法推荐的时候——你究竟是消费者，还是在给平台免费打工？

肯尼亚贫民窟里勾勒图像的数据标注员，被算法支配、分秒必争的平台骑手，被大数据用来优化算法的用户……这些真实场景揭示了一个悖论：人类劳动使AI得以运转，而AI又进一步驱动人类劳动。

瑞典社会学教授西蒙·林德格伦（Simon Lindgren）的作品《AI的批判理论》拒绝将AI视为单纯的技术问题，而是从批判理论的角度，深入考察AI这一具有变革性的社会政治现象。

作者指出，AI是由算法、数据、资本、劳动和意识形态等元素共同构成的“装配”。从肯尼亚贫民窟的数据标注员，到被算法支配的平台骑手，从女性化的语音助手，到被算法忽视的黑人患者，这一切都表明，AI既不独立于人类，也不中立，而是与人类劳动具有深度联结，并在社会的方方面面复制和强化种族主义、性别歧视等偏见。AI无法从根源上解决社会问题，因为问题从来不在代码里，而在塑造代码的社会结构之中。

西蒙穿透技术表象，直击算法背后的政治经济博弈与意识形态陷阱，一本书让你读懂西方数字技术背后的权力控制。

即可查看详情

AI会取代人类吗？

文| 西蒙·林德格伦

来源 | 守望者eye

AI语境中存在一个常见说法：技术终将取代人类工作。人们或想象机器人管家为主人端茶送报，或设想装配机器人替代福特式生产线工人的血肉之躯组装汽车。在某些场景中，机器旨在协助完成枯燥单调的工作，使人类不必再承受这类劳动的折磨。而在另一些场景中，使用机器的原因在于其在同一任务中实际上表现得优于人类，或更细致，或更智能。部分AI支持者认为，若由机器而非人类法官和陪审团来裁决量刑与惩罚，若由智能算法而非活生生的教师来判定学习进程中何种练习最有效，我们的社会将更美好。

但AI真的会取代人类吗？若果真如此，我们是否都能减少工作量，共同享受全自动化世界的果实？抑或是大量劳动者会失去工作？事实上，诸多迹象表明两种情况都不会发生。诚然，某些AI应用可能让我们的生活更便捷，未来某些高度自动化岗位对人类的需求可能减少，因为劳动力市场预计会发生一定程度的转型。但宏观上，AI更可能替代或扰乱工作，而非取代人类。这是因为，在AI系统的技术表象背后，机器的运转仍需要人类劳动来维持。

尽管如此，我们今天确实可以轻易看到，比如我们在超市结账、在线下单或与客服聊天机器人对话时，一些人类劳动者至少在某种程度上正被机器取代。我们可以看到，在历史上的前几个阶段，例如从工业资本主义的商品主导逻辑向“服务业资本主义”或信息资本主义转型的过程中，每当新技术被引入时，它们会扰乱当前的技术格局及相关工作。但通常情况下，这种扰乱终会平息，新的工作岗位也往往会随之涌现。我们或许能想象这样一种未来：在AI驱动的资本主义体系中，大量人口从事有意义的工作。但在工作岗位重新分配之前，更紧迫的是将批判性思考聚焦于当下正在发生的转型，以及它对劳动者的意义。

AI驱动人类劳动，人类劳动使AI得以运转，而AI又进一步驱动人类劳动。

即可查看详情

AI资本主义的黑洞

AI与劳动的关联体现在多个层面。其一便是玩工现象：社交媒体平台、购物与流媒体网站，以及更广泛的互联网的用户，其日常活动中会留下数据痕迹，这些痕迹被企业利用并在算法系统（例如定向广告）中被价值化。正如信息系统研究者克莱尔·英格拉姆·博古兹所举的例子，数据痕迹会被用于通过机器学习开发模型。在此语境下，需要从理论层面重新定义那些让用户既享受又获益的线上活动，将其解读为劳动。事实上，资本家正剥削用户免费提供的内容与数据痕迹，而这些活动未必会被用户自身视为剥削。这种逻辑不仅适用于社交媒体平台的使用，也适用于任何类型的AI驱动产品的使用。

此外，还存在通过AI对员工进行的管控。2016年，前往伦敦《每日电讯报》上班的记者们发现，办公桌下方安装了标有“OccupEye”的小黑盒。管理层并未提前告知员工要安装这些新设备，但员工们搜索品牌名后才逐渐意识到，这些盒子是用来通过追踪热量与运动提供“自动化办公空间使用率分析”的。这一事件被新闻报道，工会也采取了行动，这些盒子最终被移除。为了合理化这一举措并为之辩护，《每日电讯报》管理层声称，其目的是帮助大楼实现高效的能源使用来促进环境的可持续性。但员工们仍怀疑，安装这些盒子的真正目的是“对员工表现进行大规模监控”。

如今，此类技术正越来越多地由AI驱动，这引发了关于伦理、透明度、问责制与隐私的新旧问题。

AI设备被用于管控员工，而AI设备本身的运转也离不开员工的参与。BBC科技记者戴夫·李在2018年的一篇文章中写道：

当AI按预期运行时，硅谷人士常称其“如魔法一般”。但这并非魔法，而是一位生活在非洲最大的贫民窟基贝拉（位于肯尼亚内罗毕）的二十六岁单亲母亲。每天，布伦达离开家，乘公交车前往内罗毕东区，与同一栋大楼里超过一千名同事一起，辛苦从事我们鲜少听说也更难目睹的AI开发工作。在八小时的轮班中，她创造着训练数据：以计算机能理解的方式准备的信息（通常是图像）。……布伦达加载一张图像，然后用鼠标勾勒出几乎所有内容：人、车、路标、车道线，甚至天空，并标注是多云还是晴朗。以自动驾驶汽车为例，将数百万张此类图像输入AI系统后，它才能开始在现实世界中“识别”这些物体。据说数据越多，机器就越智能。

这篇报道勾勒出AI开发中劳动与剥削的一面：布伦达和同事们紧盯着显示器，小心翼翼地放大图像，生怕漏掉一个像素，以免负责检查工作的上级将任务退回。

其中还暗含某种悲剧性的游戏化设计。李报道称，“最快、最准确的训练员”，“办公室里诸多电视屏幕中的某一块会显示他们的名字，这是一种荣誉，而最受欢迎的福利莫过于购物券”。布伦达和她的同事们为一家服务于微软、谷歌等公司的旧金山企业工作，因此，这些劳动者整理的信息，实则是硅谷规模最大、曝光度最高的AI项目中至关重要的组成部分。

即可查看详情

AI和平台劳动

平台劳动可被定义为“任何依托在线平台，使个人或者组织能够为获取报酬提供特定服务或产品的劳动”。一项针对八个欧洲国家平台劳动的研究显示：在工会化水平普遍较低的同时，平台劳动者通常还面临数字监控、收入不稳定与劳动无保障的问题。该商业模式以数字媒介协调工作且劳动条款“灵活”。在全球疫情期间及之后，由于劳动力市场不稳定性加剧，平台劳动愈发普及。部分平台有超过千万的劳动者，而自2020年3月起，平台活动量据称已增长超过30%。推而广之，这意味着平台需处理超大量的任务。麦奎兰写道：

在这些不稳定的平台背后，AI运作的规模确实惊人，如优步的路线引擎每秒处理五十万个请求与数十万个全球定位系统（以下简称GPS）定位点……观看关于这些工程壮举的视频时，人们定会被其中的讽刺性击中：如此了不起的成就，很大程度上竟加剧了普通劳动者的贫困。

此类平台的共同特征是将人类活动数据化与任务化。例如，通过优步或户户送进行的工作，是由数字社会复杂的社会技术生态系统的应用程序及其他软件基础设施协调的，零工的每一个“生产性动作”都会被转化为数据。卡西利强调，这种数据化“既是以数据形式提取价值的模式，也是通过算法管理的循环来实施劳动治理的模式”。因此，平台工作中的数字劳动注入了几个不同的价值增殖过程。库德里与梅希亚斯如此解释道：

为了将基于数据的绩效监控无缝植入工作的各方面，数字平台、应用程序与传感器提供了基础设施，但它们被最密集地安设于低地位和低薪资的工作中。卡车司机或仓库工人等已将持续监控当作其生活的基本特征。这些领域可能很快将不再有劳动者记得身体与每个动作不受监控是怎样的感觉。

对劳动者的治理通过平台协议实现。这些协议将工作任务原子化、碎片化，把劳动拆分成易于执行的微小环节，但整体上导致劳动者工作不稳定与理想破灭。麦奎兰认为，正是平台劳动的数据化使其“易于被AI操作利用”。在此语境下，AI的作用在于强化新自由主义资本主义的一些核心特征。平台劳动基于零工制的独特形态，也使资本家得以持续压低工资。媒体策略师汤姆·古德温在一篇常被引用的文章中写道：

优步，全球最大的出租车公司，未拥有任何车辆。脸书，最受欢迎的媒体所有者，不创作任何内容。阿里巴巴，最有价值的零售商，不持有库存。爱彼迎，全球最大的住宿供应商，也未拥有任何房地产。

对司机而言，利用木棚进行短暂停留而非更长时间的休息，是因为他们需要保持“待命状态”，随时准备接单。一项2018年的研究发现，基于应用程序的司机在上班期间仅有58%的时间在接单，这意味着42%的时间处于无薪状态。此类工作条件正引发争议，司机们已提出等单时间也应被支付薪酬。尽管结果各异，但多数企业拒绝支付零工之外的任何薪酬。这种制度通过算法管理强制实行，它“使得劳动者相互竞争，并将其分散在广阔的地理区域中”。木棚“大本营”是维系劳动者社群的尝试。事实上，雅加达案例是普遍规则中的例外，因为它呈现了劳动者的动员与抵抗。而整体情况依然不容乐观。

在平台劳动中，AI作为“一种未来主义的技术”，却“将工作条件推回到一个世纪甚至更早之前”。诸如健康和安全、病假工资、带薪假期、养老金，以及反性骚扰的保护措施，都是历史上的工人们通过有组织的斗争艰难赢得的。正如社会学家亚历山德拉·拉文内尔所言，平台劳动“正以颠覆之名推翻数代以来的职场保护，使劳动剥削再度成为常态”。

即可查看详情