本书运用大量鲜为人知的档案资料，深刻剖析科技的发展、运作方式及其对当下人类社会所产生的巨大影响，其中不仅涉及气候变暖、全球监视、地缘政治这样的宏观命题，也包含着互联网、智能手机、大数据法则等与你我息息相关的科技手段。作者极富启发性地指出：我们对科技迫不及待的使用，往往缺乏全盘考虑，其对人类产生影响也无法清晰地评估，而当下社会生活的种种问题，背后都有科技的影子。我们对科技的信仰和狂热，有时所指向的并非一个美好的乌托邦。

《连线》“2018年度科技图书” 《纽约客》“关于当代生活的*令人不安，也*有启发性的书之一” 《金融时报》《卫报》《纽约客》《文学中心》等世界知名媒体推荐。 通过互联网，我们可以获得海量的信息、多元的观点，然而却没让世界变得清晰明确，相反，它充斥着简约化的叙事、阴谋理论和后事实主义政治。 生活在新黑暗时代，知识的传统价值被消耗殆尽，变为廉价易得的商品。我们正寻找理解世界的新方法。未来是黑暗的，然而我想黑暗大概是未来*好的样子。

【英】詹姆斯·布莱德尔 作家、科技专家、记者和视觉艺术家。英国《卫报》电子杂志专栏作家。知名杂志《科克斯书评》（Kirkus）称之为：计算机时代的乔治·奥威尔。

一、Chasm/鸿沟 为什么打车软件变成了“杀人工具”？为什么有人担心新媒体正在解构人类的认知方式和知识体系？是谁允许手机掌握、使用、分享我们如此多的私人信息，就因为它够“方便”？科技看起来就像我们每天都在使用的APP，操作简洁、界面清晰，然而我们与科技的真相之间，似乎一直存在着一道鸿沟，难以跨越…… 二、 Computation/计算 科技，或者干脆说明白点——电脑，真的让我们的世界变得更清晰、高效了吗？当我们把一切都托付给电脑（手机）时，它又对我们做了什么？当我们把前进的方向交付给GPS，它最终可能把我们带到沟里；“算法推荐”看似服务于我们的个人爱好，但反过来说，它也正在塑造和控制着我们的爱好……人类懒惰的天性让我们逐渐放弃了人的主观能动性，转而信奉“计算机思维”能解决一切问题。唯一的问题是：它真的能吗？ 三、Climate/气候 来看看全球变暖对于每个人而言最糟糕的结果是什么：一年将不再有四季；过高的气温造成的波动将让你的无线信号越来越不稳定；高温引起的晴空湍流加剧，会让你的飞机旅行变得越来越危险……如果这都还不算糟糕的话——当CO2达到1000ppm时（已经快了），人类的认知能力会下降21%。还不明白吗？你变蠢了！ 四、 Calculation/运算 现在人人都在谈论大数据，至于它究竟是什么，大概没几个人能说的清楚，但这恰恰就是它的神奇之处：你不需要真的了解，只要不假思索地相信它就行了。我们的数据太多了，多到过剩。无论我们想要什么结果，只要挑选数据，排列组合，砰！真理就出现了！不需要理论支持，不需要建模检验，只管信就行了。我们总是倾向于相信简单的运算能够解释复杂的系统，科学界尚且如此，更不用说普通人了。 五、 Complexity/复杂 为什么优步显示我的周边有十几辆空车，我却总叫不到车？为什么我的APP总是跟我要位置信息授权？它明明就是个单机游戏而已呀！我不明白这背后的运作逻辑，但是那些科技公司明白。科技的复杂性难以被大众所了解，科技公司也就借此来掩盖他们的真实目的——你不懂，用就是了。但现在情况有点失控了：那些科技公司好像也不明白自己的技术系统在干什么，一条推特的假新闻就能在2分钟内让美股蒸发一千个亿，这可是真事儿！ 六、Cognition/认知 AI的简单解释就是：在没有人工干预的情况下，自主解决问题。要做到这点，它首先需要学习。但是它的老师，也就是我们人类，本身就是充满着无知和错误的群体啊！所以AI在学习的时候，也会顺便把我们的缺陷——偏见、暴力、无知等等也一并学走了。面对这样一个智慧与愚蠢的结合物，你最好别太相信。至少得了解一下这个“学生”究竟在干什么吧！ 七、 Complicity/共谋 现在的大数据技术已经能做到无处不在，大街小巷、商场、公司，甚至每个人的口袋。我们收集到充分的数据，却没有分析它们的能力——量太大了，根本无从辨别，最后往往事情发生了，数据还没做出“预测”。但有谁需要事后诸葛亮呢？ 八、 Conspiracy/阴谋 很多APP都有推荐机制，你甚至不需要主动去搜索内容，通过智能算法的计算，系统会自动给你推送相关内容。很多人认为自己关注的是时下的热点，但那些只是数据系统认为你应该看的内容。这听起来不错——你可以只看你喜欢的东西，省去了搜索的时间，但是我们却在这个过程中变成了傻瓜，越智能就越固化，永远停留在了阅读的舒适区。 九、Concurrency/并发 互联网深刻地改变了我们获取信息的方式，也改变了信息本身。看似精心制作的新闻、视频和节目背后，大多数其实并没有多少创意，人们利用大数据搜寻最热的关键词，挖掘观众的喜好（通常不太正面），再用低端的人工智能制作节目。无休无止的视频流、不停滚动的新闻推送，很有可能是算法生成的胡言乱语，或是为了赚取广告收入而精心虚构的“新闻”，麻烦的是我们根本分不清楚。从这个角度上讲，人工智能似乎带有反智的性质。 十、Cloud/阴云 科技无疑会让人类的未来变得更好，但好莱坞科幻电影式的忧患意识也绝不是杞人忧天。技术手段本身也许是中立、不带偏见的，但当我们不假思索地使用它们时，总会带来很多负面效果，信息会演变成语言暴力，商业服务会附带上隐私侵犯，能源开发会带来毁灭性的武器变革……不论使用者是有意还是无意。我们应该相信未来的图景是阳光灿烂的，也应该警惕对新技术过于盲目的乐观，它是笼罩一切的阴云。

关于科技进步增加而不是减少社会不公、以及科技不透明性所造成的社会危机的精彩论述： 法国经济学家托马斯·皮凯蒂（Thomas Piketty）在其所著的《21 世纪资本论》（Capital in the Twenty-First Century）中，对于收入不均问题做出了极度悲观的表达，他认为贫富差距正在不断扩大，财富日益集中在少数富裕的人手中。在 2014 年的美国，最有钱的 0.01% 人口，仅仅 16000 户家庭，却掌握了全美总财富的 11.2%——这一数字已经能与财富分配最不均的 1916 年比肩。最有钱的 0.1% 拥有总财富的 22%——相当于底层 90% 的总和。经济衰退进一步加剧了分化速度：最顶层的 1% 攫取了 2009 至2012 年财富增长的 95%。欧洲的情况没有如此糟糕，然而却在朝着这个方向发展，财富的集中化比例——特别是继承得来的财富，已经达到 19 世纪末以来的最高值。 这打破了长久以来人们对进步概念的理解，我们认为社会进步必然会带来更大的公平。自 20 世纪 50 年代以来，经济学家普遍相信在一个先进的经济体中，经济发展将会降低贫富收入差距。库兹涅茨曲线（Kuznets curve），一个由同名的诺贝尔奖获得者提出的假说，它宣称随着社会的工业化，经济不均现象首先会趋于恶化，继而随着大众教育水平的提高，人们会更积极地参与政治活动，收入分配状况会逐步改善。在 20 世纪大部分时间里，这一假说基本上是成立的——至少在西方是这样。然而，根据皮凯蒂的观点，人类已经不再处于工业时代，任何相信技术进步会让“人力资本战胜金融资本和产业资本，德才兼备的管理者战胜脑满肠肥的大股东，真才实干战胜裙带关系”的想法都是“虚妄之谈”。 在许多领域，科技恰恰是加剧不平等的关键因素。不可逆转的自动化潮流——从超市收银台到股市交易算法，从工厂机器人到无人驾驶汽车——让许多人饭碗不保。对于那些工作技能可以被机器取代的人来说，他们完全失去了安全保障，有时甚至就连设计这些机器程序的工程师也无法幸免。随着机器能力的增强，越来越多的职业种类受到了威胁，而人工智能则进一步加剧了这一进程。互联网本身就是社会不公的帮凶，它所带来的联网效应和全球化服务的便利性创造了一个赢者通吃的市场：从社交网络、搜索引擎到百货商店和出租车公司，无不如此。右派曾经指责共产主义让人们不得不从垄断的国有供应商那里购买商品，而如今， 变成了不得不从亚马逊上网购。可以说，正是科技本身的不透明性加剧了收入不平等现象。 2017 年 3 月，亚马逊收购了 Quidsi，一家专售婴儿用品和化妆品、追求薄利多销的大型企业。Quidsi 的成功之道在于他们在每一层级的分销链上都率先实现了自动化，不再使用人工操作。公司的业务核心是位于宾夕法尼亚州戈尔兹伯勒市的一间巨大的仓库，仓库中心是一块占地约 20 万平方英尺的区域，用亮黄色油漆和不同的指示标志划分着边界。这块中心区域内摆满了一层层货架，高约 6 英尺，深也有几英尺，上面堆放着纸尿布和其他婴儿用品。区域周围竖着警告标志，用来禁止人类进入这一区域拿取货品，因为这里是机器人的地盘。 在这片机器人的地盘里，260 个四分之一吨重的亮橙色菱形物体不停旋转、升起，取下不同的货架单元，送到这一区域的尽头，人类分拣员们在那里等着装卸包裹。它们是基瓦机器人（Kiva），一种通过执行地面上的机读指令，不厌其烦地穿梭于商品之间的仓库自动机器。它们比人工搬运工更快、更准确，并能进行起重操作，仅在这一个仓库就能帮助 Quidsi（母婴网络电商 Diapers.com 的东家）每天完成好几千份订单的配送。 亚马逊对 Quidsi 公司的基瓦机器人觊觎已久。但在并购之前，亚马逊就已经开始着手自主研发自动化操作。在位于英国鲁吉利（Rugeley）的一间足足有 9 个足球场大小的天蓝色仓库内，亚马逊雇佣了好几百名运货员，他们身穿短袖制服，推着装满书籍、DVD、电子产品和其他商品的手推车在货架走廊中间穿梭。每个人都健步如飞，听从一个手持仪器的指令。这个仪器会不断接收新的运送目的地，还能追踪运货员的行程，以确保每位工人每天的行程在 15 英里以上和完成一定的运货数量，这样才能保证亚马逊每隔三分钟就能装满一辆货车，并将货品从该仓库（亚马逊在英国的八大仓库之一）运走。 亚马逊员工需要佩戴手持器，作为他们的仓库导航仪，如果不这样的话，运货员会完全迷失在仓库中。人类会用人类的方式存放货品：书在这儿，DVD 在那儿，文具在左边等等。然而对于一架智能机器来说，这样的安排非常低效。消费者购买商品时不是按照商品名称的首字母顺序，也不是按照商品的类型，相反，他们会从整个仓库的商品中进行选择，边逛边将商品放入“购物车”中。因此，亚马逊开发了一项名为“混乱存储”（chaotic storage）的物流技术——当然，混乱是从人的角度来看的。根据顾客需要和商品之间的关联来摆放商品——而非类型——可以在货品之间构建更短的距离。摆放书籍的货架放在平底锅旁边，而电视却和儿童玩具共享同一个空间。就像电脑硬盘中的数据存储方式一样，货品被分配到仓库的各个角落，每一个物品都被贴上了唯一的条形码，只有在电脑的帮助下才能定位到该物品。从机器的角度来安排万事万物保证了算法上的效率，但却完全超出了人类的理解范畴。除此之外，这样做会加重对工人的压迫。 员工手中的手持仪器既是亚马逊用于物流管理的方式，同时也是一种监控设备，它负责记录员工的每一个动作，监测工作效率。工人们会因为没能跟上机器的节奏、上厕所或者上班迟到而被扣分——也就是扣工资。另外，无休止的劳作让员工们之间关系逐渐疏远，他们必须一刻不停地听从电脑屏幕发号施令，包装、运货，表现得像机器人一样，或者说像一群拟人化的机器，只不过暂时比机器人便宜一点点。 工人们降级为人肉算法，只会按部就班地听从指令，这样更容易被资本家雇佣，也更容易被解雇，乃至剥削。只需听从手持仪器安排的工人们甚至不需要会说当地语言，也不需要受过教育。所有这些因素，再加上科技进步带来的社会原子化，让工人们无法有效地组织、团结在一起。不论你是亚马逊生产间的搬运工——听命于无线条形扫描器的指令日夜奔波，疲惫不堪；还是个体网约车司机——在深夜中还跟着 GPS 导航穿梭在街头，技术有效地阻止了你和工友们联合起来，为改善工作条件而斗争。（即便如此，也没有阻止优步为了给司机们洗脑，要求他们必须每周收听一定数量的系统自带的反工会博客。） 当车辆和仓库的内部被设计得如此高效，外部的改变也将随之而来。20 世纪六七十年代，日本的汽车制造商们创造了一套名为“及时生产”的系统：从供应商那里以少量多次的方式订购零部件。这种方法可以降低存货量，平滑现金流，既能够给生产规模瘦身，也可以加快生产速度。然而在另一方面，供应商们为了保持竞争力也必须加快速度——某些制造商甚至要求产品在下单两小时之内就必须生产出来。通过这种方式，大量的货品在距离工厂最近的地点被及时地装载到货车上，随时准备运向各个目的地。汽车制造商就这样将仓储成本和库存控制转嫁给了供应商。此外，在工厂附近的穷乡僻壤，涌现出了大量的新型小镇和服务区，供等位的卡车司机吃饭休息，从根本上改变了工业重镇的地理面貌。各大公司纷纷在个体层面借鉴这一经验及其效果，要求每一位雇员必须身手敏捷，以便跟上机器的速度，从而将成本转嫁给了这些工人。 2017 年年初，多家新闻媒体报道了优步司机在车内睡觉的新闻。有些司机是赶在深夜酒吧打烊和早高峰来临前的间隙补一会儿觉，有些司机则根本无家可归。当被问及对这一事件的评论时，优步公司的发言人只回应了两句话：“在优步，司机们可以自己决定驾驶的时间、地点和时长。不管选择哪种工作形式，我们都努力确保选择优步出行是一段愉快之旅。”“选择”是这句话里的关键词，其中的假设是为优步工作的司机们拥有选择权。一位司机抱怨她曾在洛杉矶的深夜被三名醉酒乘客殴打，但却不得不继续驾驶，因为她的车是向优步租用的，而她必须履行合约、继续支付租金。（殴打她的人没有被逮捕。） 亚马逊在苏格兰丹弗姆林（Dunfermline）的订单执行中心位于距离镇中心数英里外的工业区，紧邻 M90 高速公路。如果换班时正好在黎明之前或者午夜之后，员工们就不得不花费 10 英镑（比 时薪还高的数额）乘坐私营巴士才能上班。有些工人则干脆在仓库附近的林地中搭建个帐篷过夜，尽管这里冬天气温普遍在零度以下。然而只有这样，他们才能够承担得起通勤的费用，并保证每天按时上班，不会被仓库追踪系统自动克扣工资。 不管我们如何评价优步、亚马逊及许许多多类似公司的高官们的道德操守，很少有人是真的故意让工人们受苦。这也并非简单意义上地回到 19 世纪剥削资本家和残暴工业主的时代。或许应该这样说：在追求利益最大化的资本主义意识形态之上，科技进步所带来的不透明性，为赤裸裸的贪婪披上了机器非人逻辑的外衣。 亚马逊和优步都把技术的不透明性用作维护自身利益的武器。亚马逊官网主页的屏幕背后是成千上万被剥削的工人的血汗：每次我们按下购买按钮，就会有一个活生生的工人接收到电子信号开始行动起来，分秒必争地履行职责。这个购物应用实际上就是一个指挥别人的遥控设备，但是我们这些使用者却很难看到它在现实世界中造成的影响。 这种审美和技术上的晦涩不明，滋生了政治上的不安和企业的傲慢。优步就曾在用户界面上故意做手脚，继而扩展到整个系统：为了让用户觉得他们的系统看上去比真实情况更成功、更活跃、更有呼必应，优步有时会在地图上显示“幽灵车”，而实际上这些转来转去的潜在司机根本就不存在； 并且在用户毫不知情的情况下，他们的行程会被跟踪，这种全景监测系统常用于追踪重要客户； 此外，优步还开发了一个名为“灰球”（Grayball）的程序，专门用来拒载正在调查优步多起违规行为的政府职员。然而优步最让我们担心的还在于它正在造成社会原子化，并削弱人的能动性。工人们不再是雇员，而是朝不保夕的合同工。司机们也不再潜心研究数年只为获得“门道”——这是伦敦黑人出租车司机的说法，指的是他们对城市街道了如指掌——现在，在遥远的卫星和看不见的数据的指引下，他们只需要跟着屏幕上的箭头从一个目的地到达下一个目的地。乘客们的疏离感也随之增强。这项系统的应用使本地政府的税收大幅缩水，公共交通服务质量下降，同时也加剧了社会阶层的分化和城市道路的拥堵。就像亚马逊和其他大多数数字化商业形式一样，优步的最终目标也是用机器完全代替人工。它正在开发自己的自动驾驶项目，当首席产品经理被问到在许多司机对公司不满的情况下，优步如何能够长期在市场上立足时，他轻巧地回答道：“这个嘛，我们很快会用机器人把他们全替换掉。”——可以想见，发生在亚马逊员工身上的事情，终究会发生在我们每个人身上。 科技的不透明性已经成为企业欺骗大众、破坏地球的惯用手段。2015 年 9 月，美国环境保护署对美国在售的新车进行常规排放测试时发现，大众柴油汽车的行驶系统中安装了隐蔽的软件，这一软件通过监测车速、引擎状况、气压甚至方向盘位置识别汽车是否处于被检测状态，这样汽车启动时就可自动切换至特殊模式，降低发动机功率和性能，减少排放量。而一旦上路，汽车就又会回到正常的高耗能、高污染模式。根据美国环境保护署估计，目前美国准许上路的大众汽车的二氧化氮实际排放量是法定标准的 40 倍。欧洲同样发现了类似的“诈骗装置”，而在这里卖出的大众车则更多，据估算，这些大众汽车的尾气排放量将会使欧洲约 1200 人的寿命减少 10 年。隐藏的技术程序不只是加重了劳工的负担和痛苦——它们是真真切切地在杀人。 科技能够增强人类的知识和力量，但是科技应用的不均衡也将导致权力和知识的集中化。从纺织厂到微处理器，自动化和计算知识的历史不仅仅是技艺精湛的机器逐步取代人工的过程。在这段历史中，权力越来越集中到少数人手里，知识也越来越集中到少数人的头脑中。而对于普罗大众来说，丧失权力和知识的代价最终将是消亡。 我们偶尔可以看到对科技强大的不透明性不同形式的反抗。反抗需要人们具备有关技术和网络的知识，需要人们学会以子之矛攻子之盾。“灰球”是优步用来逃避政府调查的程序，税收稽查员和警察有时会在车里往办公室或警察局打电话启动调查事宜，“灰球”就是利用这一点被开发出来的。优步公司甚至还将警察局所在的区域整个拉进黑名单，政府职员网上约车时用的廉价手机也会被它屏蔽。 在 2016 年的伦敦，优步外卖服务“优食”（UberEats）的员工就巧妙地利用“优食”应用程序改善了工作条件。当时的新合同降低了工资收入，同时延长了工作时间，司机们都想进行抗议。 但是许多司机都是深夜上岗，行程也被分散到不同的路线上，所以很难有效地组织在一起。有一小组成员在网上论坛中商议在公司办公室组织一场抗议，但是他们清楚，要想真正发出声音，必须得到更多员工的支持。因此，在抗议当天，司机们在“优食”应用程序上点了比萨到他们的抗议地点。每份外卖送达的时候，他们会慷慨激昂地劝说快递员加入罢工活动。优步妥协了——尽管没有持续多久。 在以技术为主导的市场上，美国环境保护署的测试员、亚马逊员工、优步司机、软件用户、走在污染严重的街道上的行人都是受害者，因为他们永远都无法看清这个市场。并且越来越明显的是，压根没有人能看清楚到底怎么回事。而在快速发展、完全不透明的当代资本市场上，则发生着另一些异常诡异的事情。在那里，高频交易员们运用着越来越快的算法分毫必争，致使交易暗池中滋生了更黑暗的“惊喜”。 2010 年 5 月 10 日，负责跟踪美国 30 家顶级私营公司的股票市场指数——道琼斯工业指数的开盘价格比前一天略低，受希腊债务危机的影响，随后几个小时也一直处于缓慢下行的态势。但 是刚到下午，奇怪的事情发生了。 下午 2 点 40 分，指数开始暴跌。仅仅 5 分钟时间内，道琼斯指数下跌约 600 点，相当于数十亿美元的市值从市场中蒸发了。在最低点时，指数相比前一日的均值下跌了 1000 点，相当于总价值的 10%，呈现股市历史上最大的单日跌幅。然而仅仅 25 分钟之后，即下午 3 点 07 分时，股票又几乎收复 600 点，又实现跨度最大、速度最快的逆转。 在这混乱的 25 分钟中，价值 560 亿美元的 20 亿股股票完成换手。更令人忧心的是，美国证券交易委员会称许多交易的价格“非常不合理”，要么低至一美分，要么高达 10 万美元，至今我们也不能完全看懂个中蹊跷。27 此次事件被称为“闪电崩盘”，尽管这么多年过去了，其原因依然在调查之中，人们对这事件的争议也一直在持续。 监管机构在调查崩盘记录时发现，高频交易员们在这次事件中极大地加剧了价格动荡。在活跃于市场上的众多高频交易程序中，许多都设置了抛售点硬编码——跌到某个价格立即抛出股票的自动程序。随着价格跌落，多组程序同时将股票卖出。交易完成后，新一轮的价格下跌又带动了另一组算法开始自动抛出股票，如此恶性循环。因此，股票下跌的速度远远超出了人工操盘手的反应速度。有经验的市场玩家通常会放长线，稳住大盘，而机器在面对不确定性的时候会以最快的速度撤出股市。 另一些说法则认为算法不是加剧，而是引发了危机。在市场数据中，人们发现了一项操作：高频交易程序会发送大量“不可执行”的报单给交易所——这些报单的价格大大偏离了正常范围，因此很容易被人们忽略。这类指令不是为了传达讯息或者赚钱，而是故意搅乱系统以测试它的延迟性，这样就可以在混乱中进行其他更赚钱的交易。或许这些指令确实能够通过提高股市流动性来帮助稳定股价，但它们也有可能在一开始就让交易所不堪重负。可以肯定的是，在它们造成的混乱之中，许多原本并不指望执行的交易指令却真的成交了，从而引发了价格的剧烈震荡。 “闪电崩盘”现在已经是上升市场中一个公认的特征，但人们仍然对其知之甚少。2013 年 10 月，全球第二大规模的“闪电崩盘”在新加坡交易所出现，蒸发了相当于 69 亿美元的市值，交易所不得不对可能同时成交的订单进行限制——主要是为了阻止高频交易员搅乱股市的行为。 此外，算法的速度之快同样令人无力回击。2015 年 1 月 15 日下午 4 点 30 分，瑞士国家银行突然宣布取消瑞士法郎兑换欧元的最高上限。自动化操盘手接收到这一消息后，在 3 分钟之内造成汇率大幅下跌，跌幅超过 40%，直接损失达数十亿元。 2016 年 10 月，算法软件对英国脱欧协议的新闻头条作出反应，2 分钟之内就将英镑对美元的汇率拉低6 个百分点，随后又立刻回拉。可怕的是，人们几乎不可能知道具体是哪一条新闻或是哪一种算法引发了崩盘。尽管英格兰银行很快谴责了自动化交易背后的人工程序员，但是这种圆滑的说辞并不能帮助我们接近真相。2012 年 10 月，一项疯狂的算法程序不停地下单、撤单，独占了美股 4% 的交易额，一名评论员不无挖苦地说：“算法的动机依然扑朔迷离。” 自 2014 年以来，负责为美联社制作短新闻的写作者得到了一种新型新闻创作形式的帮助：全自动化写作。美联社是一家名为“自动化观察”（Automated Insights）的公司的顾客之一，这家公司提供的软件能够自动扫描新闻故事、媒体公告、实时股票行情和报价，然后用美联社独特的风格形成具有可读性的概要。美联社运用这项服务撰写上万家公司的季度报告，这项工作收益颇丰却耗时费力。雅虎是“自动化观察”的另一家客户，它用这项服务生成了许多足球快讯（fantasy football）板块的体育赛事报道。结果美联社也开始更多地报道体育赛事，而这些报道都是从每场比赛的原始数据中生成的。所有这些新闻的原本的记者署名栏中，现在都写着：“本报道由‘自动化观察’生成。”每条新闻都是出自数据库中的某几条数据，又变成另外一条数据，既是报社的收入保证，又是产生更多报道、数据和信息流的源泉。这种类型的新闻写作和生产信息的方式成为数据时代的一部分——读写均由机器完成。 自动化交易程序就是通过这种方式，在不停地浏览即时新闻资讯时，捕捉到英国脱欧时欧洲社会普遍的恐慌情绪，随后在没有人工干预的情况下引发了市场骚乱。更糟糕的是，它们对信息的来源丝毫没有鉴别能力，美联社在 2013 年的一次事件中发现了这一点。 2013 年 4 月 23 日下午 1 点 07 分，美联社官方推特账号发送了一条两百万粉丝可见的动态：“重磅：白宫发生两起爆炸，奥巴马受伤。”美联社的其他账号和记者迅速前来，声明这是一条假新闻，也有人指出这条消息完全不符合美联社的报道风格。消息被证实是黑客所为：叙利亚电子军（Syrian Electronic Army）随后宣称对这次行动负责，他们依附于叙利亚总统巴沙尔·阿萨德，制造了多起网络攻击案和推特名人账户被黑事件。然而，算法程序对于这种爆炸性新闻却没有鉴别力。下午 1点 08 分，道琼斯指数——前文提到的 2010 年首次“闪电崩盘”的受害者——应声暴跌。许多人都还没有来得及看到那条推特消息，道琼斯指数就在两分钟之内下跌了 150 点，随后才回升至原位数，但此时市值已经蒸发了 1360 亿美元。虽然有些评论员称此次事件为一场儿戏，让人虚惊一场，许多人也看到通过操控算法扰乱市场行为的背后所隐藏着的新型恐怖主义危机。 不加甄别地运用晦涩的、尤其是性能不佳的算法会引发匪夷所思、极其可怕的后果，交易所不是唯一的案例，只是数字市场给了算法太大的自由，才让它一发不可收拾。