新科技将让独裁者如虎添翼

FRANKSTON

来源: 华尔街日报

未来十年，人工智能、大数据等新兴技术手段的应用将赋予全球独裁政府前所未有的镇压能力。在下一代技术面前，以往政治宣传和压制异见的方式显得很原始。



中国政府正利用大数据工具来侦测新疆地区穆斯林的“异动”，然后找出所有他们认为反常的人做进一步监控。埃及政府计划今年晚些时候将首都从开罗迁至一座尚未命名的新城。迁都项目发言人表示，新都将“到处是摄像头和传感器”，并且有“一个指挥中心控制全城”。莫斯科已经安装约5,000台具有人脸识别功能的摄像头，可以根据俄罗斯政府的需要，从护照数据库、警方档案乃至俄罗斯最大的社交媒体平台VK调取数据，进行人脸比对。

　　虽然这些措施听上去很反乌托邦、很高压，但等着瞧吧，它们可能很快又会没落为昔日把戏。一套复杂的新技术工具似乎都注定会落到全球独裁者的手上。这些工具有的正趋于成熟，有的将在十年内出现。有了它们，铁腕独裁者与极权国家对内能加强控制，侵犯人的基本权利，对外则能传播反自由主义的做法。中、俄两国已准备好利用这套新产品，而且很快就能出口，因此即便是比中、俄小一个量级的专制政府也将获得进一步监控和误导民众的能力。

　　借助这类技术进步，独裁政府将获得国内外政治宣传的新途径。其中一项关键技术是自动锁定微目标受众。在当下，锁定微目标受众需要倚靠个性评估，根据部分人群的心理、人口统计学特征或行为特征，为其量身定制内容。据报道，俄罗斯的互联网研究局(Internet Research Agency)在2016年美国总统大选期间曾做过此类研究，他们从Facebook收集数据，根据每个选民的种族、民族和身份等特征向其投放特定信息。精准投放技术越强大，独裁政府就越容易影响民众的言论和思想。

　　目前该技术的应用还基本限于商业广告领域，主要解决广告的精准投放：比如Facebook自己就在做微目标受众的锁定，谷歌也曾在2016年美国大选期间为政治广告客户服务，将用户分别标记为“左倾”和“右倾”。但是，随着私人企业正开发面向全民的、可将这种定制自动化的人工智能，政府必然会对这种技术产生兴趣。在美国对外关系委员会(Council on Foreign Relations)于2018年10月进行的一次讨论中，美国政府情报高级研究项目活动(Intelligence Advanced Research Projects Activity)前主任Jason Matheny将这种“政治宣传工业化”列为警惕“中俄两国人工智能迅速发展”的一个理由。

　　中国在开发新的控制手段方面遥遥领先，并迫切将其输出。

　　有了人工智能驱动的应用程序，独裁者将很快能够分析国民的在线活动模式，识别出最容易受特定信息影响的人，从而对其进行更精准的政治宣传。在2017年的一场热门TED演讲中，科技社会学家Zeynep Tufekci向观众描述了一个世界，在这个世界里，“掌权者（使用）这些算法静静地观察我们，评判我们，操控我们，预测和识别闹事者和反叛者。”她认为，结果可能是诞生一种威权主义，将我们的手机、电脑和电视屏幕转变为“大规模的说服利器……利用个体的弱点，一个一个地操控。”这可能意味着，针对专制国家公民或外国民主国家公民的“影响力活动”会变得更加高效。

　　新兴技术也将改变独裁者政治宣传的方式。国家控制的线上“机器人”（自动账户）已经遍布社交媒体。举例来说，纽约大学(New York University)的研究人员发现，在2014年俄罗斯入侵克里米亚期间以及之后的数月内，聚焦俄罗斯政治的账户发布的推文中有一半是机器人生成的。《华盛顿邮报》(Washington Post)专栏作家贾迈勒·卡舒吉(Jamal Khashoggi)在2018年10月遇害后，亲政权的沙特机器人发布的消息激增。


　　上个月，天地伟业科技有限公司(Tiandy Technology Co.)位于天津的总部展示的人脸识别技术。

　　很快我们就无法在网上区分真人与机器人，后者能像真人一样地谴责反政府活动分子，攻击对手，为政府做宣传，其逼真程度令人生畏。牛津计算机宣传项目(Computational Propaganda Project)的研究员Lisa-Marie Neudert提醒说，“下一代机器人正在为攻击行为做准备。这一次，政治机器人会变得更智能化，不再做重复的自动化任务。”去年10月，她在国际民主研究论坛(International Forum for Democratic Studies)上表示，人工智能方面的科技进步在造就亚马逊Alexa和苹果Siri的同时，也教会了政治宣传机器人如何说话。

　　多年来，中国政府一直在花钱雇佣所谓的“五毛党”（成千上万名假装回贴的水军）在网上发布支持政府的讯息，转移网上批评者的注意力。未来，机器人将替代这些“政府雇佣军”的工作。

　　这些越来越狡猾的机器人将与其他新工具一起工作，方便独裁政权传播虚假信息。这些新工具包括“deep fakes”——无法与真实音频、视频或图像区分开来的伪造音像。音频伪造品目前已经非常完善，可以骗过很多听众： Lyrebird公司称自己可以做出“世界上最逼真的人造声音”。Lyrebird等多家公司的语音合成系统，仅需一分钟的原声录音就能生成听上去与讲话者无差别的音频。

　　很快，视频技术也能发展到这个程度。在YouTube上，我们已经看到了男演员史蒂夫·布什密(Steve Buscemi)和女演员珍妮弗·劳伦斯(Jennifer Lawrence)令人不太舒服的合成脸，也看到了中国公司科大讯飞(iFlytek)发布的一段不甚完美的视频，视频中特朗普(Donald Trump)和奥巴马(Barack Obama)都在讲着流利的普通话。这样的伪造视频将很快逼真到令人不寒而栗的程度。达特茅斯大学(Dartmouth)的计算机科学教授Hany Farid认为，防守者在这种形势下将“处于劣势”。“开发技术来操纵内容的人数可能是监测虚假内容的人数的100到1,000倍。”今年1月，他对皮尤研究中心(Pew)表示：“突然之间，我们就能说什么都是假的。那我们还能去相信什么吗？”

　　眼见不再为实：AI视频换脸技术的潜在危害

　　奥巴马吐槽特朗普“笨蛋”的视频火遍全球，艾玛·沃森“出演”的成人电影在网上流传……然而，这些视频并不是真的，它们是利用一种名为“深伪”(Deepfake)的人工智能技术“换脸”而成。《华尔街日报》记者Jason Bellini调查发现，该换脸技术的应用已从明星、政客扩展到了普通人，在娱乐之余可对人们生活产生真实的危害，甚至会产生政治后果。

　　独裁者还能利用新工具在网上和现实中实现前所未有的监控。人类正在训练计算机使用自然语言处理（机器学习的一种应用）来识别和理解文段中流露的情感。Facebook目前正在使用类似技术来检测帖文的细微语言差别，从而有可能发现想要自杀的用户。一些规模较小的公司则正在根据态度、情感和意图给个人社交媒体帖子打分。

　　总部位于加州的人工智能初创公司Predictim搜索了Twitter、Facebook和Instagram上的文本，开发了保姆风险评级系统。这套应用程序完全是基于保姆求职者在社交媒体上发布的言论，自动评估他们霸凌儿童、怠慢雇主或吸毒的倾向。该公司的这一行为在去年引发了强烈抵制，但中、俄等独裁国家不会有这样的顾虑。研究公司OpenAI的政策主管Jack Clark提醒说，“无论在某一国家还是国际层面，我们目前都没有评估或衡量人工智能能力的发展速度，以及恶意修改其能力的容易程度。”他补充道，“这种情况，就相当于闭眼闯进一场龙卷风里——最终总是会受伤。”

　　随着机器学习的加速发展，下一代自然语言处理工具将变得更加复杂。一旦落入错误的政权手中，它们将与其他数据结合，评估个人的可靠度、是否爱国，以及反对政府的可能性。

　　这类应用目前还未问世，但我们能从中国的公开声明中看到朝这个方向的初步尝试。正如《华尔街日报》(The Wall Street Journal)所报道，“到2020年，政府希望构建一个全国性的‘社会信用’系统，根据每个公民在工作中、公共场所内和金融交易中的表现对其评分。”中国各地方政府已经保存了公民行为的电子记录，并对乱穿马路、违反计划生育政策或拖欠账单等行为扣分。被列入黑名单的人会有很多麻烦，他们无法购买高铁车票、无法获得政府补贴、无法购买房产，甚至找不到工作。北京市政府发布的一项计划显示，到2021年，在黑名单上的市民将“寸步难行”。

　　委内瑞拉推出了自己的“祖国卡”(carnet de la patria)，这是一种基于智能芯片的身份证明，公民需要通过它才能获得医疗保健和补贴食品等政府服务。人权观察报告(Human Rights Watch)称，该卡还可以记录投票历史。据路透社(Reuters)2018年的一篇调查性报道称，该系统生成的数据由中国公司中兴通讯(ZTE)存储，该公司还在委内瑞拉国营电信公司Cant部署了一个专家团队来协助运行这一项目。



去年8月，委内瑞拉首都加拉加斯，当地民众炫耀他们的身份证。

　　人工智能领域深度学习三大“教父”之一、计算机科学家 Yoshua Bengio最近向彭博社(Bloomberg)讲述了自己对于科技被越来越多地用于政治控制的担忧。“这就是《1984》中‘老大哥’式的场景再现，”他说，“我觉得它变得越来越可怕了。”

　　人工智能在解读海量数据方面的进步更加强了独裁者监视公民的能力。中美两国的公司都在优化新芯片，以支持神经网络——这是一种大体上受人脑功能启发的算法。中国工信部最近表示，希望到2020年实现神经网络芯片的规模化商用。强权政府借此将更有效地收集民众的言论和行为等信息，然后在众多数据集中筛查，并迅速利用这些信息。

　　十年后，人工智能的其中一个应用——人脸识别——将会像今天的智能手机相机一样无处不在。美国国土安全部(U.S. Department of Homeland Security)、圣地亚哥警察局(San Diego’s Police Department)等机构已经将这项技术用于在大型活动中加强安保，超级碗(Super Bowl)中就有应用。而在独裁者手中，这项技术则很有可能被用来压制民众。2018年初，中国警方就用上了人脸识别眼镜。北京亮亮视野科技有限公司(LLVision Technology Co.)将这种眼镜的基础版销往非洲和欧洲国家。人脸识别眼镜可以用来协助警方识别小偷和毒贩等罪犯——或是用来追捕人权活动人士和亲民主抗议者。

　　津巴布韦首都哈拉雷的政治异见人士也许很快就能体会到与郑州毒贩一样的恐惧：中国人工智能公司云从科技(CloudWalk Technology)向津巴布韦政府出售了一套大型人脸识别系统。它将把数百万津巴布韦人的面部数据发送回该公司，用来改进算法，完善系统，以备进一步出口。其他公司的类似业务也在蓬勃发展。中国监控摄像头制造商、“智能安全解决方案提供商”天地伟业(Tiandy)的全球客户名单涵盖了60多个国家。

　　全球各地新的“智慧城市”的兴起也可能带来问题。专制政权将能够把各种数据流编织成一张社会控制网。中国计划建设更多像银川和杭州一样的智慧城市。在银川，上班通勤可以刷脸坐公交，在杭州，人们可以使用面部数据在肯德基点餐。看一看规划的类似于雄安新区的特大城市，则可一窥今后全景监狱的模样。未来在5G数据传输技术的推动下，这些城市将能利用可涵盖金融、犯罪和政府记录，视觉图像，手机应用程序和传感器的集中控制系统。



　中国杭州一家肯德基门店，“微笑支付”面部识别系统屏幕上的付款图标。

　　直到不久以前，我们都很容易将数字革命视为一场伟大的自由化革命，从此思想的传播速度之快让所有审查者都来不及做出反应。然而，我们如今发觉现实远比这复杂得多。

　　互联网分散了数据，但技术进步却将数据的力量集中到少数人的手里。预计到2020年，将有超过300亿台设备接入互联网，每台设备都会产生新的数据，那些能够控制、处理和利用海量信息的人将获得很大优势。一个力求维稳的政权可能会感觉到非这样做不可。

　　不过，我们不应假定只有专制政府能从中受益。近年来，虽然独裁政权试图监控公民的线上交流，但美国国务院(U.S. State Department)和其他机构也在赞助加密工具，帮助想发表异见的人们安全交流。独裁政权在审查信息，阻止公民访问重要网站，翻墙工具则应运而生，让人们自由上网。

　　这才是正确的理念。在未来的竞争中，开放社会将需要应对一系列问题。民主国家将需要制裁那些利用新工具实施镇压的个人和团体，还要让参与严重侵犯人权活动的科技公司付出更大的代价，同时要投资反制措施，并强化自己的系统以抵御外部入侵。自由政府还必须区分为合法目的使用新技术（如传统执法），与利用新技术巩固一党控制、限制基本权利和干涉外国民主。

　　从加拉加斯到平壤，独裁者将试图开发新兴技术在政治滥用方面固有的巨大潜力，就像他们过去数十年来在广播、电视和互联网上所做的那样。民主国家需要做好反击的准备。