中共网军用AI假影音介选 虚拟人涉伦理问题

Daphane

來源:大纪元



2023年12月22日，一位台北的用户在笔电上使用AI影片产生器网站。在2024年1月13日的总统选举之前，从深度造假到令人窒息的TikTok视频，一波波虚假信息袭击着台湾选民。(I-Hwa Cheng / AFP)

【大纪元2024年01月13日讯】（大纪元专题部记者吴瑞昌报导）AI是今天科技发展最大的双刃剑。越来越多实例证明，它在给人带来方便的同时，也在起着很大的负面作用。在台湾大选之际，更揭出中共利用AI介选的卑劣行为。

历次台湾大选，中共都使出浑身解数，除了武力威胁外，更利用渗透到台湾的各种渠道散布虚假消息或舆情，企图干扰大选。这次，更有《蔡英文秘史》被在社交平台上大推。在过去的一周里，大量疑似机器人的账号在Facebook、X、Youtube、Reddit、Telegram等平台上贴出一本名为《蔡英文秘史》的电子书，通过混淆史实和政治谣传等虚假信息，攻击蔡英文总统的家庭背景和私生活。

这本电子书，从用词到行文方式与中共的宣传手法极其相似。比如，书中把“韩战”写成“朝鲜战争”。虽然蔡英文即将卸任，但攻击她可以起到诱导选民疏远民进党的作用。

台湾国安人士透露，近日网上出现大量AI生成的伪造影音，用虚拟主播朗读《蔡英文秘史》的内容，再透过数百组假账号上传Youtube，由多个Facebook粉专分享。台湾国安部门确认，此事极有可能是中共国安所为。

国安人士表示，相关影音是用抖音母公司“字节跳动”的APP制作而成。唯一不同的是，AI主播的形象有卡通人物、不同国家的人的脸孔、圣诞老人等。总体讲，这些都是最近常见的中共国安手法。

台湾网络媒体“上报”日前发文介绍中共利用AI介选的手法。文章说，中共利用“深伪技术”（Deep fake）技术，如ChatGPT软件及AI图像合成软件等，生产出“最大乱真性”的资讯体，以干扰台湾大选。例如，最近网上流传的“习近平英文演讲”与“拜登中文演讲”的影片，就是这种AI合成技术制作的。

日本电子工程师李济心对此表示，“世界必须提防中共，它擅长把能用的技术和东西进行武器化，去攻击自由世界。中共利用AI快速生产大量假消息，并透过社交平台快速散播去搞讯息战和认知战，因为它知道这些假消息短时间内无法核实，只要再加上军事挑衅营造恐慌气氛，就能影响台湾和美国的选民的选择。”

除了介选外，中共还利用AI、黑客、间谍等不正当手段，窃取西方的高科技技术、大数据和商业机密等重要机密。

中共国安部的间谍们正在利用AI和其它高科技技术，去识别美国使馆区每个人的档案，并分析他们的行为模式，希望借此分析出这些人的弱点。

他们还利用AI处理从美国使馆工作人员那里获得的汽车牌照、手机数据和联络人等重要讯息，以便旗下的中共间谍能与美国中情局（CIA）直接竞争，同时让它们能在世界各地肆无忌惮地收集各国重要情报，施展自己的诡计。

美国联邦调查局（FBI）局长克里斯托弗‧雷（Christopher Wray）去年10月曾点名中共通过黑客、商业间谍等方式窃取他国的AI技术、量子技术、机器人技术和生物技术等，用于强化自身的能力，以实现自己的目标。

AI虚拟人 涉伦理问题

另外，OpenAI的CEO山姆‧奥特曼在去年12月中发出了有关AI影响美国和世界选举的警告。虽然他没指出是哪些国家会干扰选举，但他表示，“利用AI创造一些迷因（Meme），使得迷因在社交媒体上传开。但我更关心的是若AI获取人们在网上写的推文、文章或生活习惯，那将会发生什么事情呢？”

奥特曼还指出，“未来AI将会为你发送量身定制的讯息，以改变你对这个世界的看法，而这是一种新型的干扰，因为这在AI出现之前，是不可能做到的。”

AI造假的影片、图片或农场文，正在日益影响人们的价值观和判断力。其技术再发展下去，就会出现英国犯罪悬疑剧《真相捕捉》中描绘的情境：人们只要动动手指输入提示词即可利用AI任意的捏造一些当事人没有讲过的话和影片，从而使整个世界陷入混乱。

帮助人们与逝者沟通，是AI把人类正常生活虚拟化的一个典型例子。

一位父亲极度思念过世的儿子，他收集了孩子的照片、视频和录音，并花数千美元请一家AI公司帮他创造一个“虚拟的儿子”，让他能从手机中看到儿子的视频以缓解他的思念之愁。

这位父亲的最终目标，是创造出一个行为举止与他儿子一模一样的“虚拟儿子”，让他和妻子能与其在元宇宙交流。

另外，越来越多的新创公司开始提供“悲伤科技”或“数位死灵术”服务。这些公司承诺永远保留逝者的记忆，让生者透过生成的影片和AI与去世的亲人进行无缝的对答。

例如，四个年轻的表兄弟正坐在一起，透过视讯与他们87岁的祖母玛丽娜‧史密斯（Marina Smith）聊天。他们的交流非常顺畅，祖母还能讲笑话把孙儿们引得开怀大笑。然而事实上史密斯夫人早已在几周前就故去了，孙儿们与之交谈的是AI生成的“虚拟祖母”。

另外，目前已有公司使用相同或类似的技术开发出会自己说话的虚拟人，可透过全息图像形式走动并与人互动。

但是，AI产生的虚拟人或虚拟世界涉及的伦理问题正在引起人们的关注。

在许多影视作品和文学作品中都有这样的描述：人类最终遭到AI、机器人和仿生人的吞噬。因为这些虚拟人在与真人互动中，有的逐渐地将该记忆当成自己，或想要取代该记忆成为主人、出现反叛和杀死使用者的情形，甚至真人在与虚拟人互动中，逐渐污染了自己原有的记忆。这绝不是耸人听闻，而是正在快速实现的事实。

英国巴斯大学（Bath）的死亡与社会研究中心研究员塔尔‧莫尔斯（Tal Morse）2023年3月初发表了自己对“数位死灵术”的观察和研究。他表示，虽然这些虚拟替身可以提供一定程度的安慰，但它们会对人类产生怎样的心理改变和伦理道德上的影响，还有待观察。

他接着说，这里有一些基本问题是，如果这些AI在模仿这些已故的人事，污染了生者对于这个人原有的记忆，那会怎么样？使用者又如何知道死者是否会真的同意他们被这样克隆和模仿呢？

独立撰稿人诸葛明阳表示，“一个人把自己正常的情感投射到虚拟人身上，这是一种心理扭曲。表面看，虚拟人帮其寄托了哀思，是好事。事实上则改变了人的正常认知，把假的当成真的，慢慢地会降低其社交能力，甚至宁愿活在虚拟世界里。当这一现象具有一定普遍性时，人类社会将不再是人类社会。”

（记者张钟元、王佳宜对本文有贡献）