安全

台湾总统遭 AI 深伪攻击

在一个现已下架的 YouTube 频道上的深伪视频里,赖清德说出了具有破坏性的失败主义言论。若在战争期间,其后果可能不堪设想。

这张 6 月 8 日拍摄的照片里,台湾总统赖清德(中)正在高雄出席海上演习。在与中国有关宣传活动日益增多的背景下,台湾领导人已成为人工智慧(AI)深伪技术的目标。 [Yu Chen Cheng / 法新社]
这张 6 月 8 日拍摄的照片里,台湾总统赖清德(中)正在高雄出席海上演习。在与中国有关宣传活动日益增多的背景下,台湾领导人已成为人工智慧(AI)深伪技术的目标。 [Yu Chen Cheng / 法新社]

撰文/ 贾斐懋 |

台湾总统赖清德的不祥和悲观言论最终被证实只是 人工智慧(AI)的深度偽造。

“台湾的时间不多了,现在中国大陆愈来愈强大,美国已无法遏止中国了,没准哪天就把我们交易出去了。”

YouTube 频道“AI命运共同体”一则影片显示,台湾总统赖清德对副总统萧美琴说出这番话。

进一步检视才发现,这些影片全是通过深伪技术制作,改变台湾政治领导人的言论。 9 月 17 日上架的一段不到 50 秒的短片,便伪造赖清德说出“就是把美国的(军事)装备全买过来我们也打不过中共”、“我们得趁这段时间多捞点”、“一发现有什么不对我们就立刻离开台湾”等内容。

9 月 24 日,在中国杭州举行的 2025 年云栖大会上,观众接受了一项区分真实影像和 AI 生成影像的电脑挑战。 [Long Wei / CFOTO 提供 / 法新社]
9 月 24 日,在中国杭州举行的 2025 年云栖大会上,观众接受了一项区分真实影像和 AI 生成影像的电脑挑战。 [Long Wei / CFOTO 提供 / 法新社]

尽管频道声称影片仅为娱乐,但台湾科技大学兼任副教授罗天告诉公共电视,“不管是声音的伪造,还是人脸的伪造,拟真程度都相当高。如果这侵犯了国家利益,就一定要去追查。”

根据台湾媒体报道,国安官员认为这些影片中传递的“挺中”、“疑美”讯息极易误导观众,并怀疑背后可能涉及中国网军或社交媒体协力者参与其中。

因这支影片被媒体广泛报导,七月上架的“AI命运共同体”频道已在九月底从 YouTube 下架。

没有无害的恶作剧

德州休斯敦圣汤玛斯大学台湾与东亚研究计划主任叶耀元接受焦点访问时表示,制作领导人的虚假影片​​可能看起来像恶作剧或标题党,但若放任不管,恐削弱赖清德政府的信誉。

一旦台湾陷入危机,只要再有人鼓动类似谬论,便可能造成公共危险。

叶耀元表示:“法律上要禁止利用 AI 生成公众人物去宣传错假讯息,不管只是为了恶搞或是另有企图。” 他还敦促台湾当局尽速调查是否有中国资金注入其中。

虽然“AI命运共同体”的动机仍不明朗,但可以确定的是,中国政府已透过具备 AI 能力的企业来操纵舆论。

田纳西州纳什维尔范德堡大学工程学教授高德斯坦(Brett J. Goldstein)与政治学家班森(Brett V. Benson)8月在《纽约时报》撰文揭露,接受过中国军方附属机构资助的中科天玑(GoLaxy) 散布虚假资讯 ,并在香港和台湾开展恶意影响活动。

根据《纽约时报》取得的内部文件,中科天玑运用“智能宣传系统”(Smart Propaganda System,又称GoPro),进行社交平台数据分析与个人资料建设,甚至推荐策略来削弱对台湾执政党民进党的信任。

据报道,该公司曾搜集 5000 多个台湾社交媒体帐号的数据,分析他们对中国的态度与政治倾向。

干涉台湾和香港

在 2024 年台湾总统大选前夕,中科天玑利用 AI 生成的深伪影片发动攻击,而与中国结盟的团体则在社交媒体上散布失败主义和虚假的腐败指控。

2020年,它利用大量虚假帐户攻击反对中国国家安全法的人士, 该法案抹去了香港仅存的言论自由

帕米尔咨询公司( Pamir Consulting)首席情报官毛文杰(James Mulvenon)接受《纽约时报》采访时指出:“中科天玑与中国政府的安全部门和军方关系密切,他们正在开发旨在提升讯息战效能的新工具。”

高德斯坦与班森指出,AI 可在几乎无阻力的情况下生成“盅惑性”内容,尤其危险。

他们表示:“它持续运作,在潜移默化中塑造舆论、腐蚀民主制度。”

台湾国安人士强调,宣传已从传统大众传播模式转型为针对个人特征的精准投放。他们说,若要遏止敌对势力的攻击,台湾必须从技术、法律、媒体识读与公民教育等方面建立多层防御。

您喜欢这篇文章吗?

Policy Link

验证码 *