安全

台灣總統遭 AI 深偽攻擊

在一個現已下架的 YouTube 頻道上的深偽視頻里,賴清德說出了具有破壞性的失敗主義言論。若在戰爭期間,其後果可能不堪設想。

這張 6 月 8 日拍攝的照片里,台灣總統賴清德(中)正在高雄出席海上演習。在與中國有關宣傳活動日益增多的背景下,台灣領導人已成為人工智慧(AI)深偽技術的目標。 [Yu Chen Cheng / 法新社]
這張 6 月 8 日拍攝的照片里,台灣總統賴清德(中)正在高雄出席海上演習。在與中國有關宣傳活動日益增多的背景下,台灣領導人已成為人工智慧(AI)深偽技術的目標。 [Yu Chen Cheng / 法新社]

撰文 / 賈斐懋 |

台灣總統賴清德的不祥和悲觀言論最終被證實只是人工智慧(AI)的深度偽造。

「台灣的時間不多了,現在中國大陸愈來愈強大,美國已無法遏止中國了,沒準哪天就把我們交易出去了。」

YouTube 頻道「AI命運共同體」一則影片顯示,台灣總統賴清德對副總統蕭美琴說出這番話。

進一步檢視才發現,這些影片全是透過深偽技術製作,變造台灣政治領導人的言論。9 月 17 日上架的一段不到 50 秒的短片,便偽造賴清德說出「就是把美國的(軍事)裝備全買過來我們也打不過中共」、「我們得趁這段時間多撈點」、「一發現有什麼不對我們就立刻離開台灣」等內容。

9 月 24 日,在中國杭州舉行的 2025 年雲棲大會上,觀眾接受了一項區分真實影像和 AI 生成影像的電腦挑戰。 [Long Wei / CFOTO 提供 / 法新社]
9 月 24 日,在中國杭州舉行的 2025 年雲棲大會上,觀眾接受了一項區分真實影像和 AI 生成影像的電腦挑戰。 [Long Wei / CFOTO 提供 / 法新社]

儘管頻道聲稱影片僅為娛樂,但台灣科技大學兼任副教授羅天告訴公共電視,「不管是聲音的偽造,還是人臉的偽造,擬真程度都相當高。如果這侵犯了國家利益,就一定要去追查。」

根據台灣媒體報導,國安官員認為這些影片中傳遞的「挺中」、「疑美」訊息極易誤導觀眾,並懷疑背後可能涉及中國網軍或社群協力者參與其中。

因這支影片被媒體廣泛報導,七月上架的「AI命運共同體」頻道已在九月底从 YouTube 下架。

沒有無害的惡作劇

德州休士頓聖湯瑪斯大學台灣與東亞研究計畫主任葉耀元接受《焦點》訪問時表示,製作領導人的虛假影片可能看起來像惡作劇或標題黨,但若放任不管,恐削弱賴清德政府的信譽。

一旦台灣陷入危機,只要再有人鼓動類似謬論,便可能造成公共危險。

葉耀元表示:「法律上要禁止利用 AI 生成公眾人物去宣傳錯假訊息,不管只是為了惡搞或是另有企圖。」他還敦促台灣當局儘速調查是否有中國資金挹注其中。

雖然「AI命運共同體」的動機仍不明朗,但可以確定的是,中國政府已透過具備 AI 能力的企業來操縱輿論。

田納西州納許維爾范德堡大學工程學教授高德斯坦(Brett J. Goldstein)與政治學家班森(Brett V. Benson)8月在《紐約時報》撰文揭露,接受過中國軍方附屬機構資助的中科天璣(GoLaxy) 散佈虛假資訊,並在香港和台灣開展惡意影響活動。

根據《紐約時報》取得的內部文件,中科天璣運用「智能宣傳系統」(Smart Propaganda System,又稱GoPro),進行社群平台數據分析與個人資料建構,甚至推薦策略來削弱對台灣執政黨民進黨的信任。

據報導,該公司曾蒐集 5,000 多個台灣社群媒體帳號的數據,分析他們對中國的態度與政治傾向。

干涉台灣和香港

在 2024 年台灣總統大選前夕,中科天璣利用 AI 生成的深偽影片發動攻擊,而與中國結盟的團體則在社群媒體上散佈失敗主義和虛假的腐敗指控。

2020年,它利用大量虛假帳戶攻擊反對中國國家安全法的人士,該法案抹去了香港僅存的言論自由

帕米爾諮詢公司( Pamir Consulting)首席情報官毛文杰(James Mulvenon)接受《紐約時報》採訪時指出:「中科天璣與中國政府的安全部門和軍方關係密切,他们正在開發旨在提升訊息戰效能的新工具。」

高德斯坦與班森指出,AI 可在幾乎無阻力的情況下生成「盅惑性」內容,尤其危險。

他們表示:「它持續運作,在潛移默化中塑造輿論、腐蝕民主制度。」

台灣國安人士強調,宣傳已從傳統大眾傳播模式轉型為針對個人特徵的精準投放。他們說,若要遏止敵對勢力的攻擊,台湾必須從技術、法律、媒體識讀與公民教育等方面建立多層防禦。

您喜歡這篇文章嗎?

Policy Link

驗證碼 *