犯罪与司法

OpenAI 证实中国黑客用 ChatGPT 进行网络攻击

北京利用人工智能干预日本政治,并骚扰海外中国异议人士。

示意图显示智能手机展示 ChatGPT 界面,背景为中国国旗与数字代码,象征以人工智能支援的影响力行动与协同网络行动。[焦点]
示意图显示智能手机展示 ChatGPT 界面,背景为中国国旗与数字代码,象征以人工智能支援的影响力行动与协同网络行动。[焦点]

撰文 / 贾斐懋 |

美国科技公司 OpenAI 发布的最新安全报告指出,一项与中国有关的影响力行动利用生成式人工智能(AI)工具,包括 OpenAI 的 ChatGPT,支援对海内外批评北京人士进行网络骚扰与散布 假信息

这项活动显示,不法分子正日益将 AI 工具结合到信息作战、网络犯罪 和政治影响力行动中,范围遍及印太地区及其他地区。

2 月 25 日发布的报告称,OpenAI 调查人员发现多个与中方人员相关的账号,曾使用 ChatGPT 协助记录并协调隐蔽网络行动的相关环节。

锁定日相高市与中国异议人士

其中一个案例涉及通过协同线上信息抹黑日本首相高市早苗,其他行动则锁定海外中国异议人士。

2 月 7 日,日本首相高市早苗(右)在东京众议院大选前的造势演说中挥手致意。随后调查发现,在选举期间有数千个网络账号散布关于高市政府的假信息。[Philip Fong / 法新社]
2 月 7 日,日本首相高市早苗(右)在东京众议院大选前的造势演说中挥手致意。随后调查发现,在选举期间有数千个网络账号散布关于高市政府的假信息。[Philip Fong / 法新社]

OpenAI 表示,在发现相关活动后已封锁这些账号,调查人员说这是在多个网络平台上持续进行的影响力行动。

报告指出:“这项行动似乎规模庞大、投入密集资源且持续进行,涉及至少数百名人员、数千个假账号,遍及数十个网络平台,并使用本地部署的 AI 模型,尤其是中国的模型。”

调查结果显示,威权政府可能正将 AI 纳入既有的监控与信息控制体系。

据 CNN 报导,OpenAI 首席调查员尼莫(Ben Nimmo)表示:“这正是中国现代跨国打压的样貌。”

尼莫在报告发布前表示:“这不只是数字行动,也不只是网络骚扰,而是已呈现工业化运作,目的是同时在各地、以一切手段打击中共的批评者。”

去年一个引人关注的案例中,一名中方人员使用 ChatGPT 记录针对当时即将上任的日本首相高市早苗的隐蔽行动。

该账号操作者试图制定多步骤计划,通过放大民众对美国关税的不满来抹黑高市。尽管 ChatGPT 拒绝该要求,调查人员仍发现,类似攻击性标签随后出现在一个日本艺术家论坛,显示该行动可能使用其他工具。

尽管聊天机器人最初拒绝相关请求,该使用者后来仍利用它来编辑进度报告,意外暴露出一项在全球各地打击政治对手与异议人士的更广泛策略。

报告指出,该使用者的行为“揭示出一项资源充足、精密策划的隐蔽影响力行动策略,目标是国内外对手”。

北京针对海外异议人士的手段,包括冒充美国移民官员并伪造法院文件,试图操纵删除异议人士的社群账号。调查人员还发现以伪造讣闻与墓碑照片散布异议人士死讯的“假消息”行动。

干预日本大选

这些发现呼应了今年稍早针对 日本提前大选 期间协同网络影响力行动的另一项调查。

据《读卖新闻》报导,网络安全分析公司 Japan Nexus Intelligence Inc. 发现,在选前有数千个社群账号散布关于高市早苗政府的假信息,该行动似乎旨在加剧社会分裂并削弱日本的国际地位。

分析显示,约有 1000 个账号发布原创贴文,另有约 2000 个账号通过转发扩散这些内容。

分析指出,一些信息含有明显的翻译痕迹或不自然的日文用语;行动中流传的图片似乎出自中国官方媒体或 AI 生成内容。

华盛顿智库“捍卫民主基金会”(FDD)研究人员表示,数十个与中国假信息行动相关的 X 账号,在投票前散布贪腐指控,并将高市早苗描绘为好战者。

该基金会研究员里奥弗里奥(Maria Riofrio)对路透社表示:“中国有干预日本选举与内政的政治意愿。”

至少 327 个账号组成的网络

里奥弗里奥表示,这些账号属于一个更大的网络,至少包含 327 个社群媒体账号,自去年 12 月或更早开始活跃,骚扰批评北京的人士,或推动亲中立场的叙事。该网络同时锁定人权组织,并试图影响日本、美国、菲律宾与拉丁美洲部分地区的政治舆论。

中国驻美大使馆发言人驳斥这项分析,称该基金会的结论“毫无根据”。

报告中被列为北京行动目标的一名中国异议网红,2 月在 X 发文表示,AI 正成为新的打压工具。

X 平台账号“李老师不是你老师”呼吁社群平台主动检测由国家支持的协同骚扰行动,而不是让受害者孤军奋战。

您喜欢这篇文章吗?

Policy Link