Jenayah & Keadilan

OpenAI sahkan penggunaan ChatGPT oleh kempen serangan siber yang dikaitkan dengan China

Beijing menggunakan kecerdasan buatan untuk campur tangan dalam politik Jepun dan menyeksa pengganas China di luar negara.

Ilustrasi menunjukkan telefon pintar yang memaparkan antara muka ChatGPT dengan latar belakang bendera China dan kod digital, melambangkan operasi pengaruh yang dipacu kecerdasan buatan (AI) serta rangkaian dalam talian yang diselaraskan. [Focus]
Ilustrasi menunjukkan telefon pintar yang memaparkan antara muka ChatGPT dengan latar belakang bendera China dan kod digital, melambangkan operasi pengaruh yang dipacu kecerdasan buatan (AI) serta rangkaian dalam talian yang diselaraskan. [Focus]

Oleh Jia Feimao |

Operasi pengaruh yang dikaitkan dengan China menggunakan alat kecerdasan buatan (AI) generatif, termasuk ChatGPT milik OpenAI, untuk menyokong gangguan dalam talian dan maklumat salah mengenai pengkritik Beijing di dalam dan luar negara, menurut laporan keselamatan baharu daripada syarikat teknologi AS OpenAI.

Aktiviti ini menjelaskan bagaimana pelaku jahat semakin mengintegrasikan alat AI ke dalam operasi maklumat, jenayah siber dan kempen pengaruh politik di seluruh Indo-Pasifik dan seterusnya.

Penyiasat OpenAI mendedahkan akaun yang dikaitkan dengan pelaku dari China yang menggunakan ChatGPT untuk membantu mendokumentasikan dan menyelaraskan elemen kempen dalam talian secara rahsia, menurut laporan, yang dikeluarkan pada 25 Februari.

Menyasar Takaichi Jepun dan pembangkang China

Satu kes melibatkan rancangan memfitnah Perdana Menteri Jepun Sanae Takaichi melalui mesej dalam talian terkoordinasi, manakala operasi lain meminggirkan pengganas China di luar negara.

Perdana Menteri Jepun Sanae Takaichi (kanan) melambai semasa ucapan kempen menjelang pilihan raya Dewan Rakyat di Tokyo pada 7 Februari. Penyiasatan kemudian mendapati beribu-ribu akaun dalam talian menyebarkan maklumat salah mengenai kerajaannya semasa tempoh pilihan raya. [Philip Fong/AFP]
Perdana Menteri Jepun Sanae Takaichi (kanan) melambai semasa ucapan kempen menjelang pilihan raya Dewan Rakyat di Tokyo pada 7 Februari. Penyiasatan kemudian mendapati beribu-ribu akaun dalam talian menyebarkan maklumat salah mengenai kerajaannya semasa tempoh pilihan raya. [Philip Fong/AFP]

OpenAI berkata ia akhirnya melarang akaun-akaun tersebut selepas mengesan aktiviti itu, yang digambarkan penyiasat sebagai operasi pengaruh berterusan di pelbagai platform dalam talian.

"Usaha ini kelihatan besar-besaran, memerlukan sumber banyak, dan berterusan, melibatkan sekurang-kurangnya ratusan kakitangan, beribu-ribu akaun palsu merentasi puluhan platform, serta penggunaan model AI yang ditempatkan secara tempatan, terutamanya yang China," menurut laporan itu.

Penemuan ini menggambarkan bagaimana kerajaan autoritarian mungkin mengintegrasikan AI ke dalam sistem pengawasan dan kawalan maklumat sedia ada.

"Ini bentuk penindasan transnasional moden China," kata penyiasat utama OpenAI Ben Nimmo, menurut CNN.

"Ia bukan sekadar digital. Bukan sekadar tentang menyindir. La industri. La tentang cuba menyerang pengkritik CCP [Parti Komunis China] dengan segalanya, di mana-mana, serentak," kata Nimmo sebelum laporan itu dikeluarkan.

Dalam kes ketara tahun lalu, seorang ejen China menggunakan ChatGPT untuk mendokumentasikan kempen rahsia terhadap bakal Perdana Menteri Jepun ketika itu, Sanae Takaichi.

Pengendali itu meminta rancangan berbilang langkah untuk menjatuhkan reputasi Takaichi dengan memperbesarkan kemarahan awam terhadap tarif AS. Walaupun ChatGPT menolak permintaan itu, penyiasat mendapati tanda pagar serangan yang serupa kemudian muncul di sebuah forum artis Jepun. Penemuan itu menunjukkan bahawa kempen tersebut menggunakan alat lain.

Walaupun bot sembang menolak gesaan awal, pengguna kemudian menggunakannya untuk mengedit laporan kemajuan, secara tidak sengaja mendedahkan strategi lebih luas mengejar penentang politik dan pembangkang secara global.

Tingkah laku pengguna "mendedahkan strategi yang kaya sumber, disusun teliti untuk IO rahsia [operasi pengaruh] terhadap musuh domestik dan asing," kata laporan itu.

Taktik Beijing terhadap pengkritik di luar negara termasuk menyamar sebagai pegawai imigresen AS dan memalsukan dokumen mahkamah dalam usaha untuk menyebabkan pemadaman akaun media sosial seorang pengkritik. Penyiasat turut mengenal pasti satu kempen untuk menyebarkan “berita palsu” mengenai kematian seorang pengkritik melalui obituari palsu dan gambar batu nisan.

Campur tangan dalam pilihan raya Jepun

Penemuan itu sejajar dengan penyiasatan berasingan di Jepun mengenai aktiviti pengaruh dalam talian terkoordinasi berkaitan pilihan raya mengejut negara itu awal tahun ini.

Beribu-ribu akaun media sosial kelihatan mempromosikan salah maklumat mengenai kerajaan Takaichi menjelang pilihan raya, Japan Nexus Intelligence Inc., firma analisis keselamatan siber, mendapati, menurut Yomiuri Shimbun. Kempen itu kelihatan direka untuk memperhebatkan perpecahan sosial dan melemahkan kedudukan antarabangsa Jepun.

Analisis itu mencadangkan kira-kira 1,000 akaun menghasilkan siaran asal manakala sekitar 2,000 akaun lain menyebarkannya dengan siaran semula.

Sesetengah mesej mengandungi artifak terjemahan atau frasa bahasa Jepun yang luar biasa. Imej yang beredar dalam kempen itu nampaknya berasal dari media negara China atau kandungan yang dijana AI, menurut analisis itu.

Berpuluh-puluh akaun X yang dikaitkan dengan operasi maklumat salah China menyebarkan tuduhan rasuah dan menggambarkan Takaichi sebagai penghasut perang menjelang hari pengundian, menurut para penyelidik di yayasan berpangkalan di Washington Foundation for Defense of Democracies (FDD).

“China mempunyai kehendak politik untuk campur tangan dalam pilihan raya dan hal ehwal dalaman Jepun,” kata penyelidik FDD, Maria Riofrio kepada Reuters.

Sekurang-kurangnya 327 akaun saling terhubung

Akaun tersebut membentuk sebahagian daripada rangkaian lebih luas sekurang-kurangnya 327 akaun media sosial yang telah aktif sejak Disember atau lebih awal dalam mengejar pengkritik Beijing atau mempromosikan naratif pro-China, kata Riofrio. Rangkaian itu juga menyasarkan organisasi hak asasi manusia dan berusaha untuk mempengaruhi wacana politik di Jepun, Amerika Syarikat, Filipina dan sebahagian daripada Amerika Latin.

Seorang jurucakap kedutaan China di Washington menolak analisis tersebut dan menyifatkan kesimpulan FDD sebagai “tidak berasas”.

AI sedang menjadi alat baru penindasan, kata seorang pempengaruh pembangkang China yang dipetik dalam laporan itu sebagai sasaran operasi Beijing, dalam satu catatan di X pada bulan Februari.

Aktivis itu, yang akaun X miliknya menggunakan nama samaran “Teacher Li Is Not Your Teacher”, menggesa platform media sosial supaya mengesan kempen gangguan terkoordinasi yang disokong oleh negara, bukannya membiarkan mangsa menanganinya sendiri.

Adakah anda menyukai artikel ini?

Policy Link