Kriminalitas & Keadilan

OpenAI konfirmasi penggunaan ChatGPT oleh kampanye serangan siber terkait Tiongkok

Beijing menggunakan kecerdasan buatan untuk mencampuri politik Jepang dan menyerang pembangkang Tiongkok di luar negeri.

Ilustrasi ponsel cerdas yang menampilkan antarmuka ChatGPT dengan latar belakang bendera Tiongkok dan kode digital, melambangkan operasi pengaruh berdukung kecerdasan buatan dan jaringan daring yang terkoordinasi. [Focus]
Ilustrasi ponsel cerdas yang menampilkan antarmuka ChatGPT dengan latar belakang bendera Tiongkok dan kode digital, melambangkan operasi pengaruh berdukung kecerdasan buatan dan jaringan daring yang terkoordinasi. [Focus]

Oleh Jia Feimao |

Operasi pengaruh yang terkait dengan Tiongkok menggunakan kecerdasan buatan (AI) generatif, termasuk ChatGPT dari OpenAI, untuk mendukung perundungan daring dan disinformasi mengenai pengkritik Beijing di dalam dan luar negeri, menurut laporan keamanan baru dari OpenAI, perusahaan teknologi AS.

Kegiatan ini menunjukkan pelaku kejahatan semakin sering mengintegrasikan AI dalam operasi informasi, kejahatan siber, dan kampanye pengaruh politik di Indo-Pasifik dan sekitarnya.

Laporan 25 Februari itu menyebutkan bahwa penyelidik OpenAI mengungkap akun-akun yang terkait dengan pihak Tiongkok menggunakan ChatGPT untuk membantu mendokumentasikan dan mengoordinasikan unsur kampanye daring terselubung.

Sasaran: PM Jepang Takaichi dan para pembangkang Tiongkok

Satu kasus melibatkan rencana mencemarkan nama baik Perdana Menteri Jepang Sanae Takaichi melalui pesan daring terkoordinasi, sementara operasi lainnya menyerang pembangkang Tiongkok di luar negeri.

PM Jepang Sanae Takaichi (ka) melambaikan tangan saat kampanye menjelang pemilihan DPR di Tokyo pada 7 Februari. Penyelidikan menemukan ribuan akun daring menyebarkan disinformasi tentang pemerintahannya selama periode pemilihan. [Philip Fong/AFP]
PM Jepang Sanae Takaichi (ka) melambaikan tangan saat kampanye menjelang pemilihan DPR di Tokyo pada 7 Februari. Penyelidikan menemukan ribuan akun daring menyebarkan disinformasi tentang pemerintahannya selama periode pemilihan. [Philip Fong/AFP]

OpenAI akhirnya memblokir akun-akun itu setelah mendeteksi kegiatan yang oleh penyelidik digambarkan sebagai operasi pengaruh bersinambung yang dilakukan di berbagai platform daring.

"Ini upaya berskala besar, membutuhkan banyak sumber daya, dan bersinambung, melibatkan setidaknya ratusan staf, ribuan akun palsu di berbagai platform, dan penggunaan model AI yang diterapkan setempat, terutama untuk Tiongkok," bunyi laporan itu.

Temuan ini menggambarkan cara pemerintah otoriter mengintegrasikan AI ke sistem pengawasan dan pengendalian informasi yang ada.

"Seperti inilah wujud penindasan transnasional modern Tiongkok," kata Ben Nimmo, peneliti utama OpenAI, menurut CNN.

"Ini bukan sekadar digital. Bukan sekadar perundungan daring. Ini sudah industri. Mereka menyerang pengkritik PKT [Partai Komunis Tiongkok] dengan segala cara, di mana saja, secara serentak," kata Nimmo menjelang penerbitan laporan itu.

Tahun lalu, seorang agen Tiongkok menggunakan ChatGPT untuk mendokumentasikan kampanye rahasia terhadap calon perdana menteri Jepang saat itu, Sanae Takaichi.

Operator itu menyusun rencana bertahap untuk mendiskreditkan Takaichi dengan memancing kemarahan publik atas tarif AS. Kendati ChatGPT menolaknya, penyelidik menemukan bahwa tagar serupa muncul di forum seniman Jepang. Hal ini menunjukkan bahwa kampanye itu menggunakan alat lain.

Meskipun program bot obrolan itu menolak perintah awal, pengguna itu memakainya untuk menyunting laporan perkembangan, sehingga membocorkan strategi mengejar lawan politik dan pembangkang di seluruh dunia.

Perilaku pengguna itu "mengungkapkan strategi yang didukung sumber daya besar dan diatur dengan cermat untuk IO [operasi pengaruh] rahasia terhadap musuh dalam negeri dan asing," bunyi laporan itu.

Taktik Beijing terhadap pembangkang di luar negeri mencakup upaya menyamar sebagai pejabat imigrasi AS dan memalsukan dokumen pengadilan untuk merekayasa penghapusan akun media sosial pembangkang. Penyelidik menemukan kampanye yang menyebarkan "berita palsu" kematian seorang pembangkang dengan obituarium palsu dan foto batu nisan.

Mencampuri pemilihan di Jepang

Temuan itu sejalan dengan penyelidikan terpisah di Jepang mengenai kegiatan pengaruh online yang terkoordinasi menjelang pemilihan dini negara itu awal tahun ini.

Japan Nexus Intelligence Inc., perusahaan analitik keamanan siber, menemukan ribuan akun medsos menyebarkan disinformasi tentang pemerintahan Takaichi menjelang pemilihan, menurut Yomiuri Shimbun. Kampanye itu tampaknya dirancang untuk memperdalam perpecahan sosial dan melemahkan pamor internasional Jepang.

Analisis itu menyebut sekitar 1.000 akun menghasilkan unggahan asli, sementara 2.000 akun lainnya mendukung unggahan itu melalui posting ulang.

Beberapa mengandung cacat terjemahan yang mencolok atau frasa Jepang yang tidak umum. Gambar yang beredar dalam kampanye itu berasal dari media pemerintah Tiongkok atau konten buatan AI, menurut analisis itu.

Puluhan akun X yang terkait dengan operasi disinformasi Tiongkok menyebarkan tuduhan korupsi dan menggambarkan Takaichi sebagai penghasut perang menjelang pemilihan, kata peneliti di Foundation for Defense of Democracies (FDD) yang berbasis di Washington.

"Tiongkok memiliki kemauan politik untuk mencampuri pemilihan dan urusan internal Jepang," kata Maria Riofrio, peneliti di lembaga itu, kepada Reuters.

Setidaknya 327 akun yang terhubung

Akun-akun itu merupakan bagian dari jaringan besar yang terdiri atas setidaknya 327 akun medsos yang sejak Desember atau sebelumnya aktif menyerang pengkritik Beijing atau mempromosikan narasi pro-Tiongkok, kata Riofrio. Jaringan itu juga menyerang organisasi HAM dan berupaya memengaruhi wacana politik di Jepang, AS, Filipina, dan beberapa negara Amerika Latin.

Juru bicara kedutaan besar Tiongkok di Washington menampik analisis itu, menyebut kesimpulan FDD "tidak berdasar".

AI menjadi alat penindasan baru, tulis seorang pemengaruh Tionghoa dan pembangkang yang menjadi sasaran operasi Beijing, di X pada bulan Februari.

Aktivis itu, dengan akun X "Guru Li Bukan Guru Lu," mendesak platform medsos mendeteksi kampanye perundungan yang didukung negara, alih-alih membiarkan para korban berjuang sendiri.

Apakah Anda menyukai artikel ini?

Policy Link