Tội phạm & Công lý

OpenAI xác nhận chiến dịch tấn công mạng liên quan đến Trung Quốc sử dụng ChatGPT

Bắc Kinh đã sử dụng trí tuệ nhân tạo để can thiệp vào chính trị của Nhật Bản và quấy rối các nhà bất đồng chính kiến Trung Quốc ở nước ngoài.

Hình minh họa cho thấy một chiếc điện thoại thông minh hiển thị giao diện ChatGPT trên nền quốc kỳ Trung Quốc và mã kỹ thuật số, tượng trưng cho các hoạt động gây ảnh hưởng được hỗ trợ bởi trí tuệ nhân tạo và các mạng lưới trực tuyến phối hợp. [Focus]
Hình minh họa cho thấy một chiếc điện thoại thông minh hiển thị giao diện ChatGPT trên nền quốc kỳ Trung Quốc và mã kỹ thuật số, tượng trưng cho các hoạt động gây ảnh hưởng được hỗ trợ bởi trí tuệ nhân tạo và các mạng lưới trực tuyến phối hợp. [Focus]

Tác giả: Jia Feimao |

Một chiến dịch gây ảnh hưởng có liên quan đến Trung Quốc đã sử dụng các công cụ trí tuệ nhân tạo tạo sinh (AI), bao gồm ChatGPT của OpenAI, để hỗ trợ việc quấy rối trực tuyến và lan truyền thông tin sai lệch về những người chỉ trích Bắc Kinh trong và ngoài nước, theo một báo cáo an ninh mới của công ty công nghệ Mỹ OpenAI.

Hoạt động này cho thấy các tác nhân xấu ngày càng lồng ghép các công cụ AI vào các chiến dịch thông tin, tội phạm mạng và gây ảnh hưởng chính trị trên khắp khu vực Ấn Độ Dương - Thái Bình Dương và rộng hơn nữa.

Các nhà điều tra của OpenAI đã phát hiện những tài khoản liên quan đến các tác nhân Trung Quốc sử dụng ChatGPT để hỗ trợ ghi chép và điều phối các yếu tố của các chiến dịch trực tuyến bí mật, theo báo cáo được công bố ngày 25/2.

Nhằm vào Thủ tướng Nhật Bản Takaichi và các nhà bất đồng chính kiến Trung Quốc

Một trường hợp liên quan đến kế hoạch bôi nhọ Thủ tướng Nhật Bản Sanae Takaichi thông qua các thông điệp trực tuyến được phối hợp, trong khi các hoạt động khác nhằm vào những người bất đồng chính kiến Trung Quốc ở nước ngoài.

Thủ tướng Nhật Bản Sanae Takaichi (phải) vẫy tay trong một bài phát biểu vận động tranh cử trước cuộc bầu cử Hạ viện tại Tokyo vào ngày 7/2. Các cuộc điều tra sau đó phát hiện hàng nghìn tài khoản trực tuyến lan truyền thông tin sai lệch về chính phủ của bà trong thời gian bầu cử. [Philip Fong/AFP]
Thủ tướng Nhật Bản Sanae Takaichi (phải) vẫy tay trong một bài phát biểu vận động tranh cử trước cuộc bầu cử Hạ viện tại Tokyo vào ngày 7/2. Các cuộc điều tra sau đó phát hiện hàng nghìn tài khoản trực tuyến lan truyền thông tin sai lệch về chính phủ của bà trong thời gian bầu cử. [Philip Fong/AFP]

OpenAI cho biết họ đã cấm các tài khoản này sau khi phát hiện hoạt động nói trên, mà các nhà điều tra mô tả là một chiến dịch gây ảnh hưởng kéo dài được triển khai trên nhiều nền tảng trực tuyến.

Báo cáo cho biết, “Nỗ lực này dường như có quy mô lớn, tiêu tốn nhiều nguồn lực và được duy trì trong thời gian dài, với sự tham gia của ít nhất hàng trăm nhân sự, hàng nghìn tài khoản giả trên hàng chục nền tảng, cùng việc sử dụng các mô hình AI triển khai cục bộ, đặc biệt là các mô hình của Trung Quốc”.

Các phát hiện này cho thấy cách các chính phủ độc đoán có thể đang tích hợp AI vào các hệ thống giám sát và kiểm soát thông tin hiện có.

“Đây là hình thức đàn áp xuyên quốc gia hiện đại của Trung Quốc”, Ben Nimmo, điều tra viên chính của OpenAI cho biết, theo CNN.

“Đó không chỉ là vấn đề kỹ thuật số. Cũng không chỉ là việc quấy rối trên mạng. Nó đã được công nghiệp hóa. Đó là việc tìm cách tấn công những người chỉ trích ĐCSTQ (Đảng Cộng sản Trung Quốc) bằng mọi cách, ở mọi nơi, cùng một lúc”, Ben Nimmo nói trước khi báo cáo được công bố.

Trong một trường hợp đáng chú ý năm ngoái, một đặc vụ Trung Quốc đã sử dụng ChatGPT để ghi chép một chiến dịch bí mật nhằm chống lại Thủ tướng Nhật Bản khi đó sắp nhậm chức, Sanae Takaichi.

Người vận hành đã tìm kiếm một kế hoạch nhiều bước nhằm làm mất uy tín bà Takaichi bằng cách khuếch đại sự phẫn nộ của công chúng về các mức thuế của Mỹ. Trong khi ChatGPT từ chối yêu cầu này, các nhà điều tra phát hiện rằng những hashtag tấn công tương tự sau đó đã xuất hiện trên một diễn đàn nghệ sĩ Nhật Bản. Phát hiện này cho thấy chiến dịch đã sử dụng các công cụ khác.

Mặc dù chatbot đã từ chối các lời nhắc ban đầu, người dùng sau đó vẫn sử dụng nó để chỉnh sửa các báo cáo tiến độ, vô tình làm lộ ra một chiến lược rộng lớn hơn nhằm nhắm vào các đối thủ chính trị và những người bất đồng chính kiến trên toàn cầu.

Báo cáo cho biết hành vi của người dùng này “cho thấy một chiến lược được đầu tư nguồn lực dồi dào và được dàn dựng tỉ mỉ nhằm tiến hành các hoạt động gây ảnh hưởng bí mật (IO) chống lại các đối thủ trong nước và nước ngoài”.

Các chiến thuật của Bắc Kinh nhằm vào những người bất đồng chính kiến ở nước ngoài bao gồm giả danh quan chức nhập cư của Hoa Kỳ và làm giả tài liệu tòa án nhằm dàn dựng việc gỡ bỏ tài khoản mạng xã hội của một nhà bất đồng chính kiến. Các nhà điều tra cũng phát hiện một chiến dịch lan truyền “tin giả” về cái chết của một nhà bất đồng chính kiến, kèm theo cáo phó giả và hình ảnh bia mộ giả.

Can thiệp vào bầu cử Nhật Bản

Những phát hiện này trùng với các cuộc điều tra riêng rẽ tại Nhật Bản về hoạt động gây ảnh hưởng trực tuyến có phối hợp xung quanh cuộc bầu cử sớm của nước này diễn ra vào đầu năm nay.

Theo Yomiuri Shimbun, Japan Nexus Intelligence Inc., một công ty phân tích an ninh mạng, phát hiện rằng hàng nghìn tài khoản mạng xã hội dường như đã quảng bá thông tin sai lệch về chính phủ của Sanae Takaichi trước thềm cuộc bầu cử. Chiến dịch này dường như được thiết kế nhằm làm gia tăng chia rẽ trong xã hội và làm suy yếu vị thế quốc tế của Nhật Bản.

Phân tích cho thấy khoảng 1.000 tài khoản đã tạo ra các bài đăng gốc, trong khi 2.000 tài khoản khác đã khuếch đại chúng thông qua việc đăng lại.

Một số thông điệp có những dấu hiệu đặc trưng của bản dịch hoặc cách diễn đạt tiếng Nhật bất thường. Theo bản phân tích, các hình ảnh lan truyền trong chiến dịch dường như bắt nguồn từ truyền thông nhà nước Trung Quốc hoặc từ nội dung do AI tạo ra.

Các nhà nghiên cứu tại Quỹ Bảo vệ Dân chủ (FDD), có trụ sở tại Washington, cho biết hàng chục tài khoản X liên quan đến các hoạt động thông tin sai lệch của Trung Quốc đã lan truyền các cáo buộc tham nhũng và mô tả bà Takaichi là một người hiếu chiến trước thềm cuộc bỏ phiếu.

“Trung Quốc có ý chí chính trị để can thiệp vào các cuộc bầu cử và công việc nội bộ của Nhật Bản”, Maria Riofrio, một nhà nghiên cứu tại quỹ này, nói với Reuters.

Ít nhất 327 tài khoản trong mạng lưới

Theo Riofrio, các tài khoản này là một phần của mạng lưới rộng hơn gồm ít nhất 327 tài khoản mạng xã hội đã hoạt động từ tháng 12 hoặc sớm hơn nhằm quấy rối những người chỉ trích Bắc Kinh hoặc quảng bá các quan điểm ủng hộ Trung Quốc. Mạng lưới này cũng nhắm vào các tổ chức nhân quyền và tìm cách gây ảnh hưởng đến diễn ngôn chính trị tại Nhật Bản, Hoa Kỳ, Philippines và một số khu vực ở Mỹ Latinh.

Một người phát ngôn của đại sứ quán Trung Quốc tại Washington đã bác bỏ phân tích này, và gọi các kết luận của FDD là “vô căn cứ”.

Một người có ảnh hưởng là nhà bất đồng chính kiến Trung Quốc, được báo cáo nêu là mục tiêu của các chiến dịch từ Bắc Kinh, đã đăng trên X vào tháng Hai rằng AI đang trở thành một công cụ đàn áp mới.

Nhà hoạt động này, người có tài khoản X mang bí danh “Teacher Li Is Not Your Teacher”, đã kêu gọi các nền tảng mạng xã hội phát hiện các chiến dịch quấy rối có phối hợp do nhà nước hậu thuẫn, thay vì để các nạn nhân phải tự xoay xở.

Bạn có thích bài viết này không?

Policy Link