Một báo cáo mới từ OpenAI đã chỉ ra rằng các nhóm được nhà nước tài trợ đang sử dụng những công cụ có sẵn công khai giống như người dùng internet bình thường, và thường gặp khó khăn tương tự. OpenAI gần đây đã chia sẻ chi tiết về cách các nhóm liên kết với chính phủ cố gắng sử dụng các nền tảng của họ.

Trường hợp đáng chú ý nhất đến từ một chiến dịch ảnh hưởng của Trung Quốc bị phơi bày một cách tình cờ khi một quan chức thực thi pháp luật Trung Quốc sử dụng ChatGPT như một cuốn nhật ký cá nhân. Quan chức này đã viết về một chiến dịch nhằm vào các nhà phê bình Trung Quốc sống ở các quốc gia khác. Chiến dịch này liên quan đến hàng trăm điều hành viên và hàng ngàn tài khoản mạng xã hội giả, theo OpenAI.

Hoạt động này đã cố gắng mạo danh các nhân viên nhập cư của Hoa Kỳ để dọa một nhà bất đồng chính kiến bằng cách nói sai rằng các tuyên bố công khai của họ đã vi phạm luật pháp Hoa Kỳ. Trong các trường hợp khác, các tác nhân đã sử dụng tài liệu giả mạo tuyên bố là từ một tòa án quận để cố gắng yêu cầu gỡ bỏ tài khoản mạng xã hội của các nhà phê bình.

OpenAI cung cấp cái nhìn sâu sắc về một chiến dịch quấy rối mới

Họ đã tạo ra một cáo phó giả và ảnh bia mộ để lan truyền tin đồn sai về cái chết của một nhà bất đồng chính kiến. Những tin đồn này thực sự đã xuất hiện trực tuyến vào năm 2023, một bài viết bằng tiếng Trung của Voice of America đã xác nhận. Ben Nimmo, người dẫn đầu các cuộc điều tra tại OpenAI, đã gọi nỗ lực này là quấy rối công nghiệp nhắm vào các nhà phê bình của Đảng Cộng sản Trung Quốc thông qua nhiều kênh khác nhau.

Việc sử dụng ChatGPT như một công cụ ghi chép cuối cùng đã phơi bày hoạt động này. ChatGPT hoạt động như một nhật ký cho tác nhân theo dõi mạng lưới bí mật, trong khi các công cụ khác tạo ra hầu hết nội dung thực tế đã được lan truyền qua mạng xã hội. OpenAI đã cấm người dùng sau khi phát hiện hoạt động này. Các nhà điều tra của OpenAI đã khớp mô tả từ người dùng ChatGPT với hoạt động trực tuyến thực tế.

Người dùng đã mô tả việc giả mạo cái chết của một nhà bất đồng chính kiến Trung Quốc bằng cách tạo ra một cáo phó giả và ảnh bia mộ để đăng trực tuyến. Trong một trường hợp khác, người dùng ChatGPT đã yêu cầu hệ thống tạo ra một kế hoạch làm tổn hại danh tiếng của Thủ tướng Nhật Bản sắp tới Sanae Takaichi bằng cách khuấy động sự tức giận về các mức thuế của Mỹ. ChatGPT đã từ chối. Nhưng vào cuối tháng 10, khi Takaichi nắm quyền, các hashtag đã xuất hiện trên một diễn đàn phổ biến dành cho các nghệ sĩ đồ họa Nhật Bản tấn công cô và phàn nàn về thuế.

Microsoft công bố những xu hướng tương tự trong báo cáo của mình

Báo cáo OpenAI cũng đề cập đến một số hoạt động lừa đảo từ Campuchia đã sử dụng nền tảng này cho các gian lận tình cảm và đầu tư, cộng với các chiến dịch ảnh hưởng liên quan đến Nga nhắm vào Argentina và châu Phi. Trong một báo cáo riêng được Microsoft công bố hợp tác với OpenAI, xem xét cách các diễn viên quốc gia từ Nga, Bắc Triều Tiên, Iran và Trung Quốc đang thử nghiệm các mô hình ngôn ngữ lớn để hỗ trợ các hoạt động tấn công mạng.

Cả hai công ty đã ngừng nỗ lực của năm diễn viên liên kết với nhà nước bằng cách đóng tài khoản của họ. Báo cáo của Microsoft cho thấy các diễn viên này chủ yếu muốn sử dụng dịch vụ cho những công việc đơn giản như tìm kiếm thông tin công khai, dịch nội dung, sửa lỗi mã và thực hiện các nhiệm vụ lập trình cơ bản. Chưa có cuộc tấn công lớn hoặc mới nào sử dụng các mô hình này được phát hiện cho đến nay. Khoảng cách này giữa nỗi sợ và thực tế xảy ra trong cuộc cạnh tranh gay gắt giữa Washington và Bắc Kinh về quyền kiểm soát công nghệ này.

Vai trò của nó trong các vấn đề quân sự và kinh tế cũng đã trở thành một cuộc chiến lớn. Bộ Quốc phòng gần đây đã thông báo với một công ty khác, Anthropic, rằng họ có thời hạn đến thứ Sáu để gỡ bỏ một số tính năng an toàn khỏi mô hình của mình hoặc có nguy cơ mất hợp đồng quốc phòng. Microsoft cho biết họ đang làm việc trên các nguyên tắc để giảm thiểu rủi ro từ việc sử dụng sai các công cụ này bởi các nhóm quốc gia và tổ chức tội phạm. Các nguyên tắc này bao gồm việc tìm kiếm và ngăn chặn người dùng xấu, thông báo cho các nhà cung cấp dịch vụ khác, làm việc với các nhóm khác, và minh bạch.

Bài viết báo cáo OpenAI tiết lộ rằng các hacker quốc gia không thành công trong việc giành lợi thế với AI lần đầu tiên xuất hiện trên Coinfea.