Sebuah laporan baru dari OpenAI telah menunjukkan bahwa kelompok yang disponsori negara menggunakan alat yang sama yang tersedia untuk umum seperti pengguna internet biasa, dan sering kali berjuang sama seperti mereka. OpenAI baru-baru ini membagikan rincian tentang bagaimana kelompok yang terkait dengan pemerintah mencoba menggunakan platform mereka.
Kasus yang paling mencolok berasal dari kampanye pengaruh Tiongkok yang terungkap secara tidak sengaja ketika seorang pejabat penegak hukum Tiongkok menggunakan ChatGPT seperti buku harian pribadi. Pejabat tersebut menulis tentang sebuah operasi yang menargetkan kritikus Tiongkok yang tinggal di negara lain. Kampanye tersebut melibatkan ratusan operator dan ribuan akun media sosial palsu, menurut OpenAI.
Operasi tersebut mencoba menyamar sebagai petugas imigrasi Amerika Serikat untuk menakut-nakuti seorang pembangkang dengan secara salah mengatakan bahwa pernyataan publik mereka melanggar hukum Amerika. Dalam kasus lain, pelaksana menggunakan dokumen palsu yang mengklaim berasal dari pengadilan daerah untuk mencoba menghapus akun media sosial para kritikus.
OpenAI memberikan wawasan tentang kampanye pelecehan baru
Mereka membuat obituari palsu dan foto batu nisan untuk menyebarkan rumor palsu tentang kematian seorang pembangkang. Rumor ini sebenarnya muncul secara online pada tahun 2023, seperti yang dikonfirmasi oleh artikel Voice of America berbahasa Cina. Ben Nimmo, yang memimpin penyelidikan di OpenAI, menyebut usaha ini sebagai pelecehan yang terindustrialisasi yang ditujukan kepada kritikus Partai Komunis Tiongkok melalui berbagai saluran.
Menggunakan ChatGPT sebagai alat pencatat akhirnya mengekspos operasi tersebut. ChatGPT berfungsi sebagai jurnal bagi pelaksana untuk melacak jaringan rahasia, sementara alat lain menghasilkan sebagian besar konten nyata yang disebarluaskan melalui media sosial. OpenAI melarang pengguna setelah menemukan aktivitas tersebut. Penyelidik OpenAI mencocokkan deskripsi dari pengguna ChatGPT dengan aktivitas online nyata.
Pengguna menggambarkan berpura-pura menciptakan kematian seorang pembangkang Tiongkok dengan membuat obituari dan foto batu nisan palsu untuk diposting secara online. Dalam kasus lain, pengguna ChatGPT meminta sistem untuk membuat rencana merusak reputasi Perdana Menteri Jepang yang baru terpilih, Sanae Takaichi, dengan membangkitkan kemarahan atas tarif Amerika. ChatGPT menolak. Namun, pada akhir Oktober, ketika Takaichi berkuasa, tagar muncul di forum populer untuk seniman grafis Jepang yang menyerangnya dan mengeluhkan tarif.
Microsoft mengungkapkan tren serupa dalam laporannya
Laporan OpenAI juga mencakup beberapa operasi penipuan dari Kamboja yang menggunakan platform untuk penipuan romansa dan investasi, plus kampanye pengaruh yang terkait dengan Rusia yang menargetkan Argentina dan Afrika. Dalam laporan terpisah yang diterbitkan oleh Microsoft bekerja sama dengan OpenAI, melihat bagaimana aktor negara dari Rusia, Korea Utara, Iran, dan Tiongkok mencoba model bahasa besar untuk mendukung operasi serangan siber.
Kedua perusahaan menghentikan upaya lima aktor yang terkait dengan negara dengan menutup akun mereka. Laporan Microsoft menemukan bahwa aktor-aktor ini terutama ingin menggunakan layanan untuk pekerjaan sederhana seperti mencari informasi yang tersedia untuk umum, menerjemahkan konten, memperbaiki kesalahan pengkodean, dan menjalankan tugas pemrograman dasar. Belum ada serangan besar atau baru yang menggunakan model-model tersebut yang ditemukan sejauh ini. Kesenjangan antara ketakutan dan kenyataan terjadi selama kompetisi ketat antara Washington dan Beijing atas kendali teknologi ini.
Peran yang dimainkan dalam masalah militer dan ekonomi juga telah menjadi pertempuran besar. Pentagon baru-baru ini memberi tahu perusahaan lain, Anthropic, bahwa mereka memiliki hingga hari Jumat untuk menghapus fitur keamanan tertentu dari model mereka atau berisiko kehilangan kontrak pertahanan. Microsoft mengatakan mereka sedang mengerjakan prinsip untuk mengurangi risiko dari penggunaan buruk alat ini oleh kelompok negara-negara dan organisasi kriminal. Prinsip-prinsip ini termasuk menemukan dan menghentikan pengguna buruk, memberi tahu penyedia layanan lain, bekerja dengan kelompok lain, dan bersikap transparan.
Postingan laporan OpenAI mengungkapkan bahwa peretas negara gagal mendapatkan keunggulan dengan AI pertama kali muncul di Coinfea.