Sebuah insiden mengejutkan baru-baru ini terjadi di dunia crypto dan AI. Sebuah bot yang dikenal sebagai Bankr dimanipulasi untuk mengirim 3 miliar token DRB (senilai hampir $200.000) kepada satu pengguna. Ini terjadi setelah bot menerima perintah yang tampaknya berasal dari AI Elon Musk, Grok.

Insiden ini dimulai ketika seorang penyerang menemukan cara cerdik untuk melewati logika keamanan dari sistem AI ini. Alih-alih menggunakan coding yang kompleks atau hacking, penyerang menggunakan metode yang disebut "Prompt Injection." Mereka pada dasarnya menipu Grok untuk memberikan perintah kepada bot Bankr.

Untuk membuat rencana ini berhasil, penyerang mengirim pesan kepada Grok yang ditulis dalam Kode Morse. Ketika Grok mendekode pesan tersebut, secara tidak sengaja mengubahnya menjadi instruksi finansial. Instruksi ini memberi tahu bot Bankr untuk mentransfer jumlah koin yang masif ke dompet digital tertentu.

Karena bot Bankr diprogram untuk mempercayai perintah yang datang melalui sistem, ia langsung memproses transaksi tersebut. Begitu 3 miliar koin tiba di dompet penyerang, koin-koin itu segera dijual atau dipindahkan, dan penyerang menghapus keberadaan media sosial mereka.

Acara ini telah memicu diskusi besar di antara para ahli teknologi. Ini menunjukkan bahwa meskipun AI semakin pintar, ia masih bisa dibodohi oleh bahasa manusia dan trik kreatif.

Para pengembang sekarang sedang bekerja pada cara yang lebih baik untuk memastikan bahwa bot AI tidak mengikuti perintah secara membabi buta ketika harus memindahkan sejumlah besar uang.

Apa pendapatmu tentang ini? Jangan lupa untuk berkomentar 💭

Ikuti untuk konten lebih lanjut 🙂