Langkah-langkah keamanan untuk agen yang didukung oleh kecerdasan buatan harus mencakup seluruh sistem, bukan hanya fokus pada model itu sendiri, menurut sebuah makalah penelitian terbaru. Studi ini, yang dirilis pada 20 Mei oleh para peneliti dari Google, Gray Swan AI, EmbraceTheRed, dan beberapa universitas, menekankan bahwa keamanan agen harus dipandang sebagai masalah sistem, dengan agen AI dianggap sebagai komponen yang tidak terpercaya. Menurut Cointelegraph, para peneliti berargumen bahwa upaya untuk meningkatkan ketahanan model saja tidak cukup dan harus dilengkapi dengan teknik dari domain keamanan sistem.

Makalah ini mengusulkan untuk melihat keamanan agen sebagai contoh dari keamanan komputer, sebuah bidang yang telah lama menangani penyerang yang kuat dan memotivasi penelitian yang luas tentang prinsip dan teknik untuk melawan musuh tersebut. Agen AI semakin populer di kalangan pengguna crypto, dengan beberapa eksekutif industri memprediksi pertumbuhan signifikan dalam penggunaannya. CEO Circle Jeremy Allaire memperkirakan pada bulan Januari bahwa miliaran agen AI bisa beroperasi atas nama pengguna dalam lima tahun ke depan.

Para peneliti mengidentifikasi perlindungan keamanan inti yang dapat mencegah sebagian besar serangan. Mereka menyarankan agar agen AI membedakan antara instruksi dan data yang tidak tepercaya untuk menghindari penipuan oleh penyerang yang menyembunyikan instruksi berbahaya dalam data. Selain itu, agen AI seharusnya hanya memiliki izin minimum yang diperlukan untuk melakukan tugas, bukan akses penuh. Para peneliti menganjurkan agar AI diperlakukan sebagai sistem yang tidak tepercaya dalam pengaturan keamanan standar, yang biasanya mencakup sistem tepercaya dan tidak tepercaya.

Dalam insiden terbaru, asisten trading crypto berbasis AI Bankr menonaktifkan transaksi pada 20 Mei setelah mendeteksi seorang penyerang yang telah mengakses setidaknya 14 dompet. Para ahli keamanan berspekulasi bahwa bot tersebut mungkin telah dieksploitasi oleh seorang hacker. Agen AI semakin banyak digunakan untuk membangun aplikasi Web3, meluncurkan token, dan berinteraksi dengan layanan dan protokol secara otonom, dengan beberapa platform mengeksplorasi AI untuk trading.

Aaron Ratcliff, kepala atribusi di firma intelijen blockchain Merkle Science, menyoroti pentingnya membangun sistem dengan benar untuk memastikan keamanan saat memberikan akses agen AI ke dompet. Dia menekankan perlunya AI untuk menangkap front-running, menerapkan batas slippage, mengidentifikasi token penipuan, dan mengaudit kontrak secara real-time sebelum mengeksekusi perdagangan. Sean Ren, salah satu pendiri platform blockchain berbasis AI Sahara AI, mencatat bahwa protokol konteks model adalah standar emas untuk keamanan jika diatur dengan benar, tetapi pengguna harus tetap waspada terhadap setiap tindakan yang dilakukan oleh agen AI. Ren menjelaskan bahwa protokol ini bertindak sebagai penjaga gerbang antara model AI dan dompet, hanya memperbolehkan tindakan tertentu yang disetujui.