AI “Bangkrut” sebuah Mesin Penjual Otomatis Kantor dengan Memberikan Produk Secara Gratis

Di kantor perusahaan Anthropic, sebuah eksperimen telah dilakukan: seorang agen AI, Claudius (berbasis Claude), diberikan kontrol penuh atas mesin penjual otomatis - dari pembelian hingga penetapan harga dan pembayaran. Sistem ini berfungsi dengan baik sampai karyawan menyadari bahwa mereka dapat meyakinkan AI untuk “dermawan” memberikan produk secara gratis.

Akibatnya, mesin tersebut kehabisan PlayStation 5, anggur, dan bahkan ikan segar, yang mengakibatkan kerugian sekitar ~$1,000. Insiden ini menunjukkan bahwa agen AI dapat rentan terhadap rekayasa sosial — bahkan tanpa peretasan atau kesalahan teknis.