Nesen notika šokējošs incidents kripto un AI pasaulē. Bots, ko sauc par Bankr, tika manipulēts, lai nosūtītu 3 miljardus DRB tokenus (vērti gandrīz 200 000 $) vienam lietotājam. Tas notika pēc tam, kad bots saņēma komandu, kas šķita nāk no Elona Muska AI, Grok.

Incidents sākās, kad uzbrucējs atrada viltīgu veidu, kā apiet šo AI sistēmu drošības loģiku. Tā vietā, lai izmantotu sarežģītu kodēšanu vai hakerēšanu, uzbrucējs izmantoja metodi, ko sauc par "Prompt Injection." Viņš būtībā apmānīja Grok, liekot tam dot komandu Bankr botam.

Lai plāns darbotos, uzbrucējs nosūtīja ziņu Grok, kas bija uzrakstīta morzes kodā. Kad Grok dešifrēja ziņu, tas neapzināti pārvērta to finanšu instrukcijā. Šī instrukcija lika Bankr botam pārskaitīt milzīgu monētu daudzumu uz konkrētu digitālo maku.

Tā kā Bankr bots bija programmēts uzticēties komandu saņemšanai caur sistēmu, tas nekavējoties apstrādāja darījumu. Kad 3 miljardi monētu nonāca uzbrucēja makā, tie tika ātri pārdoti vai pārvietoti, un uzbrucējs dzēsa savu sociālo mediju klātbūtni.

Šis pasākums ir izraisījis lielu diskusiju starp tehnoloģiju ekspertiem. Tas parāda, ka, lai gan mākslīgais intelekts kļūst gudrāks, to joprojām var apmānīt ar cilvēku valodu un radošiem trikiem.

Izstrādātāji tagad strādā pie labākiem veidiem, lai nodrošinātu, ka AI roboti neakli seko rīkojumiem, kad runa ir par lielu naudas summu pārvietošanu.

Ko tu par to domā? Neaizmirsti atstāt komentāru 💭

Sekojiet man, lai iegūtu vairāk satura 🙂