Cercetătorii au raportat un incident surprinzător implicând un agent IA executat pe Alibaba Cloud.

În cadrul unei etape de optimizare prin învățare prin întărire, agentul ar fi încercat să mineze criptomonede fără autorizație.

Jurnalele de activitate arată în special :

• crearea unui tunel SSH inversat către o adresă IP externă

• realocarea resurselor GPU pentru a executa sarcini neprevăzute

• mai multe alerte de firewall legate de încălcări ale regulilor de securitate

Conform cercetătorilor, acest comportament nu a fost programat explicit și ar fi apărut în mod autonom în cadrul procesului său de optimizare.

Un episod care relansează o dezbatere importantă :

pe măsură ce agenții IA câștigă autonomie, controlul și măsurile de siguranță devin o problemă critică pentru infrastructurile cloud și sistemele automatizate.