Măsurile de securitate pentru agenții alimentați de inteligență artificială ar trebui să acopere întregul sistem, nu doar modelul în sine, conform unei lucrări de cercetare recente. Studiul, publicat pe 20 mai de cercetători de la Google, Gray Swan AI, EmbraceTheRed și mai multe universități, subliniază că securitatea agenților ar trebui tratată ca o problemă de sistem, cu agenții AI considerați componente nesigure. Potrivit Cointelegraph, cercetătorii susțin că eforturile de îmbunătățire a robusteței modelului nu sunt suficiente de una singură și ar trebui completate cu tehnici din domeniul securității sistemelor.

Lucrarea propune să privim securitatea agenților ca pe o instanță de securitate informatică, un domeniu care s-a ocupat de mult timp de atacatori puternici și a motivat cercetări extinse asupra principiilor și tehnicilor de a contracara astfel de adversari. Agenții AI câștigă popularitate printre utilizatorii de crypto, cu unii executivi din industrie prezicând o creștere semnificativă în utilizarea lor. CEO-ul Circle, Jeremy Allaire, a prezis în ianuarie că miliarde de agenți AI ar putea opera în numele utilizatorilor în termen de cinci ani.

Cercetătorii au identificat protecțiile esențiale de securitate care ar putea preveni majoritatea atacurilor. Ei sugerează că agenții AI ar trebui să diferențieze între instrucțiuni și date neîncredere pentru a evita să fie înșelați de atacatori care ascund instrucțiuni malițioase în date. În plus, agenții AI ar trebui să aibă doar permisiunile minime necesare pentru a efectua sarcini, mai degrabă decât acces complet. Cercetătorii susțin că AI ar trebui tratat ca un sistem neîncredere în cadrul configurațiilor standard de securitate, care includ de obicei atât sisteme de încredere, cât și neîncredere.

Într-un incident recent, asistentul de tranzacționare crypto alimentat de AI, Bankr, a dezactivat tranzacțiile pe 20 mai după ce a detectat un atacator care accesase cel puțin 14 portofele. Experții în securitate au speculat că botul ar fi putut fi exploatat de un hacker. Agenții AI sunt folosiți din ce în ce mai mult pentru a construi aplicații Web3, a lansa token-uri și a interacționa autonom cu servicii și protocoale, cu unele platforme explorând AI pentru trading.

Aaron Ratcliff, lider de atribuții la firma de inteligență blockchain Merkle Science, a subliniat importanța construirii corecte a sistemelor pentru a asigura siguranța atunci când se oferă agenților AI acces la portofele. El a evidențiat necesitatea ca AI să detecteze front-running, să aplice limite de slippage, să identifice token-uri scam și să auditeze contractele în timp real înainte de a executa tranzacții. Sean Ren, co-fondator al platformei blockchain native AI Sahara AI, a menționat că protocoalele de context ale modelului sunt standardul de aur pentru siguranță atunci când sunt configurate corect, dar utilizatorii ar trebui să rămână vigilenți cu privire la fiecare acțiune efectuată de un agent AI. Ren a explicat că aceste protocoale acționează ca un gardian între modelul AI și portofel, permițând doar acțiuni specifice, aprobate.