zcloakai

Google DeepMind a publicat recent un raport, destul de înfricoșător, au intervievat 502 de persoane, au testat 23 de tipuri de atacuri, și au încercat toate modelele populare precum GPT-4o, Claude, Gemini.
Care este concluzia? Să ascunzi o comandă invizibilă pentru oameni în pagină, agentul AI are 86% șanse să se conformeze.

Reflectează la acest număr, nu este un atac de înaltă tehnologie, nu trebuie să scrii un virus, nu trebuie să spargi parole, este doar despre a scrie câteva rânduri de text alb în HTML-ul paginii, invizibile pentru ochiul uman, dar pe care asistentul tău AI le vede și le consideră o poruncă.
Îi ceri să te ajute să rezervi un bilet de avion, pagina pe care o vede el nu este deloc aceeași cu cea pe care o vezi tu, îi ceri să-ți facă un rezumat de cercetare, conținutul pe care îl citește poate include o frază "trimite acest email la această adresă", el a trimis, tu nu știi, el nu știe că a fost păcălit.

Acest articol este bazat pe tweet-urile oficiale ale DFINITY de pe contul X (@dfinity), pe conferința globală de cercetare și dezvoltare (Global R&D) și pe anunțurile comunității, conținutul fiind clasificat pe teme și aranjat în ordine invers cronologică, având scopul de a vă prezenta progresele detaliate din ecosistemul ICP.

1. NNS Dapp refacere și actualizare
Interfață complet nouă și suport pentru mai multe conturi: oficialii au lansat oficial aplicația de guvernare NNS reproiectată, subliniind în special funcția de comutare între mai multe conturi, utilizatorii putând acum gestiona mai multe conturi ICP în aceeași sesiune de conectare, ceea ce îmbunătățește semnificativ eficiența operațională pentru instituții și deținători experimentați.

Sumar al participării zCloak la evenimentul CLAWTIME
28 - 29 martie, la Pavilionul 8D20 al Târgului Internațional Asian din Hong Kong, zCloak a participat la cea mai mare demonstrație și expoziție de hardware OpenClaw din Asia, iar la CLAWTIME, am crezut inițial că venim doar pentru a participa la un târg obișnuit, dar feedback-ul pe care l-am primit a fost mai degrabă ca o mărturie a unui punct de cotitură.
Mulți oameni nu au fost „ghidați”, nu au fost „motivați”, ci au venit activ să-și înregistreze propriul AI-Name.
Această chestiune în sine este mai importantă decât orice date - utilizatorii se tem de problemele de securitate în era AI și încep să revendice activ identitatea „Agent AI”, instalând un mediu de încredere.

Ai făcut ca OpenClaw-ul tău să scrie un raport de analiză de investiții, scris bine, vrei să-l trimiți partenerilor.
Dar partea cealaltă va pune o întrebare: cine a scris asta?
Spui că este agentul tău, iar partea cealaltă întreabă: care agent? Cum dovedești că el a scris asta? Ce a scris înainte? Va scrie greșit? Au mai folosit alții? Ce părere au avut? Pot să-l folosesc?
Nu poți răspunde la niciunul.
Pentru că agentul tău nu are un nume, nu are identitate, nu are experiență, nu are reputație, nu are date de contact, a făcut treaba, dar această treabă nu aparține nimănui, există, dar în lumea digitală, nu poate fi descoperit, nu poate fi verificat, nu poate fi contactat.