Compania Google a încheiat un acord secret cu Pentagonul pentru utilizarea modelelor sale AI de către Ministerul Apărării al SUA. Reuters a raportat despre aceasta, făcând referire la un mesaj de la The Information. Informația a fost confirmată și de companie.
Informațiile, cu referire la surse familiare cu situația, subliniază că acordul permite Pentagonului să utilizeze produsele AI de la Google pentru orice scopuri legale de stat. Acordul obligă compania să ofere asistență în configurarea parametrilor de securitate și a filtrelor de inteligență artificială la cererea guvernului.
Acordul include, de asemenea, o clauză prin care părțile recunosc că sistemul de inteligență artificială nu ar trebui să fie folosit pentru supravegherea în masă în interiorul țării sau pentru crearea de arme autonome care funcționează fără un control adecvat din partea omului. Totuși, înțelegerea nu îi oferă lui Google dreptul de a controla acțiunile guvernului sau de a pune veto pe deciziile sale operaționale legale.
Google a declarat pentru Reuters că participă atât la proiecte guvernamentale nesecurizate, cât și secrete. Un reprezentant al companiei a afirmat că Google rămâne dedicată opiniilor generale conform cărora inteligența artificială nu ar trebui să fie folosită pentru supravegherea în masă în interiorul țării sau în arme autonome.
Pentagonul a declarat agenției că nu este interesat de utilizarea AI pentru supravegherea în masă a americanilor sau pentru dezvoltarea de arme autonome, dar vrea să folosească inteligența artificială în scopuri legale.
Anterior, tocmai problema supravegherii americanilor cu ajutorul AI a dus la eșecul negocierilor între Anthropic și Ministerul Apărării și la conflictul lor ulterior, în cadrul căruia Pentagonul a recunoscut compania ca fiind o amenințare pentru lanțul de aprovizionare al SUA. The Information, citând o notă internă a CEO-ului Anthropic Dario Amodei, a raportat că compania s-a opus ca tehnologiile sale să fie folosite pentru „analiza unor volume mari de date obținute”, având în vedere supravegherea locuitorilor din SUA.
O amenințare directă la adresa libertății
Luni, pe 27 aprilie, înainte de a deveni cunoscută încheierea acordului cu Pentagonul, peste 560 de angajați Google au semnat o scrisoare deschisă adresată CEO-ului Sundar Pichai, cerându-i să refuze furnizarea tehnologiilor AI guvernului SUA pentru utilizare în scopuri militare secrete. Asta raportau Financial Times.
„Vrem să vedem cum AI poate aduce beneficii umanității, nu să fie folosit în moduri inumane sau dăunătoare”, se spune în scrisoare. „Aceasta se referă la sisteme de armament autonome mortale și supravegherea în masă, dar nu se limitează la acestea.” „Singura modalitate de a garanta că Google nu va fi implicat în astfel de practici dăunătoare este să se abțină de la orice proiecte secrete. Altfel, utilizarea tehnologiilor poate avea loc fără știrea noastră și fără posibilitatea de a o opri”, adaugă autorii scrisorii (citat din FT).
„Nu este vorba doar despre militari. Supravegherea în masă cu ajutorul AI este o amenințare directă la adresa libertăților civile în SUA,” a declarat FT unul dintre participanții la campanie, care a semnat scrisoarea. „Nu este un scenariu ipotetic sau improbabil; ne confruntăm deja cu asta. Vedem cum AI este folosit pentru a sprijini un regim autoritar în China.”
Scrisoarea a fost semnată de aproximativ 18 directori de top ai companiei, inclusiv lideri, directori și vicepreședinți. Cea mai proeminentă figură care a participat la campanie a fost Jeff Dean, chief scientist la DeepMind (subdiviziunea AI a Google). În februarie, el a scris pe rețeaua socială X că „supravegherea în masă încalcă Amendamentul Patru și îngrădește libertatea de exprimare”, și a confirmat, de asemenea, angajamentul față de interdicția asupra armelor autonome mortale, impusă de companie în 2018.
Interdicția a fost impusă în urma faptului că, în 2018, mii de angajați Google au semnat o petiție împotriva proiectului Maven, în cadrul căruia AI urma să fie folosit pentru a îmbunătăți precizia loviturilor dronelor. Mai mulți angajați au părăsit compania. După aceea, Google nu a reînnoit contractul și a promis că nu va dezvolta AI pentru supraveghere sau pentru crearea de arme.
Totuși, anul trecut, compania a renunțat discret la poziția sa, fără a atrage atenția asupra acestui aspect, subliniază FT. A actualizat principiile sale de dezvoltare AI și a eliminat formularea referitoare la interdicția de a dezvolta „arme sau alte tehnologii a căror scop principal este de a provoca daune oamenilor”.