Pentagonul cere celor mai mari companii de inteligență artificială, inclusiv OpenAI și Anthropic, să integreze tehnologiile lor în rețelele militare secrete, fără restricțiile care sunt de obicei impuse utilizatorilor. Aceasta este raportată de agenția Reuters.
Militarii vor AI fără restricții
La un eveniment recent de la Casa Albă, directorul tehnologic al Pentagonului, Emil Michael, a declarat reprezentanților companiilor tehnologice că departamentul militar își propune să obțină acces la modelele de inteligență artificială atât în domenii deschise, cât și în cele clasificate.
„Lucrăm la desfășurarea capabilităților avansate AI la toate nivelurile de secretizare”, a declarat un oficial pentru Reuters, care a dorit să rămână anonim.
Aceasta este o altă epizod în negocierile continue între Pentagon și companiile de vârf în AI generativ despre modul în care SUA vor folosi inteligența artificială pe câmpurile de luptă viitoare. Și acolo deja domină roiurile autonome de drone, roboții și atacurile cibernetice.
Declarațiile lui Michael vor intensifica cu siguranță dezbaterile deja aprinse între dorința militarilor de a utiliza AI fără restricții și dorința companiilor tehnologice de a stabili limite în utilizarea instrumentelor lor.
Unde sunt limitele acceptabile?
Astăzi, multe companii AI creează instrumente speciale pentru forțele armate americane. Majoritatea dintre ele funcționează doar în rețele deschise, care sunt utilizate în mod obișnuit pentru administrația militară. Și doar o singură companie - Anthropic - este disponibilă în sistemele clasificate prin intermediul terților, dar guvernul este totuși legat de politica de utilizare a companiei.
Rețelele clasificate sunt utilizate pentru a lucra cu informații mai sensibile: planificarea misiunilor, direcționarea armelor către ținte. Reuters nu a reușit să afle cum și când exact Pentagonul intenționează să desfășoare chatboți AI în sistemele clasificate.
Oficialii militari speră să folosească puterea inteligenței artificiale pentru a sintetiza informații și a ajuta la luarea deciziilor. Dar, deși aceste instrumente sunt impresionante, ele pot face erori și chiar pot inventa informații care, la prima vedere, par plauzibile. În sistemele clasificate, astfel de erori pot avea consecințe mortale, avertizează cercetătorii AI.
OpenAI face concesii, Anthropic se opune
Companiile AI încearcă să minimizeze consecințele negative ale produselor lor, integrând mecanisme de protecție în modele și cerând clienților să respecte anumite principii. Dar oficialii Pentagonului sunt iritați de aceste restricții - ei susțin că trebuie să aibă posibilitatea de a utiliza instrumentele comerciale AI, atâta timp cât nu încalcă legislația americană.
În această săptămână, OpenAI a încheiat un acord cu Pentagonul, permițând militarilor să utilizeze instrumentele sale, inclusiv ChatGPT, în rețeaua deschisă genai.mil. Aceasta este deja disponibilă pentru mai mult de 3 milioane de angajați ai Ministerului Apărării. În cadrul acordului, OpenAI a fost de acord să elimine multe dintre restricțiile obișnuite pentru utilizatori, deși unele măsuri de siguranță au rămas.
Google de la Alphabet și xAI au încheiat anterior acorduri similare.
Un reprezentant OpenAI a subliniat că acordul din această săptămână se referă exclusiv la utilizarea în sistemele deschise prin genai.mil. Extinderea acestui acord va necesita un contract nou sau modificat.
Claude împotriva armelor autonome
Însă negocierile între competitorul OpenAI - compania Anthropic - și Pentagon s-au dovedit a fi semnificativ mai tensionate. Conducătorii Anthropic au spus oficialilor militari că nu doresc ca tehnologiile lor să fie utilizate pentru direcționarea autonomă a armelor și pentru supravegherea internă în SUA. Produsele Anthropic includ chatbotul Claude.
„Anthropic se angajează să protejeze lideratul Americii în domeniul AI și să ajute guvernul american în combaterea amenințărilor externe, oferind militarilor noștri acces la cele mai avansate capabilități ale inteligenței artificiale”, a declarat un reprezentant Anthropic. - „Claude este deja utilizat pe scară largă pentru sarcini legate de securitatea națională de către guvernul american, iar noi purtăm discuții productive cu Ministerul Apărării despre modalitățile de continuare a acestei lucrări.”
Negocierile arată o tensiune în creștere între dorința militarilor de a obține acces nelimitat la tehnologiile avansate AI și dorința companiilor tehnologice de a păstra controlul asupra utilizării dezvoltărilor lor. Această problemă este deosebit de acută în contextul operațiunilor militare clasificate, unde erorile AI pot avea consecințe catastrofale.
Opinie AI
Din punctul de vedere al analizei datelor de către mașini, situația amintește de un model clasic de cooperare militaro-industrială din timpul Războiului Rece. Atunci, Pentagonul a presat, de asemenea, companiile private să acorde acces la dezvoltările avansate - de la semiconductori la tehnologii satelitare. Diferența este că modelele AI moderne sunt sisteme „viu”, care învață și se dezvoltă, spre deosebire de echipamentele statice din trecut.
Implementarea tehnică a cerințelor Pentagonului se confruntă cu o problemă fundamentală: rețelele clasificate sunt fizic izolate de internet, ceea ce face imposibilă actualizarea modelelor în timp real. Sistemele AI în astfel de condiții vor deveni rapid depășite, pierzând relevanța cunoștințelor.
#AI #OpenAI #Anthropic #BinanceSquare #Write2Earn
