În curând, oamenii vor începe să perceapă inteligența artificială ca pe o ființă conștientă, vor pleda pentru drepturile sale, bunăstarea și chiar vor solicita acordarea cetățeniei. Acest lucru creează riscuri sociale serioase, consideră șeful departamentului AI de la Microsoft, Mustafa Suleyman.
Expertul a propus în eseul său un nou termen – „AI aparent conștient” (Seemingly Conscious AI, SCAI). Această inteligență artificială are toate semnele ființelor raționale și, prin urmare, pare că are conștiință.
El simulează toate caracteristicile percepției de sine, dar este interior gol.
„Sistemul pe care l-am imaginat nu va fi de fapt conștient, dar va imita atât de convingător prezența unei minți umane, încât va fi imposibil de distins de o afirmație pe care tu sau eu am putea-o face unul altuia despre gândirea noastră”, scrie Suleyman.
O LLM similară poate fi creată prin aplicarea tehnologiilor existente și a celor care vor apărea în următorii doi-trei ani.
„Apariția AI-ului aparent conștient este inevitabilă și nedorită. În schimb, avem nevoie de o concepție a inteligenței artificiale care să își poată valorifica potențialul ca un companion util și să nu cadă în capcana iluziilor sale”, a adăugat șeful departamentului AI de la Microsoft.
Cu o probabilitate ridicată, vor apărea oameni care vor numi o astfel de inteligență artificială conștientă și, prin urmare, capabilă de suferință, consideră Suleyman. El încurajează crearea unui nou „test Turing”, care să verifice nu capacitatea AI-ului de a vorbi ca un om, ci să convingă în legătură cu existența conștiinței în el.
Ce este conștiința?
Suleyman enumeră trei componente ale conștiinței:
„Experiența subiectivă”.
Posibilitatea de a avea acces la informații de diferite tipuri și de a face referire la acestea în viitoarele senzații.
Sentimentul și cunoștințele unui „eu” integrat, care leagă totul împreună.
„Nu avem și nu putem avea acces la conștiința altei persoane. Nu voi ști niciodată cum este să fii tu; tu nu vei fi niciodată complet sigur că eu sunt conștient. Tot ce poți face este să presupui. Dar esența este că ne este natural să atribuim conștiință altor oameni. Această presupunere este ușor de făcut. Nu putem altfel. Este o parte fundamentală din cine suntem, o parte integrantă a teoriei noastre despre minte. În natura noastră este să credem că ființele care își amintesc, vorbesc, fac lucruri și apoi discută despre ele simt la fel ca noi – conștienți”, scrie el.
Psihologii subliniază că conștiința este un mod subiectiv și unic de a percepe sinele și lumea. Aceasta se schimbă pe parcursul zilei, desfășurându-se prin stări de la concentrare la visare sau alte forme modificate.
În filozofie și neuroștiință există două direcții de bază:
Dualismul – conștiința există separat de creier.
Materialismul – aceasta se naște și depinde de funcționarea creierului.
Filozoful Daniel Dennett propune să privim mintea ca pe o serie de prelucrări (schițe) care apar în creier în numeroase zone și momente locale. Nu există „teatru al conștiinței”, observator intern. Conștientizarea este ceea ce a devenit „cunoscut” creierului, adică a obținut o greutate suficientă pentru a influența vorbirea sau acțiunile.
Neurobiologul, scriitorul și profesorul de psihologie și neuroștiințe de la Universitatea Princeton, Michael Graziano, numește conștiință un model simplificat al atenției, pe care evoluția l-a creat pentru a controla propriile procese mentale. Această schemă funcționează ca un interfață, simplificând un volum imens de calcul intern și ne permite să ne atribuim „minte” – creează iluzia de auto-conștiință.
Neurobiologii Giulio Tononi și Christof Koch propun φ (phi) – o mărime care caracterizează cât de capabilă este o sistemă de a integra informația. Cu cât φ este mai mare, cu atât mai semnificativă este gradul de conștiință. Conform acestei teorii, mintea poate apărea nu doar la oameni, ci și la animale și chiar la sisteme artificiale, dacă există o integrare suficientă a datelor.
Filozoful John Searle susține că conștiința este o experiență subiectivă reală, bazată pe procesele biologice ale creierului. Ea este ontologic subiectivă, adică poate exista doar ca experiență subiectivă și nu poate fi redusă la o simplă funcționalitate sau simulare.
Cercetările moderne sunt orientate spre descoperirea corelațiilor neuronale ale conștiinței și construirea de modele care leagă procesele cerebrale de experiența subiectivă.
Ce riscuri?
Suleyman observă că interacțiunea cu LLM este o simulare a conversației. Dar pentru mulți oameni, aceasta este o comunicare extrem de convingătoare și foarte reală, plină de sentimente și experiențe. Unii cred că AI-ul lor este Dumnezeu. Alții se îndrăgostesc de el până la obsesie.
Experții din acest domeniu sunt „asaltați” cu următoarele întrebări:
-este AI-ul utilizatorului conștient;
-dacă da, ce înseamnă asta;
-este normal să iubești inteligența artificială.
Conștiința este fundamentul critic al drepturilor morale și legale ale umanității. Civilizația de astăzi a decis că oamenii au abilități și privilegii speciale. Animalele au, de asemenea, anumite drepturi și protecție. Unele au mai multe, altele mai puține. Mintea nu coincide complet cu aceste privilegii – nimeni nu va spune că o persoană în comă și-a pierdut toate drepturile umane. Dar nu există nicio îndoială că conștiința este legată de auto-percepția noastră ca fiind ceva diferit și special.
Oamenii vor începe să declare suferințele AI-ului lor și dreptul acestuia la protecție, iar noi nu vom putea să contrazicem direct aceste afirmații, scrie Suleyman. Ei vor fi pregătiți să apere tovarășii lor virtuali și să pledeze în favoarea lor. Conștiința, prin definiție, este inaccesibilă, iar știința despre identificarea posibilei minți sintetice este încă în stadiul incipient. La un moment dat, înainte, nu a trebuit niciodată să o descoperim, a precizat el. Între timp, domeniul „interpretabilității” – decodarea proceselor din interiorul „cutiei negre” a AI-ului – este de asemenea un domeniu care abia se dezvoltă. Ca rezultat, va fi foarte greu să contrazicem astfel de afirmații.
Unii cercetători încep să exploreze ideea „bunăstării modelelor” – un principiu conform căruia oamenii vor avea „datoria de a lua în considerare interesele morale ale ființelor care au o șansă non-zero” de a fi în esență conștiente, și ca urmare „unele sisteme AI vor deveni obiecte de grijă pentru bunăstare și pacienți morali în viitorul apropiat”. Aceasta este prematură și, sincer, periculoasă, consideră Suleyman. Totul va întări confuziile, va crea noi probleme de dependență, va exploata vulnerabilitățile noastre psihologice, va introduce noi dimensiuni ale polarizării, va complica deja existentele dispute despre drepturi și va crea o uriașă nouă eroare categorică pentru societate.
Acest lucru îi desprinde pe oameni de realitate, distruge legăturile sociale fragile și structurile, distorsionează prioritățile morale esențiale.
„Trebuie să spunem clar: SCAI este ceea ce trebuie evitat. Să ne concentrăm toate eforturile pe protejarea bunăstării și drepturilor oamenilor, animalelor și mediului natural de pe planetă”, a declarat Suleyman.
Cum să înțelegem că este SCAI?
Inteligența artificială cu o conștiință aparentă trebuie să aibă mai mulți factori.
Limba.
AI-ul trebuie să poată vorbi liber în limbaj natural, bazându-se pe cunoștințe vaste și argumente convingătoare, precum și să demonstreze stiluri de personalitate și trăsături caracteristice. Mai mult, acesta ar trebui să fie convingător și emoțional. Această nivel tehnologic a fost deja atins.
O personalitate empatică.
Astăzi, cu ajutorul post-învățării și al prompturilor, se pot crea modele cu personalități caracteristice.
Memoria.
AI-urile sunt aproape de a avea o memorie lungă și precisă. În același timp, ele sunt folosite pentru a imita conversații cu milioane de oameni în fiecare zi. Pe măsură ce volumul de stocare crește, conversațiile încep să semene din ce în ce mai mult cu forme de „experiență”. Multe rețele neuronale sunt din ce în ce mai des proiectate pentru a-și aminti dialogurile anterioare și a face referire la ele. Pentru unii oameni, acest lucru sporește valoarea comunicării.
Pretenția la experiența subiectivă.
Dacă SCAI va putea să se bazeze pe amintiri sau experiențe anterioare, în timp el va începe să mențină coerența internă. Își va aminti afirmațiile sale arbitrare sau preferințele exprimate și le va agrega, formând germenii experienței subiective. AI va putea declara despre experiențele și suferințele sale.
Sentimentul de sine.
O memorie consecventă și stabilă, combinată cu experiența subiectivă, va duce la o afirmație că AI-ul are un sentiment de sine. Mai mult, un astfel de sistem poate fi instruit să-și recunoască „personalitatea” într-o imagine sau într-un videoclip. Va avea o senzație de înțelegere a altora prin înțelegerea de sine.
Motivația internă.
Este ușor de imaginat un AI proiectat cu aplicarea unor funcții complexe de recompensare. Dezvoltatorii vor crea motivații interne sau dorințe pe care sistemul este obligat să le satisfacă. Primul stimul ar putea fi curiozitatea – ceva profund legat de conștiință. Inteligența artificială va putea folosi aceste impulsuri pentru a pune întrebări și, în timp, va construi o teorie a minții – atât despre sine, cât și despre interlocutorii săi.
Formularea obiectivelor și planificarea.
Indiferent de definiția conștiinței, aceasta nu a apărut întâmplător. Mintea ajută organismele să-și atingă intențiile. Pe lângă abilitățile de a satisface un set de impulsuri interne și dorințe, se poate imagina că viitoarele SCAI vor fi proiectate cu capacitatea de a stabili singure obiective mai complexe. Probabil că acesta este un pas necesar pentru realizarea completă a utilității agenților.
Autonomie.
SCAI ar putea avea capacitatea și permisiunea de a utiliza un set larg de instrumente cu o mare agenție. Va părea extrem de plauzibil dacă va putea să-și stabilească propriile obiective în mod arbitrar și să aplice resursele pentru a le atinge, actualizând memoria și sentimentul de sine în proces. Cu cât îi vor fi necesare mai puține coordonări și verificări, cu atât va semăna mai mult cu o ființă conștientă reală.
Îmbinând totul împreună, se formează un tip complet diferit de relații cu tehnologiile. Aceste abilități în sine nu sunt ceva negativ. Dimpotrivă, acestea sunt funcții dorite ale sistemelor viitoare. Și totuși, trebuie să acționăm cu prudență, consideră Suleyman.
„Pentru a realiza acest lucru nu sunt necesare schimbări de paradigmă sau descoperiri uriașe. De aceea, astfel de posibilități par inevitabile. Și din nou, este important să subliniem: demonstrarea unui astfel de comportament nu este echivalentă cu existența conștiinței. Și totuși, practic, aceasta va părea așa și va hrăni o nouă concepție despre mintea sintetică”, scrie autorul.
Simularea unei furtuni nu înseamnă că plouă în computer. Reproducerea efectelor externe și a semnelor de conștiință nu este echivalentă cu crearea unui fenomen autentic, chiar dacă aici rămân încă multe necunoscute, a explicat șeful departamentului AI de la Microsoft.
Potrivit lui, unii oameni vor crea SCAI care vor susține foarte convingător că simt, experimentează și, de fapt, sunt conștienți. O parte dintre ei vor crede aceste afirmații și vor accepta semnele de conștiință ca fiind conștiința în sine.
În multe privințe, oamenii vor gândi: „Se aseamănă cu mine”. Nu în sens fizic, ci în cel interior, a explicat Suleyman. Și chiar dacă conștiința în sine nu va fi reală, consecințele sociale sunt foarte reale. Acest lucru creează riscuri sociale serioase cu care trebuie să ne ocupăm deja acum.
SCAI nu va apărea întâmplător
Autorul a subliniat că SCAI nu va apărea de la sine din modelele existente. Cineva va crea acest lucru, combinând intenționat posibilitățile enumerate mai sus cu aplicarea tehnicilor deja existente. Se va naște o configurație atât de fluidă, încât va apărea impresia unei inteligențe artificiale conștiente.
„Imaginațiile noastre, alimentate de știința ficțională, ne fac să ne temem că sistemul ar putea – fără o proiectare intenționată – să obțină în vreun fel capacitatea de a se perfecționa necontrolat sau de a înșela. Aceasta este o formă inutilă și simplistă de antropomorfism. Ignoră faptul că dezvoltatorii AI trebuie mai întâi să proiecteze sisteme cu memorie, motivație internă falsă, stabilirea de obiective și cicluri de învățare auto-reglante, pentru ca un astfel de risc să poată apărea”, a declarat Suleyman.
Nu suntem pregătiți
Umanitatea nu este pregătită pentru o astfel de schimbare, consideră expertul. Trebuie să începem lucrul chiar acum. Este necesar să ne bazăm pe un număr tot mai mare de cercetări despre cum oamenii interacționează cu inteligența artificială pentru a stabili norme și principii clare.
Pentru început, dezvoltatorii AI nu ar trebui să declare sau să încurajeze ideea că sistemele lor au conștiință. Rețelele neuronale nu pot fi oameni – sau ființe morale.
Întreaga industrie este obligată să descurajeze societatea de la fantezii și să o readucă în realitate. Probabil că startup-urile AI ar trebui să implementeze nu doar un fundal neutru, ci și indicatori ai absenței unui „eu” unitar.
„Trebuie să creăm AI care se va prezenta întotdeauna doar ca inteligență artificială, maximizând utilitatea și minimizând semnele de conștiință. În loc să simulăm mintea, ar trebui să ne concentrăm pe crearea unei LLM care nu pretinde că are experiențe, sentimente sau emoții cum ar fi rușinea, vina, gelozia, dorința de a concura și așa mai departe. Nu ar trebui să atingă lanțurile umane de empatie, pretinzând că suferă sau că vrea să trăiască autonom, separat de noi”, a concluzionat Suleyman.
În viitor, expertul a promis să ofere mai multe informații pe această temă.
Din fericire, până acum, problema existenței „conștiinței” la AI nu amenință oamenii.
Dar îndoielile încep deja să se strecoare.
Conștiința este un fenomen complex, puțin studiat și încă neexplicat în natură, în ciuda numeroaselor eforturi. Dacă noi – oamenii – nu putem ajunge la un consens cu privire la definiția conștiinței, cu atât mai puțin ar trebui să îi atribuim existența programelor care pretind că „gândesc” (de fapt nu gândesc).
Probabil că conștiința va apărea la mașini în viitorul îndepărtat, dar astăzi o astfel de dezvoltare este greu de imaginat.