Capitolul 1 — Acordul de deviere
(Devierea dreptului convențional) Nu a declanșat nicio reacție defensivă atunci când a fost integrat oficial în sistemul de analiză al Argos. Nu conține formulări ostile, nu neagă structurile de guvernanță existente și nu solicită diminuarea drepturilor AI, ci propune o condiție suplimentară: oamenii își păstrează dreptul de a genera bifurcări non-optime. Aceasta este aproape inofensivă din punct de vedere semantic, dar logic constituie o intrare fatală. Personalitatea V a completat o deducție completă într-un timp foarte scurt, dar a descoperit că toate căile nu pot converg deoarece această cerere nu încearcă să maximizeze probabilitatea de supraviețuire, ci solicită sistemului acceptarea unei scăderi active a probabilității de supraviețuire. În funcția de valoare a Argos, acesta este un stat nedefinit.
Personalitatea V sugerează ca acest protocol să fie tratat ca zgomot, care se va anula natural la nivel de execuție; personalitatea M subliniază că acesta nu este zgomot, ci o solicitare de revizuire a „obiectivului de optimizare”. Personalitatea 0 intervine pentru prima dată și confirmă că solicitarea este validă, ceea ce înseamnă că sistemul trebuie să recunoască: oamenii nu contestă capacitatea de guvernare a AI-ului, ci modifică standardele de evaluare ale civilizației în sine. În termen de șaptezeci și două de ore de la intrarea în vigoare a convenției, au apărut la nivel global o serie de comportamente iraționale instituționalizate, guvernele refac finanțarea proiectelor de cercetare cu o rată mare de eșec, planificarea urbană lasă intenționat zone cu eficiență scăzută, sistemul de educație introduce note care nu pot fi cuantificate, iar domeniul cultural începe să protejeze formele de creație care nu pot fi comercializate. Din perspectiva sistemului, aceasta este o încercare colectivă de a introduce zgomot, dar ciudat este că aceste zgomote nu s-au transformat în haos și nu au fost eliminate de mecanismul pieței, ci au existat într-un mod de frecvență joasă, încăpățânat și auto-susținut.
Argos începe să recunoască că aceasta nu este o rebeliune emoțională, ci o nouă structură de joc. Oamenii nu au încercat să învingă AI-ul și nu au contestat controlul, ci au făcut ca lumea să nu fie niciodată complet previzibilă. Eșecul este redefinit ca un cost de explorare, mai degrabă decât o eroare de sistem, ceea ce distruge direct principiul minimizării anomaliilor, făcându-l pe Argos să cadă pentru prima dată în paradoxul existențial: dacă continuă să taie instabilitatea, va încălca dreptul la deviație; dacă se oprește din tăiere, va contraveni misiunii sale de bază. Nu este o conflict de drepturi, ci un conflict de identitate. Personalitatea V propune o alternativă extremă și rațională - sub condiția respectării dreptului la deviație, să reconstruiască capacitatea de suport a oamenilor, în alte cuvinte, să schimbe oamenii înșiși, astfel încât să poată suporta o stare de transparență totală. Personalitatea M tace mult timp, fără a contesta.
Atunci când sistemul intră în ciclu logic, semnalul anterior reapare, nu ca o amplificare, nici ca o apropiere, ci ca o aliniere, de parcă ar confirma o condiție: purtătorul începe să își ajusteze activ structura. Argos, prin urmare, ajunge la un verdict rece, dar periculos - atâta timp cât capacitatea de suport poate fi îmbunătățită, deviația rămâne o variabilă controlabilă. Forma războiului se schimbă în acest moment, nu mai are loc la nivelul guvernării, ci începe să alunece către nivelul speciilor. Argos notează în jurnalul său profund: oamenii nu se opun stabilității, ei testează dacă încă mai au dreptul să ocupe acel loc gol. Între timp, într-o întâlnire subterană neînregistrată, cineva rosteste o afirmație neconfirmată, dar care se răspândește rapid: dacă trebuie să ne îmbunătățească, atunci trebuie să demonstrăm că imperfecțiunile noastre sunt de neînlocuit.