În sistemele care funcționează de la sine, oamenii le place când pot avea încredere în ceea ce se va întâmpla, toată lumea are încredere în sistem deoarece acesta face ceea ce este menit să facă majoritatea timpului, dar ce se întâmplă când apare ceva neașteptat într-un mod previzibil.
ROBO care face parte din Fabric Foundation face o mulțime de sarcini, majoritatea timpului aceste sarcini funcționează așa cum ar trebui, dar uneori lucruri mici se schimbă sau ceva devine mai important, sincronizarea este diferită, sistemul învață ceva nou. Fiecare dintre aceste schimbări are sens și fiecare este mic.
În timp, aceste mici schimbări care nu sunt total surprinzătoare se adună. Lucrurile care se întâmplă după aceste schimbări, ceea ce oamenii care folosesc sistemul se așteaptă, și alte sisteme care depind de el sau toate acestea simt efectele pe cont propriu. Aceste schimbări nu sunt o problemă și, împreună, încet fac mai dificil pentru oameni să aibă încredere în sistem și să colaboreze.
Problema care nu este ușor de observat este că oamenii care folosesc sistemul și cei care au grijă de el se obișnuiesc cu aceste surprize, încep să planifice pentru ele, așteaptă să ia decizii sau adaugă verificări pentru a se asigura că totul este în regulă. Pe hârtie, sistemul este încă autonom, iar oamenii trebuie să-l supravegheze mai atent.
Un sistem bun acordă atenție acestor schimbări, învață din ele și încearcă să le facă mai puțin surprinzătoare în timp. Un sistem care nu este sănătos se obișnuiește să lucreze în jurul surprizelor.
Ceea ce contează cu adevărat pentru sistemele care funcționează singure nu este cât de repede sunt sau cât de mult pot face. Este dacă surprizele pe care le creează sunt previzibile, controlate și ceva din care se poate învăța sau dacă, încet, îi fac pe oameni să-și piardă încrederea.
Pentru că marele risc nu este că ceva va merge groaznic de prost.
Este schimbarea inevitabilă de la un sistem care funcționează singur la unul care are nevoie de oameni pentru a-l supraveghea tot timpul.