“Algocrazia,” “Governance per algoritmo,” o “Regolazione algoritmica” non è esattamente un concetto ben definito o chiaro. Tuttavia, possiamo riassumerlo così: algoritmi + governance (leggi o regole di qualche tipo). In questo senso, possiamo parlare di algocrazia quando qualche tipo di sistema basato su algoritmo, sia esso un contratto intelligente, un'Intelligenza Artificiale (IA), o qualsiasi altro, controlla, in tutto o in parte, i processi decisionali di qualche piattaforma, progetto, iniziativa o istituzione.
Non è assolutamente la stessa cosa dell'e-government (governi che utilizzano strumenti digitali), e presenta il suo set di potenziali problemi. Un algoritmo è più di una semplice applicazione digitale; è un insieme strutturato di istruzioni precise progettate per affrontare problemi complessi—avendo anche il potenziale di crearne di nuovi. Nel romanzo Daemon (2006) di Daniel Suarez, ad esempio, possiamo vedere come un algoritmo prenda segretamente il controllo del mondo, persino uccidendo persone, dopo la morte del suo creatore.
Non siamo ancora arrivati a un livello così distopico nel nostro mondo, ma potremmo essere sulla strada per farlo. Gli algoritmi vengono già utilizzati da individui, aziende e governi per prendere decisioni. E decisioni importanti, per di più.
Algoritmi in Azione
Se ti sei chiesto: sì, le criptovalute funzionano con algoritmi. I contratti intelligenti funzionano con algoritmi, e intere reti crypto sono costruite su algoritmi. Utilizzano queste complesse istruzioni matematiche per sostituire intermediari umani costosi o poco affidabili nella verifica delle transazioni. Gli algoritmi aiutano anche le persone a prendere decisioni generali sulle loro piattaforme fornendo l'infrastruttura per votare (governance on-chain nelle reti crypto). Questi sono solo un paio di esempi di cosa fanno gli algoritmi, ma non è tutto ciò che hanno in serbo.
Nel 2017, la polizia di Durham (Regno Unito) ha introdotto lo Strumento di Valutazione del Rischio di Danno (HART), un sistema AI che prevede la probabilità di recidiva di un sospetto. Classificava gli individui in categorie di rischio, aiutando a decidere se fossero trattenuti o idonei per la riabilitazione. Metodi simili di polizia predittiva, spesso alimentati da machine learning e analisi dei dati, sono utilizzati negli Stati Uniti e in Cina.
Le città intelligenti offrono un'altra applicazione del mondo reale della governance algoritmica. Le infrastrutture alimentate dall'AI, come l'illuminazione stradale intelligente e i sistemi di traffico automatizzati, ottimizzano l'uso delle risorse. Progetti come la città futuristica "The Line" in Arabia Saudita stanno pianificando di integrare l'AI per servizi proattivi. I governi stanno anche incorporando l'AI nel processo decisionale, dall'automazione delle verifiche fiscali all'uso di modelli predittivi per i servizi sociali.
Giudici AI, testati in Cina ed Estonia, possono gestire piccole controversie legali, mentre algoritmi predittivi assistono nella sentenza giudiziaria. Anche l'istruzione vede automazione simile con piattaforme come Knewton, che adattano i materiali didattici in base alle performance degli studenti.
I modelli linguistici come ChatGPT o DeepSeek sono costruiti su algoritmi. Google Search utilizza algoritmi per classificare i risultati. YouTube, Netflix e Spotify usano algoritmi per suggerire contenuti personalizzati, e Amazon lo fa per personalizzare i suggerimenti di acquisto. Gli algoritmi sono utili e siamo già circondati da essi.
Algoritmi Distopici
Gli algoritmi aumentano l'efficienza e riducono la partecipazione umana, ma possono anche diventare distopici. Una delle principali preoccupazioni è ciò che Evgeny Morozov ha chiamato "filo spinato invisibile"—un sistema in cui gli algoritmi guidano sottilmente le scelte, limitando la crescita intellettuale e sociale senza che le persone se ne rendano conto. Questi sistemi analizzano dati personali per prevedere comportamenti, spingendo gli individui verso determinate azioni mentre limitano l'esposizione a idee o opportunità alternative.
Poiché i vincoli non sono espliciti, le persone assumono di agire liberamente, anche se le loro opzioni sono state curate con attenzione da forze invisibili. Questo controllo silenzioso può indebolire la libertà riducendo il pensiero critico e rafforzando abitudini preesistenti invece di promuovere decisioni indipendenti. In altre parole, le persone seguono ciecamente i suggerimenti dell'algoritmo, senza sapere come funziona, ignare di poter essere manipolate, ma spaventate dall'assumere percorsi alternativi che potrebbero danneggiarle.
L'opacità di questi sistemi decisionali è un'altra questione urgente, infatti. Molti algoritmi funzionano come scatole nere, prendendo decisioni critiche senza spiegazioni chiare. Questa mancanza di trasparenza è pericolosa, soprattutto quando gli algoritmi vengono addestrati su dati distorti. Se un algoritmo riflette inconsapevolmente disuguaglianze storiche, può perpetuare la discriminazione mentre presenta le proprie decisioni come oggettive.
Ad esempio, gli strumenti di polizia predittiva sono stati criticati per colpire ingiustamente le comunità emarginate, e i sistemi di scoring creditizio guidati dall'AI hanno svantaggiato in modo sproporzionato determinati gruppi. Quando questi strumenti influenzano l'accesso finanziario, l'applicazione della legge e l'occupazione, i rischi di automazione pregiudizievole diventano significativi.
Alcune Storie Negative
Esempi del mondo reale illustrano il danno che algoritmi mal progettati possono causare. Nel 2018, il governo olandese ha implementato il sistema algoritmico SyRI per identificare potenziali trasgressori del welfare, contrassegnando migliaia di persone per l'indagine senza giustificazione chiara. La reazione pubblica ha portato alla chiusura del sistema nel 2020 per violazione dei diritti umani.
Allo stesso modo, nel 2021 negli Stati Uniti, il software ATLAS è stato utilizzato per valutare le domande di immigrazione, suscitando critiche per le sue decisioni opache e potenzialmente discriminatorie, e il suo obiettivo finale di denaturalizzare i cittadini. Nel Regno Unito, un algoritmo ha assegnato i voti degli esami degli studenti nel 2020, favorendo quelli provenienti da scuole più abbienti mentre penalizzava altri. Proteste diffusi hanno costretto il governo a revocare la decisione, dimostrando come un controllo algoritmico non regolato possa influenzare direttamente le vite.
https://www.youtube.com/watch?v=rheYjX5exH0
Sebbene gli algoritmi possano semplificare il processo decisionale, il loro uso improprio può radicare problemi sistemici, limitare la libertà e erodere la fiducia. Senza trasparenza, responsabilità e supervisione etica, gli algoritmi centralizzati rischiano di diventare strumenti di controllo piuttosto che di empowerment.
Giustizia Decentralizzata
Finora, almeno, possiamo dire che gli algoritmi più tirannici provengono dal mondo centralizzato. È sempre una parte centrale (azienda o governo) a controllare tutto per raggiungere i propri scopi discutibili, o a rovinare le cose per mera negligenza. Fortunatamente per noi, gli algoritmi possono ancora essere utilizzati per ottenere libertà e giustizia, specialmente se sono decentralizzati. Come potresti immaginare, la maggior parte degli algoritmi crypto è open-source e decentralizzata, disponibile per tutti da controllare e utilizzare. E abbiamo già alcuni sistemi algoritmici per la giustizia decentralizzata.
Un elemento chiave nella governance decentralizzata, per esempio, è l'Organizzazione Autonoma Decentralizzata (DAO), che opera utilizzando contratti intelligenti—accordi auto-esecutivi. Le DAO permettono ai membri di partecipare al processo decisionale attraverso il voto, assicurando che il controllo sia distribuito tra i partecipanti piuttosto che in un'entità centrale. Questo è un tipo di governance on-chain, dove regole e decisioni vengono eseguite attraverso processi verificati da DLT, e aiuta a mantenere trasparenza e sicurezza, prevenendo manipolazioni da parte di individui o organizzazioni potenti.
La giustizia decentralizzata mira a risolvere le controversie in modo equo ed efficiente evitando i rischi del controllo centralizzato. I tribunali tradizionali si basano sul giudizio umano, ma i sistemi di giustizia decentralizzati utilizzano incentivi cripto-economici per garantire l'imparzialità. I partecipanti sono premiati per allinearsi al consenso, che si presume rappresenti un processo decisionale equo. Questo metodo elimina la dipendenza dalla fiducia e utilizza invece incentivi per garantire risultati giusti. Inoltre, la giustizia decentralizzata è progettata per essere trasparente, con regole e processi decisionali disponibili pubblicamente sulla rete. Questo garantisce prevedibilità, coerenza e resistenza a pregiudizi o corruzione.
Algocrazia per il Bene
Una rete algoritmica adatta per costruire sistemi di giustizia più equi è Obyte, una tecnologia di registro decentralizzato (DLT) completamente decentralizzata che rimuove intermediari come miner e "validatori". Obyte consente anche la governance on-chain, permettendo alla sua comunità di prendere decisioni chiave collettivamente attraverso meccanismi di voto. Supporta anche contratti intelligenti, che automatizzano transazioni e accordi senza richiedere un'autorità centrale.
Inoltre, Obyte offre contratti con arbitrato, consentendo alle parti di impegnarsi in accordi dove le controversie possono essere risolte utilizzando non solo contratti intelligenti ma anche arbitri umani professionisti dell'ArbStore. Queste caratteristiche assicurano che le transazioni e la governance rimangano trasparenti, giuste e resistenti al controllo esterno, rafforzando i principi di decentralizzazione sia nella governance che nella giustizia. È anche un ottimo esempio di come usare l'algocrazia per il bene!
Immagine Vettoriale in Evidenza di vector4stock / Freepik
Pubblicato Originariamente su Hackernoon