L'« Algocratie », « Gouvernement par algorithme », ou « Régulation algorithmique » n'est pas exactement un concept bien défini ou clair. Cependant, on peut le résumer comme ça : algorithmes + gouvernance (lois ou règles d'une certaine nature). Dans ce sens, on peut parler d'algocratie lorsqu'un système basé sur des algorithmes, qu'il s'agisse d'un contrat intelligent, d'une Intelligence Artificielle (IA), ou autre, contrôle, totalement ou partiellement, les processus décisionnels d'une plateforme, d'un projet, d'une entreprise, ou d'une institution.
Ce n'est pas du tout la même chose que l'e-gouvernement (gouvernements utilisant des outils numériques), et cela pose ses propres problèmes potentiels. Un algorithme est plus qu'une simple application numérique ; c'est un ensemble structuré d'instructions précises conçu pour traiter des problèmes complexes—tout en ayant également le potentiel de créer de nouveaux problèmes. Dans le roman Daemon (2006) de Daniel Suarez, par exemple, on peut voir comment un algorithme prend secrètement le contrôle du monde, allant même jusqu'à tuer des gens, après la mort de son créateur.
Nous n'avons pas atteint un tel niveau dystopique dans notre propre monde, mais nous pourrions être en train de tracer le chemin pour cela. Les algorithmes sont déjà utilisés par des individus, des entreprises et des gouvernements pour prendre des décisions. Et des décisions importantes, en plus.
Algorithmes en Action
Si vous vous demandez : oui, les cryptomonnaies fonctionnent avec des algorithmes. Les contrats intelligents fonctionnent avec des algorithmes, et l'ensemble des réseaux crypto est construit sur des algorithmes. Ils utilisent ces instructions mathématiques complexes pour remplacer des intermédiaires humains coûteux ou peu fiables dans la vérification des transactions. Les algorithmes aident également les gens à prendre des décisions générales concernant leurs plateformes en fournissant l'infrastructure pour voter (gouvernance on-chain dans les réseaux crypto). Ce sont juste quelques exemples de ce que font les algorithmes, mais ce n'est pas tout ce qu'ils font.
En 2017, la police de Durham (R.-U.) a introduit l'outil d'évaluation des risques de préjudice (HART), un système d'IA qui prédit la probabilité qu'un suspect récidive. Il classait les individus en catégories de risque, aidant à décider s'ils devaient être détenus ou éligibles à la réhabilitation. Des méthodes de police prédictive similaires, souvent alimentées par l'apprentissage automatique et l'analyse de données, sont utilisées aux États-Unis et en Chine.
Les villes intelligentes offrent une autre application du monde réel de la gouvernance algorithmique. L'infrastructure alimentée par l'IA, comme l'éclairage public intelligent et les systèmes de circulation automatisés, optimise l'utilisation des ressources. Des projets comme la ville futuriste "The Line" en Arabie Saoudite prévoient d'intégrer l'IA pour des services proactifs. Les gouvernements intègrent également l'IA dans la prise de décision, de l'automatisation des audits fiscaux à l'utilisation de modèles prédictifs pour les services sociaux.
Des juges IA, testés en Chine et en Estonie, peuvent gérer des litiges juridiques mineurs, tandis que des algorithmes prédictifs assistent dans les sentences judiciaires. L'éducation voit une automatisation similaire avec des plateformes comme Knewton, qui ajustent les matériaux d'apprentissage en fonction des performances des étudiants.
Les modèles linguistiques comme ChatGPT ou DeepSeek sont construits sur des algorithmes. Google Search utilise des algorithmes pour classer les résultats. YouTube, Netflix et Spotify utilisent des algorithmes pour suggérer du contenu personnalisé, et Amazon le fait pour personnaliser les suggestions d'achat. Les algorithmes sont utiles, et nous sommes déjà entourés par eux.
Algorithmes Dystopiques
Les algorithmes augmentent l'efficacité et réduisent la participation humaine, mais ils peuvent aussi devenir dystopiques. Une préoccupation majeure est ce qu'Evgeny Morozov a appelé le "fil barbelé invisible" — un système où les algorithmes guident subtilement les choix, restreignant la croissance intellectuelle et sociale sans que les gens ne s'en rendent compte. Ces systèmes analysent des données personnelles pour prédire des comportements, poussant les individus vers certaines actions tout en limitant l'exposition à des idées ou des opportunités alternatives.
Puisque les contraintes ne sont pas explicites, les gens supposent qu'ils agissent librement, même si leurs options ont été soigneusement sélectionnées par des forces invisibles. Ce contrôle silencieux peut affaiblir la liberté en réduisant la pensée critique et en renforçant des habitudes préexistantes au lieu de favoriser la prise de décision indépendante. En d'autres termes, les gens suivent aveuglément les suggestions de l'algorithme, sans savoir comment il fonctionne, inconscients qu'ils pourraient être manipulés, mais ayant peur d'emprunter des chemins alternatifs qui pourraient leur nuire.
L'opacité de ces systèmes de prise de décision est un autre problème pressant, en effet. De nombreux algorithmes fonctionnent comme des boîtes noires, prenant des décisions critiques sans explications claires. Ce manque de transparence est dangereux, surtout lorsque les algorithmes sont formés sur des données biaisées. Si un algorithme reflète sans le vouloir des inégalités historiques, il peut perpétuer la discrimination tout en présentant ses décisions comme objectives.
Par exemple, les outils de police prédictive ont été critiqués pour cibler injustement les communautés marginalisées, et les systèmes de notation de crédit alimentés par l'IA ont désavantagé de manière disproportionnée certains groupes. Lorsque ces outils façonnent l'accès financier, l'application de la loi et l'emploi, les risques d'automatisation biaisée deviennent significatifs.
Une Mauvaise Histoire
Des exemples du monde réel illustrent les dommages que des algorithmes mal conçus peuvent causer. En 2018, le gouvernement néerlandais a déployé le système algorithmique SyRI pour identifier les fraudeurs potentiels aux prestations sociales, signalant des milliers de personnes pour enquête sans justification claire. Le retour de flamme du public a conduit à l'arrêt du système en 2020 pour violation des droits humains.
De même, en 2021 aux États-Unis, le logiciel ATLAS a été utilisé pour évaluer les demandes d'immigration, suscitant des critiques pour ses décisions opaques et potentiellement discriminatoires, et son objectif ultime de dénationaliser des citoyens. Au Royaume-Uni, un algorithme a attribué des notes d'examens aux étudiants en 2020, favorisant ceux des écoles les plus riches tout en pénalisant les autres. Des manifestations généralisées ont forcé le gouvernement à revenir sur la décision, démontrant comment un contrôle algorithmique non régulé peut affecter directement des vies.
https://www.youtube.com/watch?v=rheYjX5exH0
Bien que les algorithmes puissent rationaliser la prise de décision, leur mauvaise utilisation peut ancrer des problèmes systémiques, limiter la liberté et éroder la confiance. Sans transparence, responsabilité et supervision éthique, les algorithmes centralisés risquent de devenir des outils de contrôle plutôt que d'autonomisation.
Justice Décentralisée
Jusqu'à présent, du moins, nous pouvons dire que les algorithmes les plus tyranniques viennent du monde centralisé. C'est toujours une partie centrale (entreprise ou gouvernement) qui contrôle le tout pour atteindre ses propres fins douteuses, ou qui gâche les choses par simple négligence. Heureusement pour nous, les algorithmes peuvent encore être utilisés pour obtenir la liberté et la justice, surtout s'ils sont décentralisés. Comme vous pouvez le deviner, la plupart des algorithmes crypto sont open-source et décentralisés, disponibles pour que tout le monde puisse les vérifier et les utiliser. Et nous avons déjà quelques systèmes algorithmiques pour la justice décentralisée.
Un élément clé de la gouvernance décentralisée, par exemple, est l'Organisation Autonome Décentralisée (DAO), qui fonctionne grâce à des contrats intelligents — des accords auto-exécutables. Les DAOs permettent aux membres de participer à la prise de décision par le biais de votes, garantissant que le contrôle est distribué parmi les participants plutôt qu'une entité centrale. C'est un type de gouvernance on-chain, où les règles et les décisions sont exécutées par des processus vérifiés par DLT, et cela aide à maintenir la transparence et la sécurité tout en empêchant la manipulation par des individus ou des organisations puissants.
La justice décentralisée vise à résoudre les litiges de manière équitable et efficace tout en évitant les risques de contrôle centralisé. Les tribunaux traditionnels s'appuient sur le jugement humain, mais les systèmes de justice décentralisée utilisent des incitations crypto-économiques pour garantir l'impartialité. Les participants sont récompensés pour leur alignement sur le consensus, qui est supposé être une prise de décision équitable. Cette méthode élimine la dépendance à la confiance et utilise plutôt des incitations pour garantir des résultats justes. De plus, la justice décentralisée est conçue pour être transparente, avec des règles et des processus de prise de décision ouverts sur le réseau. Cela garantit prévisibilité, cohérence et résistance aux biais ou à la corruption.
Algocratie pour le Bien
Un réseau algorithmique approprié pour construire des systèmes de justice plus équitables est Obyte, une technologie de registre décentralisé (DLT) qui élimine les intermédiaires comme les mineurs et les "validateurs". Obyte permet également la gouvernance on-chain, permettant à sa communauté de prendre des décisions clés collectivement par le biais de mécanismes de vote. Il prend également en charge des contrats intelligents, qui automatisent les transactions et les accords sans nécessiter d'autorité centrale.
De plus, Obyte propose des contrats avec arbitrage, permettant aux parties de s'engager dans des accords où les litiges peuvent être réglés en utilisant non seulement des contrats intelligents mais aussi des arbitres humains professionnels de l'ArbStore. Ces caractéristiques garantissent que les transactions et la gouvernance restent transparentes, équitables et résistantes au contrôle externe, renforçant ainsi les principes de décentralisation tant dans la gouvernance que dans la justice. C'est aussi un excellent exemple de comment utiliser l'algocratie pour le bien !
Image Vectorielle Présentée par vector4stock / Freepik
Publié à l'origine sur Hackernoon