“Algocracia,” “Gobierno por algoritmo,” o “Regulación algorítmica” no es exactamente un concepto bien definido o claro. Sin embargo, podemos resumirlo así: algoritmos + gobernanza (leyes o reglas de algún tipo). En este sentido, podemos hablar de algocracia cuando algún tipo de sistema basado en algoritmos, ya sea un contrato inteligente, una Inteligencia Artificial (IA), o cualquier otro, controla, total o parcialmente, los procesos de toma de decisiones de alguna plataforma, proyecto, emprendimiento o institución.
No es lo mismo que el e-gobierno (gobiernos utilizando herramientas digitales), y plantea su propio conjunto de problemas potenciales. Un algoritmo es más que una simple aplicación digital; es un conjunto estructurado de instrucciones precisas diseñadas para abordar problemas complejos, mientras que también tiene el potencial de crear nuevos. En la novela Daemon (2006) de Daniel Suarez, por ejemplo, podemos ver cómo un algoritmo toma el control del mundo en secreto, incluso asesinando personas, después de que su creador fallece.
No hemos alcanzado un nivel distópico en nuestro propio mundo, pero podríamos estar construyendo el camino hacia ello. Los algoritmos ya están siendo utilizados por individuos, empresas y gobiernos para tomar decisiones. Y decisiones importantes, en eso.
Algoritmos en Acción
Si te has estado preguntando: sí, las criptomonedas funcionan con algoritmos. Los contratos inteligentes funcionan con algoritmos, y todas las redes cripto están construidas sobre algoritmos. Utilizan estas instrucciones matemáticas complejas para reemplazar a los intermediarios humanos costosos o poco confiables en la verificación de transacciones. Los algoritmos también ayudan a las personas a tomar decisiones generales sobre sus plataformas al proporcionar la infraestructura para que voten (gobernanza en cadena en redes cripto). Estos son solo un par de ejemplos de lo que hacen los algoritmos, pero eso está lejos de ser todo lo que están haciendo.
En 2017, la policía de Durham (Reino Unido) introdujo la Herramienta de Evaluación de Riesgo de Daño (HART), un sistema de IA que predice la probabilidad de que un sospechoso vuelva a delinquir. Clasificaba a los individuos en categorías de riesgo, ayudando a decidir si debían ser detenidos o si eran elegibles para rehabilitación. Métodos similares de policía predictiva, a menudo impulsados por machine learning y análisis de datos, se utilizan en EE. UU. y China.
Las ciudades inteligentes proporcionan otra aplicación del mundo real de la gobernanza algorítmica. La infraestructura impulsada por IA, como la iluminación inteligente y los sistemas de tráfico automatizados, optimiza el uso de recursos. Proyectos como la ciudad futurista "The Line" en Arabia Saudita están planeando integrar IA para servicios proactivos. Los gobiernos también están incorporando IA en la toma de decisiones, desde la automatización de auditorías fiscales hasta el uso de modelos predictivos para servicios sociales.
Los jueces de IA, probados en China y Estonia, pueden manejar disputas legales menores, mientras que los algoritmos predictivos ayudan en la sentencia judicial. La educación ve una automatización similar con plataformas como Knewton, que ajusta materiales de aprendizaje según el rendimiento del estudiante.
Los modelos de lenguaje como ChatGPT o DeepSeek están construidos sobre algoritmos. Google Search utiliza algoritmos para clasificar resultados. YouTube, Netflix y Spotify utilizan algoritmos para sugerir contenido personalizado, y Amazon lo hace para personalizar sugerencias de compras. Los algoritmos son útiles, y ya estamos rodeados de ellos.
Algoritmos Distópicos
Los algoritmos aumentan la eficiencia y reducen la participación humana, pero también pueden volverse distópicos. Una preocupación importante es lo que Evgeny Morozov llamó "alambre de púas invisible"—un sistema donde los algoritmos guían sutilmente las elecciones, restringiendo el crecimiento intelectual y social sin que las personas se den cuenta. Estos sistemas analizan datos personales para predecir comportamientos, empujando a los individuos hacia ciertas acciones mientras limitan la exposición a ideas u oportunidades alternativas.
Dado que las restricciones no son explícitas, las personas asumen que están actuando con libertad, aunque sus opciones han sido cuidadosamente curadas por fuerzas invisibles. Este control silencioso puede debilitar la libertad al reducir el pensamiento crítico y reforzar hábitos preexistentes en lugar de fomentar la toma de decisiones independiente. En otras palabras, las personas siguen sin pensar las sugerencias del algoritmo, sin saber cómo funciona el algoritmo, sin darse cuenta de que podrían estar siendo manipuladas, pero temiendo tomar caminos alternativos que podrían perjudicarlas.
La opacidad de estos sistemas de toma de decisiones es otro problema urgente, de hecho. Muchos algoritmos funcionan como cajas negras, tomando decisiones críticas sin explicaciones claras. Esta falta de transparencia es peligrosa, especialmente cuando los algoritmos se entrenan con datos sesgados. Si un algoritmo refleja sin saber desigualdades históricas, puede perpetuar la discriminación mientras presenta sus decisiones como objetivas.
Por ejemplo, las herramientas de policía predictiva han sido criticadas por apuntar injustamente a comunidades marginadas, y los sistemas de puntuación de crédito impulsados por IA han perjudicado desproporcionadamente a ciertos grupos. Cuando estas herramientas moldean el acceso financiero, la aplicación de la ley y el empleo, los riesgos de la automatización sesgada se vuelven significativos.
Algunas Malas Historias
Ejemplos del mundo real ilustran el daño que pueden causar los algoritmos mal diseñados. En 2018, el gobierno neerlandés implementó el sistema algorítmico SyRI para identificar posibles defraudadores de bienestar, señalando a miles de personas para investigación sin justificación clara. La reacción pública llevó al cierre del sistema en 2020 por violar derechos humanos.
De manera similar, en 2021 en EE. UU., se utilizó el software ATLAS para evaluar aplicaciones de inmigración, recibiendo críticas por sus decisiones opacas y potencialmente discriminatorias, y su objetivo final de desnacionalizar a ciudadanos. En el Reino Unido, un algoritmo asignó calificaciones de exámenes a estudiantes en 2020, favoreciendo a aquellos de escuelas más adineradas mientras penalizaba a otros. Protestas generalizadas forzaron al gobierno a revertir la decisión, demostrando cómo un control algorítmico sin supervisión puede impactar directamente en vidas.
https://www.youtube.com/watch?v=rheYjX5exH0
Si bien los algoritmos pueden agilizar la toma de decisiones, su mal uso puede afianzar problemas sistémicos, limitar la libertad y erosionar la confianza. Sin transparencia, responsabilidad y supervisión ética, los algoritmos centralizados corren el riesgo de convertirse en herramientas de control en lugar de empoderamiento.
Justicia Descentralizada
Hasta ahora, al menos, podemos decir que los algoritmos más tiránicos provienen del mundo centralizado. Siempre hay una parte central (empresa o gobierno) controlando todo para alcanzar sus propios propósitos dudosos, o estropeando las cosas por mera negligencia. Afortunadamente para nosotros, los algoritmos aún pueden utilizarse para obtener libertad y justicia, especialmente si son descentralizados. Como puedes estar adivinando, la mayoría de los algoritmos cripto son de código abierto y descentralizados, disponibles para que todos los revisen y usen. Y ya tenemos algunos sistemas algorítmicos para la justicia descentralizada.
Un elemento clave en la gobernanza descentralizada, por ejemplo, es la Organización Autónoma Descentralizada (DAO), que opera utilizando contratos inteligentes—acuerdos autoejecutables. Las DAOs permiten a los miembros participar en la toma de decisiones a través de votaciones, asegurando que el control esté distribuido entre los participantes en lugar de una entidad central. Este es un tipo de gobernanza en cadena, donde las reglas y decisiones se ejecutan a través de procesos verificados por DLT, y ayuda a mantener la transparencia y seguridad mientras previene la manipulación por individuos u organizaciones poderosas.
La justicia descentralizada busca resolver disputas de manera justa y eficiente mientras evita los riesgos del control centralizado. Los tribunales tradicionales dependen del juicio humano, pero los sistemas de justicia descentralizados utilizan incentivos criptoeconómicos para asegurar la imparcialidad. Los participantes son recompensados por alinearse con el consenso, que se supone es una toma de decisiones justa. Este método elimina la dependencia de la confianza y, en su lugar, utiliza incentivos para asegurar resultados justos. Además, la justicia descentralizada está diseñada para ser transparente, con reglas y procesos de toma de decisiones disponibles abiertamente en la red. Esto garantiza previsibilidad, consistencia y resistencia a sesgos o corrupción.
Algocracia para el Bien
Una red algorítmica adecuada para construir sistemas de justicia más justos es Obyte, una tecnología de libro mayor totalmente descentralizada (DLT) que elimina intermediarios como mineros y "validadores". Obyte también permite la gobernanza en cadena, permitiendo a su comunidad tomar decisiones clave colectivamente a través de mecanismos de votación. También soporta contratos inteligentes, que automatizan transacciones y acuerdos sin requerir una autoridad central.
Además, Obyte ofrece contratos con arbitraje, permitiendo a las partes participar en acuerdos donde las disputas pueden resolverse utilizando no solo contratos inteligentes, sino también árbitros humanos profesionales de ArbStore. Estas características aseguran que las transacciones y la gobernanza permanezcan transparentes, justas y resistentes al control externo, reforzando los principios de descentralización en la gobernanza y la justicia. ¡Es también un gran ejemplo de cómo utilizar la algocracia para el bien!
Imagen Vectorial Destacada por vector4stock / Freepik
Publicado originalmente en Hackernoon