«Алгократия», «Управление алгоритмом» или «Алгоритмическое регулирование» — это не совсем четко определенная концепция. Тем не менее, можно суммировать это так: алгоритмы + управление (законы или правила). В этом контексте мы можем говорить об алгократии, когда какая-либо алгоритмическая система, будь то смарт-контракт, Искусственный Интеллект (ИИ) или что-то другое, полностью или частично контролирует процессы принятия решений на какой-либо платформе, проекте, предприятии или учреждении.
Это совсем не то же самое, что и электронное правительство (государства, использующие цифровые инструменты), и это создает свой собственный набор потенциальных проблем. Алгоритм — это больше, чем просто простое цифровое приложение; это структурированный набор точных инструкций, предназначенных для решения сложных задач, при этом он также может создавать новые. В романе «Демон» (2006) Дэниела Суэза, например, мы видим, как алгоритм тайно захватывает мир, даже убивая людей, после смерти своего создателя.
Мы еще не достигли такого дистопического уровня в нашем собственном мире, но, возможно, мы прокладываем путь к этому. Алгоритмы уже используются отдельными лицами, компаниями и правительствами для принятия решений. И важных решений, в том числе.
Алгоритмы в действии
Если вы задаетесь вопросом: да, криптовалюты работают по алгоритмам. Смарт-контракты работают по алгоритмам, и целые крипто-сети строятся на алгоритмах. Они используют эти сложные, математические инструкции, чтобы заменить дорогих или недоверительных человеческих посредников при верификации транзакций. Алгоритмы также помогают людям принимать общие решения о своих платформах, предоставляя инфраструктуру для голосования (управление на блокчейне в крипто-сетях). Это всего лишь несколько примеров того, что делают алгоритмы, но это далеко не все, чем они занимаются.
В 2017 году полиция Дарема (Великобритания) представила Инструмент Оценки Риска Вреда (HART), систему ИИ, которая предсказывает вероятность повторного правонарушения подозреваемого. Она классифицировала людей по категориям риска, помогая решать, должны ли они быть задержаны или могут ли они пройти реабилитацию. Подобные методы предсказательной полиции, часто основанные на машинном обучении и анализе данных, используются в США и Китае.
Умные города предоставляют еще одно реальное применение алгоритмического управления. Инфраструктура на основе ИИ, такая как интеллектуальное уличное освещение и автоматизированные системы управления движением, оптимизирует использование ресурсов. Проекты, такие как футуристический город «Линия» в Саудовской Аравии, планируют интегрировать ИИ для проактивных услуг. Государства также включают ИИ в принятие решений, от автоматизации налоговых проверок до использования предсказательных моделей для социальных услуг.
Искусственные судьи, тестируемые в Китае и Эстонии, могут решать мелкие юридические споры, в то время как предсказательные алгоритмы помогают в судебном приговоре. Образование также сталкивается с аналогичной автоматизацией с платформами, такими как Knewton, которые корректируют учебные материалы в зависимости от успеваемости студентов.
Языковые модели, такие как ChatGPT или DeepSeek, построены на алгоритмах. Google Search использует алгоритмы для ранжирования результатов. YouTube, Netflix и Spotify используют алгоритмы для предложения персонализированного контента, а Amazon делает это для настройки предложений по покупкам. Алгоритмы полезны, и мы уже окружены ими.
Дистопические алгоритмы
Алгоритмы увеличивают эффективность и уменьшают человеческое участие, но они также могут стать дистопичными. Одной из основных проблем является то, что Евгений Морозов назвал «невидимой колючей проволокой» — системой, где алгоритмы тонко направляют выбор, ограничивая интеллектуальный и социальный рост, не осознавая этого. Эти системы анализируют личные данные, чтобы предсказать поведение, подталкивая людей к определенным действиям, ограничивая при этом доступ к альтернативным идеям или возможностям.
Поскольку ограничения неявные, люди предполагают, что они действуют свободно, даже если их варианты были тщательно отобраны невидимыми силами. Этот тихий контроль может ослабить свободу, снижая критическое мышление и усиливая существующие привычки вместо того, чтобы способствовать независимому принятию решений. Другими словами, люди бездумно следуют предложениям алгоритма, не зная, как работает алгоритм, не осознавая, что они могут быть манипулированы, но боясь выбирать альтернативные пути, которые могут навредить им.
Непрозрачность этих систем принятия решений — еще одна неотложная проблема. Многие алгоритмы функционируют как черные ящики, принимая критически важные решения без четких объяснений. Эта нехватка прозрачности опасна, особенно когда алгоритмы обучаются на предвзятых данных. Если алгоритм незаметно отражает исторические неравенства, он может продолжать дискриминацию, представляя свои решения как объективные.
Например, инструменты предсказательной полиции подвергались критике за несправедливое целенаправление на маргинализированные сообщества, а системы кредитного рейтинга на основе ИИ disproportionately disadvantaged certain groups. Когда эти инструменты формируют финансовый доступ, правоохранительные органы и трудоустройство, риски предвзятой автоматизации становятся значительными.
Некоторая плохая история
Реальные примеры иллюстрируют вред, который могут причинить плохо спроектированные алгоритмы. В 2018 году правительство Нидерландов развернуло алгоритмическую систему SyRI для выявления потенциальных мошенников в социальной помощи, пометив тысячи людей для расследования без четкого обоснования. Общественная реакция привела к закрытию системы в 2020 году за нарушение прав человека.
Аналогично, в 2021 году в США программное обеспечение ATLAS использовалось для оценки заявлений на иммиграцию, вызывая критику за свою непрозрачность и потенциально дискриминационные решения, а также за свою конечную цель денатурализации граждан. В Великобритании алгоритм присвоил экзаменационные оценки студентов в 2020 году, отдав предпочтение тем, кто учится в более обеспеченных школах, наказывая других. Широкие протесты заставили правительство отменить это решение, продемонстрировав, как неконтролируемый алгоритмический контроль может непосредственно влиять на жизни людей.
https://www.youtube.com/watch?v=rheYjX5exH0
Хотя алгоритмы могут ускорить процесс принятия решений, их неправильное использование может укрепить системные проблемы, ограничить свободу и разрушить доверие. Без прозрачности, ответственности и этического контроля централизованные алгоритмы рискуют стать инструментами контроля, а не расширения возможностей.
Децентрализованная справедливость
На данный момент, по крайней мере, мы можем сказать, что самые тиранические алгоритмы приходят из централизованного мира. Это всегда центральная сторона (компания или правительство), контролирующая все, чтобы достичь своих сомнительных целей или испортить дела из-за простой небрежности. К счастью для нас, алгоритмы все еще можно использовать для получения свободы и справедливости, особенно если они децентрализованы. Как вы, возможно, догадываетесь, большинство крипто-алгоритмов являются открытыми и децентрализованными, доступными для всех, чтобы проверить и использовать. И у нас уже есть некоторые алгоритмические системы для децентрализованной справедливости.
Ключевым элементом децентрализованного управления является Децентрализованная Автономная Организация (DAO), которая работает на основе смарт-контрактов — самоисполняющихся соглашений. DAOs позволяют участникам участвовать в принятии решений через голосование, обеспечивая распределение контроля среди участников, а не сосредоточение в руках центрального органа. Это тип управления на блокчейне, где правила и решения исполняются через процессы, подтвержденные DLT, что помогает поддерживать прозрачность и безопасность, предотвращая манипуляции со стороны влиятельных лиц или организаций.
Децентрализованная справедливость направлена на решение споров справедливо и эффективно, избегая рисков централизованного контроля. Традиционные суды полагаются на человеческое суждение, но системы децентрализованной справедливости используют криптоэкономические стимулы для обеспечения беспристрастности. Участники вознаграждаются за согласование с консенсусом, который предполагается как справедливое принятие решений. Этот метод устраняет зависимость от доверия и вместо этого использует стимулы для обеспечения справедливых результатов. Кроме того, децентрализованная справедливость разработана для обеспечения прозрачности, с правилами и процессами принятия решений, открыто доступными в сети. Это гарантирует предсказуемость, последовательность и устойчивость к предвзятости или коррупции.
Алгократия во благо
Подходящая алгоритмическая сеть для построения более справедливых систем правосудия — это Obyte, полностью децентрализованная технология распределенного реестра (DLT), которая устраняет посредников, таких как майнеры и «валидаторы». Obyte также позволяет управлять на блокчейне, позволяя своему сообществу совместно принимать ключевые решения через механизмы голосования. Он также поддерживает смарт-контракты, которые автоматизируют транзакции и соглашения без необходимости в центральном органе.
Кроме того, Obyte предлагает контракты с арбитражом, позволяя сторонам участвовать в соглашениях, где споры могут быть разрешены с использованием не только смарт-контрактов, но и профессиональных человеческих арбитров из ArbStore. Эти функции обеспечивают, чтобы транзакции и управление оставались прозрачными, справедливыми и устойчивыми к внешнему контролю, укрепляя принципы децентрализации как в управлении, так и в справедливости. Это также отличный пример того, как использовать алгоритократии во благо!
Изображение векторной графики от vector4stock / Freepik
Первоначально опубликовано на Hackernoon