“Algocracy,” “Chính quyền bằng thuật toán,” hay “Quy định theo thuật toán” không phải là một khái niệm rõ ràng hay được định nghĩa chính xác. Tuy nhiên, chúng ta có thể tóm tắt như sau: thuật toán + quản trị (luật lệ hoặc quy tắc nào đó). Theo nghĩa này, chúng ta có thể nói về algocracy khi một hệ thống nào đó dựa trên thuật toán, có thể là một smart contract, một Trí tuệ Nhân tạo (AI), hoặc bất kỳ thứ gì khác, kiểm soát, toàn bộ hoặc một phần, các quy trình ra quyết định của một nền tảng, dự án, doanh nghiệp, hoặc tổ chức.
Nó không giống như e-government (chính phủ sử dụng công cụ số), và nó đặt ra một loạt các vấn đề tiềm ẩn của riêng nó. Một thuật toán không chỉ đơn giản là một ứng dụng kỹ thuật số; nó là một tập hợp có cấu trúc của các hướng dẫn chính xác được thiết kế để giải quyết các vấn đề phức tạp—trong khi cũng có khả năng tạo ra những vấn đề mới. Trong cuốn tiểu thuyết Daemon (2006) của Daniel Suarez, chẳng hạn, chúng ta có thể thấy cách một thuật toán chiếm lấy thế giới một cách bí mật, thậm chí giết người, sau khi người sáng tạo của nó qua đời.
Chúng ta chưa đạt đến mức độ dystopian như vậy trong thế giới của chính mình, nhưng chúng ta có thể đang xây dựng con đường cho nó. Các thuật toán đang được sử dụng bởi cá nhân, công ty và chính phủ để đưa ra quyết định. Và là những quyết định quan trọng.
Thuật toán trong Hành động
Nếu bạn đang tự hỏi: vâng, tiền điện tử hoạt động dựa trên các thuật toán. Hợp đồng thông minh hoạt động với các thuật toán, và toàn bộ mạng lưới tiền điện tử được xây dựng trên các thuật toán. Chúng sử dụng những hướng dẫn toán học phức tạp này để thay thế các trung gian con người đắt đỏ hoặc không đáng tin cậy trong việc xác thực giao dịch. Thuật toán cũng giúp mọi người đưa ra các quyết định chung về các nền tảng của họ bằng cách cung cấp cơ sở hạ tầng để họ bỏ phiếu (quản trị trên chuỗi trong các mạng tiền điện tử). Đây chỉ là một vài ví dụ về những gì các thuật toán có thể làm, nhưng đó còn rất nhiều điều khác nữa.
Năm 2017, cảnh sát từ Durham (Vương quốc Anh) đã giới thiệu Công cụ Đánh giá Rủi ro Tổn hại (HART), một hệ thống AI dự đoán khả năng một nghi phạm tái phạm. Nó phân loại các cá nhân thành các nhóm rủi ro, giúp quyết định xem họ có bị giam giữ hay đủ điều kiện cho chương trình phục hồi. Các phương pháp cảnh sát dự đoán tương tự, thường được hỗ trợ bởi học máy và phân tích dữ liệu, đang được sử dụng ở Mỹ và Trung Quốc.
Các thành phố thông minh cung cấp một ứng dụng thực tế khác của quản trị thuật toán. Hạ tầng được hỗ trợ bởi AI, như hệ thống chiếu sáng thông minh và hệ thống giao thông tự động, tối ưu hóa việc sử dụng tài nguyên. Các dự án như thành phố tương lai “The Line” ở Ả Rập Saudi đang lên kế hoạch tích hợp AI cho các dịch vụ chủ động. Các chính phủ cũng đang đưa AI vào quyết định, từ việc tự động hóa kiểm toán thuế đến việc sử dụng các mô hình dự đoán cho các dịch vụ xã hội.
Các thẩm phán AI, được thử nghiệm tại Trung Quốc và Estonia, có thể xử lý các tranh chấp pháp lý nhỏ, trong khi các thuật toán dự đoán hỗ trợ trong việc tuyên án tư pháp. Giáo dục cũng thấy sự tự động hóa tương tự với các nền tảng như Knewton, điều chỉnh tài liệu học tập dựa trên hiệu suất của sinh viên.
Các mô hình ngôn ngữ như ChatGPT hoặc DeepSeek được xây dựng dựa trên các thuật toán. Google Tìm kiếm sử dụng thuật toán để xếp hạng kết quả. YouTube, Netflix và Spotify sử dụng thuật toán để gợi ý nội dung cá nhân hóa, và Amazon làm điều đó để tùy chỉnh các gợi ý mua sắm. Các thuật toán rất hữu ích, và chúng ta đã được bao quanh bởi chúng.
Thuật toán Dystopian
Thuật toán tăng cường hiệu quả và giảm thiểu sự tham gia của con người, nhưng chúng cũng có thể trở nên dystopian. Một mối quan tâm lớn là điều mà Evgeny Morozov gọi là “dây thép gai vô hình” - một hệ thống mà ở đó các thuật toán tinh tế hướng dẫn lựa chọn, hạn chế sự phát triển trí tuệ và xã hội mà không để mọi người nhận ra. Những hệ thống này phân tích dữ liệu cá nhân để dự đoán hành vi, khuyến khích các cá nhân hướng đến những hành động nhất định trong khi hạn chế sự tiếp cận với các ý tưởng hoặc cơ hội thay thế.
Vì các ràng buộc không rõ ràng, mọi người giả định rằng họ đang hành động tự do, mặc dù các lựa chọn của họ đã được các lực lượng vô hình chăm sóc một cách cẩn thận. Sự kiểm soát lặng lẽ này có thể làm suy yếu tự do bằng cách giảm bớt tư duy phản biện và củng cố thói quen đã có thay vì thúc đẩy việc ra quyết định độc lập. Nói cách khác, mọi người vô thức làm theo các gợi ý từ thuật toán, không biết cách hoạt động của thuật toán, không nhận ra rằng họ có thể bị thao túng, nhưng sợ hãi khi chọn những con đường thay thế có thể gây hại cho họ.
Tính không minh bạch của các hệ thống ra quyết định này là một vấn đề cấp bách khác, thực sự. Nhiều thuật toán hoạt động như những hộp đen, đưa ra những lựa chọn quan trọng mà không có sự giải thích rõ ràng. Sự thiếu minh bạch này là nguy hiểm, đặc biệt là khi các thuật toán được đào tạo trên dữ liệu thiên lệch. Nếu một thuật toán vô tình phản ánh những bất bình đẳng lịch sử, nó có thể tiếp tục sự phân biệt trong khi trình bày các quyết định của nó như là khách quan.
Ví dụ, các công cụ cảnh sát dự đoán đã bị chỉ trích vì nhắm mục tiêu không công bằng đến các cộng đồng thiệt thòi, và các hệ thống điểm tín dụng do AI điều khiển đã bất lợi cho một số nhóm nhất định. Khi những công cụ này định hình quyền truy cập tài chính, thực thi pháp luật và việc làm, những rủi ro của việc tự động hóa thiên lệch trở nên đáng kể.
Một số lịch sử xấu
Các ví dụ trong thế giới thực minh họa những tổn hại mà các thuật toán thiết kế kém có thể gây ra. Năm 2018, chính phủ Hà Lan triển khai hệ thống thuật toán SyRI để xác định các kẻ gian lận phúc lợi tiềm năng, đánh dấu hàng nghìn người để điều tra mà không có lý do rõ ràng. Phản ứng từ công chúng đã dẫn đến việc hệ thống bị đóng cửa vào năm 2020 vì vi phạm nhân quyền.
Tương tự, vào năm 2021 ở Mỹ, phần mềm ATLAS đã được sử dụng để đánh giá đơn xin nhập cư, gây chỉ trích vì những quyết định mờ ám và có thể phân biệt đối xử, và mục tiêu cuối cùng của nó là tước bỏ quyền công dân. Ở Vương quốc Anh, một thuật toán đã phân bổ điểm thi cho sinh viên vào năm 2020, ưu ái những người đến từ các trường giàu có trong khi phạt những người khác. Các cuộc biểu tình trên diện rộng đã buộc chính phủ phải đảo ngược quyết định, chứng minh rằng sự kiểm soát thuật toán không được kiểm soát có thể ảnh hưởng trực tiếp đến cuộc sống.
https://www.youtube.com/watch?v=rheYjX5exH0
Mặc dù các thuật toán có thể đơn giản hóa quá trình ra quyết định, nhưng việc sử dụng sai chúng có thể củng cố các vấn đề hệ thống, hạn chế tự do và làm xói mòn lòng tin. Nếu không có sự minh bạch, trách nhiệm và giám sát đạo đức, các thuật toán tập trung có nguy cơ trở thành công cụ kiểm soát thay vì trao quyền.
Công lý phi tập trung
Cho đến nay, ít nhất, chúng ta có thể nói rằng các thuật toán độc tài nhất đến từ thế giới tập trung. Luôn luôn có một bên trung tâm (công ty hoặc chính phủ) kiểm soát toàn bộ để đạt được mục đích mơ hồ của riêng họ, hoặc làm hỏng mọi thứ vì sự cẩu thả đơn giản. May mắn cho chúng ta, các thuật toán vẫn có thể được sử dụng để đạt được tự do và công lý, đặc biệt nếu chúng là phi tập trung. Như bạn có thể đoán, hầu hết các thuật toán tiền điện tử đều mã nguồn mở và phi tập trung, có sẵn cho mọi người kiểm tra và sử dụng. Và chúng ta đã có một số hệ thống thuật toán cho công lý phi tập trung.
Một yếu tố chính trong quản trị phi tập trung, chẳng hạn, là Tổ chức Tự trị Phi tập trung (DAO), hoạt động bằng cách sử dụng hợp đồng thông minh - các thỏa thuận tự thực thi. DAO cho phép các thành viên tham gia vào quá trình ra quyết định thông qua bỏ phiếu, đảm bảo rằng quyền kiểm soát được phân bổ giữa các thành viên thay vì một thực thể trung tâm. Đây là một loại quản trị trên chuỗi, nơi các quy tắc và quyết định được thực hiện thông qua các quy trình được xác thực bởi DLT, và nó giúp duy trì tính minh bạch và an toàn trong khi ngăn chặn sự thao túng của những cá nhân hoặc tổ chức quyền lực.
Công lý phi tập trung nhằm giải quyết các tranh chấp một cách công bằng và hiệu quả trong khi tránh rủi ro của việc kiểm soát tập trung. Các tòa án truyền thống dựa vào phán quyết của con người, nhưng các hệ thống công lý phi tập trung sử dụng các khuyến khích kinh tế tiền điện tử để đảm bảo sự công bằng. Các thành viên được thưởng cho việc đồng thuận với các quyết định, điều này được cho là quyết định công bằng. Phương pháp này loại bỏ sự phụ thuộc vào lòng tin và thay vào đó sử dụng các khuyến khích để đảm bảo kết quả công bằng. Thêm vào đó, công lý phi tập trung được thiết kế để minh bạch, với các quy tắc và quy trình ra quyết định được công khai trên mạng. Điều này đảm bảo tính dự đoán, tính nhất quán và khả năng kháng cự với sự thiên lệch hoặc tham nhũng.
Algocracy vì điều tốt
Một mạng lưới thuật toán phù hợp để xây dựng các hệ thống công lý công bằng hơn là Obyte, một công nghệ sổ cái phi tập trung hoàn toàn (DLT) loại bỏ các trung gian như thợ mỏ và “người xác thực”. Obyte cũng cho phép quản trị trên chuỗi, cho phép cộng đồng của nó đưa ra các quyết định chính một cách tập thể thông qua các cơ chế bỏ phiếu. Nó cũng hỗ trợ hợp đồng thông minh, tự động hóa các giao dịch và thỏa thuận mà không cần một cơ quan trung ương.
Thêm vào đó, Obyte cung cấp hợp đồng với trọng tài, cho phép các bên tham gia vào các thỏa thuận mà các tranh chấp có thể được giải quyết không chỉ bằng hợp đồng thông minh mà còn bằng các trọng tài viên chuyên nghiệp từ ArbStore. Những tính năng này đảm bảo rằng các giao dịch và quản trị vẫn giữ được tính minh bạch, công bằng và kháng cự với sự kiểm soát từ bên ngoài, củng cố các nguyên tắc phi tập trung trong cả quản trị và công lý. Đây cũng là một ví dụ tuyệt vời về cách sử dụng algocracy để làm điều tốt!
Hình ảnh Vector Nổi bật của vector4stock / Freepik
Được xuất bản lần đầu trên Hackernoon