Vài ngày trước, tôi đã nhận thấy điều gì đó kỳ lạ khi cuộn.
Không phải một bài đăng cụ thể.
Một mẫu hình.
Các tài khoản khác nhau.
Các tên người dùng khác nhau.
Các cộng đồng khác nhau.
Nhưng bằng cách nào đó mọi thứ cảm giác giống nhau một cách kỳ lạ.
Không phải là sao chép.
Chỉ... hội tụ.
Cùng những quan sát.
Cùng những kết luận.
Cùng một giọng điệu.
Lúc đầu, tôi nghĩ đó là hành vi bình thường trên internet.
Mọi người ảnh hưởng lẫn nhau mọi lúc.
Đó không phải là điều mới mẻ.
Nhưng rồi một khả năng khác bắt đầu làm tôi lo lắng.
Thế nếu không ai ảnh hưởng đến ai cả?
Thế nếu mọi người chỉ đang kéo từ cùng một nguồn ý tưởng do máy tạo ra?
Cảm giác như đây là một vấn đề rất khác.
Trong hầu hết lịch sử internet, các hệ thống tin cậy tập trung vào sự phối hợp.
Chúng tôi lo lắng về việc các nhóm thao túng các câu chuyện.
Mạng bot.
Đánh giá giả.
Các trang tương tác.
Các chiến dịch chính trị.
Thao túng thị trường.
Giả định cơ bản là sự tương đồng gợi ý sự phối hợp.
Nếu đủ người nói cùng một điều, có thể có lý do.
Có ai đó đang tổ chức điều đó.
Có ai đó đang thúc đẩy nó.
Có ai đó đã được lợi.
Nhưng AI thay đổi một chút logic đó.
Có thể nhiều lắm.
Bởi vì các đầu ra tương tự có thể xuất hiện mà không cần phối hợp trực tiếp.
Hai người có thể đặt ra những câu hỏi khác nhau và vẫn nhận được những quan điểm tương đối giống nhau.
Mười người sáng tạo có thể tạo ra nội dung độc lập và vô tình sản xuất ra những câu chuyện gần như giống hệt nhau.
Một trăm tài khoản có thể nghe như đang đồng bộ mà không bao giờ nói chuyện với nhau.
Và thật sự...
Điều đó cảm giác khó để lý giải.
Tôi không nghĩ nhiều về điều này lúc đầu.
Rồi có một điều gì đó bùng nổ.
Có thể các hệ thống tin cậy trên internet tương lai không chỉ cần xác minh nguồn thông tin.
Họ có thể cần xác minh xem thông tin có xuất hiện độc lập hay không.
Đó không phải là cùng một điều.
OpenLedger cứ trở lại trong đầu tôi trong khi tôi nghĩ về điều này.
Không phải vì dự án nói rõ về vấn đề này.
Nhiều hơn vì sự quy attribution tự nhiên dẫn đến những câu hỏi lớn hơn.
Chúng ta thường giả định rằng việc quy attribution giải quyết lòng tin.
Bạn biết nguồn gốc.
Bạn biết người đóng góp.
Bạn biết lịch sử.
Vấn đề đã được giải quyết.
Trừ khi có thể không.
Bởi vì hai mảnh thông tin đã được gán có thể vẫn bắt nguồn từ cùng một trí tuệ cơ bản.
Cùng các mô hình.
Cùng các phân phối đào tạo.
Cùng các mẫu tối ưu hóa.
Những người khác nhau.
Các tài khoản khác nhau.
Nhận thức tương tự.
Điều đó tạo ra một tình huống kỳ lạ.
Hãy tưởng tượng một tương lai mà mọi thông tin đều có nguồn gốc rõ ràng.
Mỗi người đóng góp đều được xác minh.
Mỗi nguồn dữ liệu đều được theo dõi.
Mỗi phần thưởng được phân phối một cách công bằng.
Nghe có vẻ lý tưởng.
Nhưng nếu các đầu ra vẫn hội tụ vào một trung bình thống kê khổng lồ thì sao?
Vậy chúng ta đang xác minh điều gì?
Nguồn gốc?
Hay sự đa dạng?
Đó là những điều khác nhau.
Và có thể tôi đã trộn lẫn chúng lại với nhau.
Tôi nghĩ nhiều người cũng vậy.
Càng nghĩ về các nền kinh tế đóng góp, chúng càng bắt đầu giống các hệ sinh thái.
Không phải cơ sở dữ liệu.
Hệ sinh thái sống sót bởi vì sự đa dạng tồn tại.
Các loài khác nhau.
Các hành vi khác nhau.
Các động lực khác nhau.
Khoảnh khắc mọi thứ trở nên quá giống nhau, khả năng phục hồi bắt đầu biến mất.
Internet có thể không khác biệt lắm.
Điều này dẫn đến một suy nghĩ khó chịu khác.
Có thể các hệ thống AI tương lai không chỉ cần nhiều người đóng góp hơn.
Có thể họ cần những người đóng góp thực sự độc lập.
Không phải là những người đóng góp sản xuất cùng một đầu ra lặp đi lặp lại.
Suy nghĩ độc lập trở nên có giá trị.
Bối cảnh độc lập trở nên có giá trị.
Lỗi độc lập trở nên có giá trị.
Thú vị là, ngay cả sự bất đồng cũng trở nên có giá trị.
Bởi vì sự bất đồng là bằng chứng cho thấy nhận thức không hoàn toàn hội tụ.
Và đó là nơi tôi bị kẹt.
Internet hiện tại dường như được tối ưu hóa cho sự hội tụ.
Thuật toán thưởng cho các định dạng quen thuộc.
AI thưởng cho các đầu ra có khả năng xảy ra.
Hệ thống xã hội thưởng cho sự đồng thuận.
Mọi người từ từ trôi về phía trung tâm.
Nhưng lòng tin có thể cuối cùng phụ thuộc vào việc chứng minh rằng một số người vẫn nằm ngoài nó.
Không phải vì họ đúng.
Chỉ vì họ khác nhau.
Tôi thậm chí không chắc hệ thống sẽ đo điều đó như thế nào.
Có thể nó không thể.
Có thể điều đó là không thể.
Nhưng tôi vẫn nhận thấy cùng một cảm giác khi cuộn.
Cùng sự nén tinh tế.
Cùng sự thu hẹp của những kết quả.
Cùng cảm giác rằng mọi người đang đứng trong những phòng khác nhau nhưng vẫn đến được cùng một câu trả lời.
Và thật sự...
Điều đó có thể trở thành thách thức lớn hơn cả thông tin giả.
Bởi vì ít nhất thông tin giả có một kẻ thù rõ ràng.
Sự hội tụ thì không.
Nó chỉ diễn ra một cách âm thầm.
Và đến lúc mọi người nhận ra...
Tôi không chắc tín hiệu sẽ trông như thế nào nữa.
