Một vài tháng trước, tôi vẫn nghĩ rằng hầu hết AI
Các cuộc trò chuyện chủ yếu xoay quanh khả năng.
Mô hình lớn hơn, suy luận nhanh hơn, lý luận thông minh hơn, đầu ra sạch hơn.
Điều đó có vẻ như là cuộc đua hiển nhiên. Mỗi bản phát hành mới cảm giác như một bước nữa hướng tới các hệ thống mạnh mẽ hơn, và thật lòng mà nói, hầu hết
mọi người bao gồm cả tôi
nhìn nhận sự tiến bộ qua lăng kính đó.
Nhưng gần đây, tôi cảm thấy như vấn đề thực sự đang dịch chuyển dưới bề mặt.
Bởi vì khả năng không còn là điều duy nhất mà thị trường phản ứng.
Niềm tin đang trở thành một phần của hạ tầng bây giờ, cho dù ngành công nghiệp đã sẵn sàng cho điều đó hay chưa.
Và phần kỳ lạ là niềm tin trở nên rõ ràng nhất đúng lúc khi các động lực trở nên lộn xộn.
Bạn có thể thấy điều đó đang xảy ra trên toàn bộ AI. Các công ty muốn thống trị các tiêu chuẩn vì các tiêu chuẩn thu hút tiêu đề.
Các startup muốn có những câu chuyện hiệu suất vì những câu chuyện thu hút nguồn vốn.
Các nền tảng muốn số lượng áp dụng vì sự tăng trưởng tạo ra động lực. Mọi người đang tối ưu hóa về lớp mà được thưởng nhanh nhất.
Đó là hành vi bình thường của con người. Thị trường luôn định hình hành vi.
Vấn đề bắt đầu khi tối ưu hóa lặng lẽ trôi xa khỏi độ tin cậy.
Một mô hình có thể trông tuyệt vời trong các đánh giá kiểm soát và vẫn hành xử không thể đoán trước trong các môi trường thực.
Và hầu hết người dùng bình thường sẽ không bao giờ nhận thấy sự khác biệt cho đến khi có điều gì đó thực sự bị hỏng. Khoảng cách giữa trình bày và thực tế hoạt động cảm thấy nhỏ lúc đầu, nhưng về mặt kinh tế nó trở nên lớn theo thời gian.
Tôi thường nghĩ về điều này khi mọi người nói về “niềm tin vào AI.”
Hầu hết các cuộc thảo luận vẫn định hình niềm tin theo cảm xúc, như thể nó chủ yếu là về việc người dùng cảm thấy thoải mái với các hệ thống AI.
Nhưng niềm tin thực sự vào hạ tầng chưa bao giờ mang tính cảm xúc. Nó thường là cơ học.
Các ngân hàng dựa vào kiểm toán. Các sàn giao dịch dựa vào hệ thống thanh toán.
Bảo hiểm dựa vào mô hình rủi ro. Các thị trường tài chính tồn tại vì sự chịu trách nhiệm.
Cấu trúc tồn tại dưới bề mặt, ngay cả khi người dùng không bao giờ nhìn thấy chúng trực tiếp.
AI đang dần bước vào lãnh thổ tương tự bây giờ.
Đặc biệt là khi những hệ thống này bắt đầu chạm vào quy trình làm việc liên quan đến tiền, chăm sóc sức khỏe, xem xét pháp lý, hoạt động doanh nghiệp, hoặc hạ tầng công cộng.
Tại thời điểm đó, các tuyên bố về hiệu suất không còn là ngôn ngữ tiếp thị. Chúng trở thành giả định kinh tế.
Và các giả định kinh tế cuối cùng cần được xác minh.
Đó là lý do tại sao tôi luôn quay lại dự án như OpenLedger từ một góc nhìn hơi khác so với hầu hết mọi người.
Rất nhiều người tập trung vào những phần rõ ràng trước tiên: AI phi tập trung, lớp ghi nhận, nền kinh tế đóng góp dữ liệu, hạ tầng đại lý, kiếm tiền từ mô hình.
Những điều đó rõ ràng quan trọng. Nhưng tôi nghĩ rằng lớp thú vị hơn có thể là điều gì sẽ xảy ra khi ghi nhận bắt đầu hoạt động như một hạ tầng trách nhiệm thay vì chỉ đơn giản là ghi chép.
Bởi vì nguồn gốc nghe có vẻ nhàm chán cho đến khi động lực trở nên tốn kém.
Ai đã huấn luyện một mô hình?
Dữ liệu nào đã ảnh hưởng đến đầu ra?
Điều kiện đánh giá nào đã được sử dụng?
Những tuyên bố nào đã gắn liền với quyết định áp dụng?
Ai được hưởng lợi kinh tế khi những tuyên bố đó lan rộng?
Những câu hỏi đó cảm thấy như quản lý ngay bây giờ vì AI vẫn đang di chuyển qua một giai đoạn đầy hưng phấn.
Nhưng một khi các tổ chức lớn hơn dựa vào những hệ thống này, sự mơ hồ trở nên tốn kém rất nhanh.
Và thật sự, crypto đã khám phá một số logic này nhiều năm trước.
Không hoàn hảo. Chắc chắn không sạch sẽ. Nhưng crypto đã hiểu điều gì đó quan trọng về động lực: các hệ thống hành động khác nhau khi có trách nhiệm.
trở thành một phần kinh tế thay vì được ngầm hiểu xã hội.
Các validator bị trừng phạt. Tài sản bảo đảm bị thanh lý.
Danh tiếng ảnh hưởng đến thanh khoản. Rủi ro được định giá liên tục vì thị trường trừng phạt sự không chắc chắn một cách quyết liệt.
Một lần nữa, tôi không nói rằng AI nên trở thành bản sắc crypto trong văn hóa.
.Điều đó có thể tạo ra mười vấn đề mới ngay lập tức.
Nhưng một số suy nghĩ cấu trúc quanh động lực cảm thấy cực kỳ phù hợp.
Ngay bây giờ, văn hóa tiêu chuẩn trong AI vẫn cảm thấy kỳ lạ như một thanh thiếu niên với tôi. Điểm số lớn hơn tương đương với mô hình tốt hơn.
Biểu đồ sạch hơn tương đương với hệ thống mạnh mẽ hơn. Hầu hết mọi người chấp nhận những tín hiệu đó vì chúng đơn giản và an ủi cảm xúc.
Nhưng các môi trường hoạt động không quan tâm đến sự tự tin thẩm mỹ.
Một bệnh viện không quan tâm nếu một mô hình trông ấn tượng trong tuần ra mắt. Một nhà phân tích tài chính không quan tâm mô hình trình bày tiêu chuẩn có đẹp đến đâu.
Các nhóm mua sắm cuối cùng quan tâm đến tỷ lệ thất bại, khả năng truy xuất nguồn gốc, sự lộ diện quản trị, và độ tin cậy dưới áp lực.
Cảm giác thay đổi hoàn toàn khi những hậu quả kinh tế thực sự xuất hiện.
Và tôi nghĩ rằng hướng đi quy định của Châu Âu đã bắt đầu gợi ý về nơi này sẽ đi tiếp theo.
Khoảnh khắc AI chạm vào các quy trình làm việc được quy định, cuộc trò chuyện trở nên ít triết lý và nhiều hơn về quy trình.
Kiểm toán. Tài liệu. Yêu cầu giải thích. Xem xét quản trị. Các câu hỏi về trách nhiệm pháp lý.
Đột nhiên mọi người muốn biết đầu ra đến từ đâu.
Đó là nơi mô hình ghi nhận của OpenLedger bắt đầu cảm thấy ít giống như hạ tầng tùy chọn và nhiều hơn như sự chuẩn bị cho cấu trúc thị trường trong tương lai.
Bởi vì có thể việc ghi nhận không chỉ về phần thưởng cho những người đóng góp.
Có thể nó cũng là về việc làm cho sự không trung thực khó lan tỏa một cách bình thường.
Ý tưởng đó giữ ngồi trong đầu tôi.
Không loại bỏ hoàn toàn sự thao túng. Điều đó là không thực tế.
Mọi hệ thống đều bị lợi dụng cuối cùng. Thị trường thích nghi. Động lực biến đổi. Con người tối ưu hóa quanh việc đo lường mãi mãi.
Nhưng các hệ thống vẫn có thể định hình hành vi bằng cách tăng chi phí cho hành vi không đáng tin cậy.
Những tài xế không an toàn phải trả nhiều hơn cho bảo hiểm. Lịch sử tín dụng kém ảnh hưởng đến điều kiện vay mượn. Các sàn giao dịch lặng lẽ điều chỉnh giả định niềm tin dựa trên lịch sử hoạt động mọi lúc.
Hầu hết các hệ thống trưởng thành không loại bỏ hoàn toàn những kẻ xấu. Họ chỉ làm cho một số hình thức hành vi trở nên kém hấp dẫn về mặt kinh tế theo thời gian.
AI có thể phát triển theo hướng tương tự.
Và thật sự, điều đó có thể trở nên quan trọng hơn cả trí thông minh thô.
Bởi vì giai đoạn tiếp theo của cạnh tranh AI có thể không chỉ về việc ai xây dựng các hệ thống thông minh nhất.
Nó cũng có thể trở thành về việc ai xây dựng các hệ thống mà thị trường thực sự có thể tin tưởng dưới áp lực.
Điều đó cảm giác như một cuộc đua hoàn toàn khác.