Mọi người vẫn nói về AI như thể câu chuyện chỉ dừng lại ở câu trả lời. Câu trả lời tốt, câu trả lời xấu, đầu ra thông minh, ảo giác, sự tự tin, độ chính xác. Trong nhiều năm, cách tiếp cận đó có ý nghĩa vì hầu hết các mô hình sống trong một vòng lặp vô hại: đầu vào vào, đầu ra ra. Mô hình nói một điều gì đó, có thể làm mình xấu hổ, có thể gây ấn tượng với ai đó, có thể bắt đầu một cuộc tranh luận trực tuyến, và sau đó tương tác chủ yếu kết thúc ở đó. Đầu ra vẫn là ngôn ngữ.
Trong OpenLedger, tôi không nghĩ rằng giả định đó tồn tại lâu dài.
Bởi vì ngay khi một mô hình ngừng là thông tin và bắt đầu chạm vào bề mặt thực thi các lộ trình cầu nối, logic kho, các con đường giao dịch, các lớp thanh toán, các luồng ERC-4626, hệ thống tác nhân, ý nghĩa của "chất lượng mô hình" thay đổi hoàn toàn. Trí tuệ không còn được đánh giá chỉ dựa trên độ chính xác. Nó bắt đầu được đánh giá dựa trên sự cho phép.
Và đó là những vấn đề rất khác nhau.
Một câu trả lời sai là một chuyện. Một hành động sai lại là một chuyện hoàn toàn khác.
Sự phân biệt đó ngày càng lớn trong đầu tôi mỗi khi tôi nghĩ về cách mà @OpenLedger các lớp cuối cùng kết nối với nhau. Datanets định hình nguyên liệu đầu vào. ModelFactory biến trí tuệ thành các lộ trình có thể triển khai. OpenLoRA chuyên môn hóa hành vi một cách linh hoạt. PoA tái tạo dòng dõi và quy cho. Sau đó, các hệ thống như OctoClaw đẩy suy luận gần hơn với chính thực thi.
Tại thời điểm đó, mô hình không chỉ được quan sát nữa.
Nó đang được tuân theo.
Có thể một phần. Có thể có điều kiện. Có thể thông qua chuỗi tác nhân và các lớp xác thực. Nhưng vẫn được tuân theo. Và khi các đầu ra có thể di chuyển trạng thái, ngăn xếp không còn chỉ quản lý thông tin. Nó đang quản lý hậu quả.
Đó là sự chuyển tiếp thực sự với tôi.
Không phải đầu ra.
Thay đổi trạng thái.
Bởi vì thay đổi trạng thái là nơi ngôn ngữ ngừng trở nên rẻ.
Các hệ thống AI cũ có thể sống sót qua sự mơ hồ vì sự mơ hồ hiếm khi tạo ra hậu quả cơ khí. Nếu một chatbot tạo ra điều gì đó mơ hồ hoặc quá tự tin, thiệt hại thường chỉ là về uy tín trước khi nó trở thành hoạt động. Mọi người phàn nàn, làm mới trang, đăng ảnh chụp màn hình chế nhạo nó, và tiếp tục.
Nhưng #OpenLedger đang tiến tới một cái gì đó nặng nề hơn nhiều.
Suy luận có thể trở nên có thể hành động. Các chuỗi tác nhân có thể tương tác với công cụ. Công cụ có thể tương tác với lộ trình, thanh khoản, kho, cầu nối và thanh toán. Khi điều đó xảy ra, câu hỏi quan trọng không còn là "mô hình có thông minh không?" mà trở thành "hệ thống có lý do gì để cho phép trí tuệ hành động?"
Đó là một vấn đề cơ sở hạ tầng lạnh hơn nhiều.
Bởi vì một phản hồi có thể hoàn toàn chấp nhận được cho diễn giải trong khi hoàn toàn không chấp nhận được cho thực thi. Một mô hình có thể hữu ích cho nghiên cứu nhưng vẫn quá không ổn định cho định tuyến tài chính. Một hệ thống có thể tạo ra suy luận thông minh theo hướng trong khi vẫn nguy hiểm trong các môi trường tự động. Một mô hình có thể nghe có vẻ đáng tin cậy trong khi thiếu đi sự kiềm chế cần thiết cho tương tác trạng thái trong thế giới thực.
Vậy OpenLedger đang tối ưu hóa điều gì?
Trí tuệ thô?
Khả năng hành động?
Hoặc điều khó hơn: khả năng hành động có kiểm soát?
Danh mục cuối cùng này quan trọng nhất. Bởi vì khi mà các đầu ra có thể tương tác với cầu nối, kho, thanh toán, hoặc hệ thống giao dịch, trí tuệ một mình không còn là cánh cổng cuối cùng. Bây giờ chính kiến trúc phải quyết định mô hình nên nhận bao nhiêu quyền hạn.
Đó là nơi cuộc trò chuyện trở nên khó chịu.
Ai cũng thích nói về AI có thể quy cho, suy luận minh bạch, kinh tế mô hình phi tập trung, và bồi thường công bằng cho người đóng góp. Tất cả đều quan trọng. Nhưng thực thi thay đổi thứ tự ưu tiên. Việc quy cho trở thành sự chuẩn bị. Bài kiểm tra thực sự bắt đầu khi trí tuệ được phép thay đổi điều gì đó bên ngoài chính nó.
Bởi vì nguồn gốc không phải là sự bảo vệ.
PoA có thể tái tạo dòng dõi sau khi một hành động xảy ra. Nó có thể giải thích nguồn gốc của suy luận. Nó có thể xác định các người đóng góp và giải quyết phần thưởng một cách chính xác. Nhưng không có điều đó tự động ngăn chặn thực thi thảm họa.
Một hệ thống có thể giải thích một sai lầm một cách hoàn hảo và vẫn gây ra sai lầm đó.
Đó là ảo tưởng nguy hiểm xung quanh khả năng truy vết. Khả năng nhìn thấy không giống như sự kiềm chế.
Và tôi nghĩ mọi người đánh giá thấp mức độ nghiêm trọng của sự phân biệt đó khi các hệ thống tác nhân gia nhập vào ngăn xếp.
Việc suy luận đơn lẻ đã đủ khó để quản lý. Chuỗi tác nhân còn tồi tệ hơn. Đầu ra của một mô hình nuôi dưỡng một lớp quyết định khác. Lớp đó gọi một công cụ. Công cụ kiểm tra một lộ trình. Lộ trình chạm vào thanh khoản. Thanh khoản tương tác với các điều kiện cầu nối. Cầu nối kích hoạt logic thanh toán. Thanh toán ảnh hưởng đến hành vi của kho một nơi mà người dùng không bao giờ nhìn thấy trực tiếp.
Tại thời điểm đó, chất lượng mô hình không còn là nút thắt chính.
Nút thắt thực sự trở thành liệu hệ thống có thể mang đủ sự kiềm chế vào thực thi mà không nhầm lẫn khả năng giải thích với an toàn. Bởi vì các hệ thống có thể giải thích vẫn có thể là các hệ thống nguy hiểm.
Mọi người giả định rằng nếu thực thi có thể quy cho, thì thực thi tự động trở nên đáng tin cậy. Tôi không nghĩ điều đó là đúng. Một thất bại được ghi lại hoàn hảo vẫn là một thất bại.
Và khi các hệ thống thay đổi trạng thái tồn tại, câu hỏi quan trọng không còn là liệu các hành động có thể được tái tạo sau đó. Câu hỏi quan trọng là liệu những hành động đó có nên được phép từ đầu hay không.
Đó là lý do tại sao sự cho phép trở thành lớp kiến trúc thực sự.
Ai cấp quyền thực thi? Dưới ngưỡng nào? Với các lớp xác thực gì? Điều gì cần xác nhận của con người? Điều gì vẫn có thể đảo ngược? Điều gì trở nên không thể đảo ngược? Điều gì được đưa vào khu thử nghiệm? Điều gì được ghi lại trước khi thực thi thay vì sau khi thiệt hại đã xảy ra?
Đó không còn là những câu hỏi phụ nữa.
Chúng đang trở thành hệ thống tự nó.
Một Datanet có thể xuất sắc và vẫn không thể biện minh cho hành động tự động. ModelFactory có thể triển khai các lộ trình suy luận sạch sẽ mà không giải quyết được rủi ro thực thi. OpenLoRA có thể cải thiện sự chuyên môn trong khi đồng thời tăng cường độ giòn. PoA có thể cung cấp tái tạo dòng dõi hoàn hảo trong khi vẫn vô dụng trước các chuyển đổi trạng thái không thể đảo ngược.
Thậm chí kinh tế hoàn hảo cũng không thể xóa bỏ thực thi xấu.
Đó là sự thật khó chịu đang ngồi bên dưới tất cả những điều này.
Khi trí tuệ có khả năng hoạt động, kiến trúc trở nên quan trọng hơn vẻ đẹp. Đặc biệt trong các hệ thống liên quan đến tài chính, nơi mà việc 'đa phần đúng' vẫn có thể trở thành thảm họa nếu suy luận sai lầm là điều có thể thực thi.
Đó là lý do tại sao các hệ thống tác nhân kiểu OctoClaw có ý nghĩa về mặt khái niệm. Không phải vì tác nhân vốn dĩ nguy hiểm, mà vì chúng phơi bày sự nghiêm trọng của cơ sở hạ tầng bên dưới chúng. Tác nhân buộc OpenLedger phải trả lời câu hỏi khó nhất có thể:
Liệu trí tuệ có thể quy cho có thể được tin cậy với quyền thực thi không?
Không phải khả năng nhìn thấy.
Không phải tính minh bạch.
Không phải khả năng giải thích.
Thực thi.
Và đó không phải là các khái niệm tương đương.
"Có thể giải thích" yếu hơn "có thể thực thi."
Sự phân biệt đó có thể xác định giai đoạn tiếp theo của hạ tầng AI phi tập trung. Bởi vì cuối cùng áp lực không còn là liệu mô hình có đủ thông minh hay không. Áp lực trở thành liệu hệ thống biết cách lo sợ các đầu ra của nó khi những đầu ra đó trở thành có thể hành động.
Đó là ranh giới thực sự.
Ranh giới nơi suy luận ngừng là diễn giải và bắt đầu trở thành trạng thái.
Bên trong #OpenLedger tôi cứ nghĩ rằng chất lượng mô hình không phải là cánh cổng cuối cùng. Nó chỉ là điều mà mọi người nhận thấy trước khi cánh cổng thực sự xuất hiện.
Và cánh cổng thực sự là sự cho phép.
Quyền cho trí tuệ thay đổi điều gì đó bên ngoài chính nó.
Đó là nơi kiến trúc trở nên trung thực.
Và đó có thể là lớp nguy hiểm nhất trong toàn bộ hệ thống.
