Hầu hết các hệ thống AI ngày nay đều giỏi trong việc tạo ra các câu trả lời. Chúng kém đáng tin cậy hơn rất nhiều trong việc đảm bảo chúng.
Bạn đặt một câu hỏi. Mô hình trả lời với sự tự tin. Cấu trúc nghe có vẻ hợp lý. Giải thích cảm thấy đầy đủ. Nhưng dưới cái phản hồi đó là một vấn đề đơn giản: nó có thể sai.
Sự không chắc chắn đó là giới hạn vô hình của các hệ thống tri thức AI hiện đại.
Thông tin được tạo ra nhanh hơn so với khả năng xác thực của nó.
Đây là nơi Mira bắt đầu thay đổi phương trình.
Thay vì coi các đầu ra của AI là các câu trả lời hoàn chỉnh, Mira coi chúng là các tuyên bố cần được xác minh. Hệ thống chia nhỏ nội dung được tạo ra thành các tuyên bố nhỏ hơn có thể được kiểm tra độc lập qua một mạng lưới phân quyền của các người xác minh.
Quá trình đó biến đổi cách mà kiến thức có thể được cấu trúc.
Các đồ thị kiến thức truyền thống lưu trữ các mối quan hệ giữa các thực thể. Chúng lập bản đồ các kết nối giữa người, địa điểm, sự kiện và khái niệm trong một cấu trúc dựa trên đồ thị nơi các nút đại diện cho các thực thể và các cạnh đại diện cho các mối quan hệ.
Nhưng những đồ thị này thường giả định rằng thông tin bên trong chúng đã đúng.
Trên thực tế, hầu hết các đồ thị kiến thức hiện đại được xây dựng từ dữ liệu được thu thập, đầu vào của con người, hoặc các đường ống trích xuất tự động. Các lỗi có thể lây lan một cách âm thầm qua hệ thống.
Mira giới thiệu một mô hình khác.
Trước khi thông tin trở thành một phần của đồ thị, nó phải trải qua xác minh.
Mỗi tuyên bố được tạo ra bởi một mô hình AI có thể được phân tích thành các tuyên bố có cấu trúc. Những tuyên bố này được phân phối qua nhiều mô hình độc lập hoặc các nhà xác thực, những người đánh giá độ chính xác của chúng và đạt được sự đồng thuận trước khi được chấp nhận.
Khi được xác thực, những tuyên bố đó có thể được gắn như những điểm dữ liệu đáng tin cậy bên trong một đồ thị kiến thức.
Kết quả là một đồ thị không chỉ lưu trữ các mối quan hệ.
Nó lưu trữ các mối quan hệ đã được xác minh.
Sự phân biệt đó quan trọng hơn những gì nó thể hiện.
Trong một hệ thống kiến thức AI bình thường, thông tin là xác suất. Hệ thống tin rằng điều gì đó có khả năng đúng vì nó đã thấy các mẫu tương tự trong dữ liệu huấn luyện.
Trong một đồ thị kiến thức đã được xác minh, thông tin trở nên có thể truy rõ nguồn gốc. Mỗi nút và mối quan hệ có thể mang bằng chứng rằng tuyên bố đã được đánh giá và đồng ý bởi nhiều nhà xác thực trong mạng.
Điều này thay đổi cách mà các hệ thống AI lý luận.
Thay vì tạo ra câu trả lời từ những xác suất liên kết lỏng lẻo, các mô hình có thể truy vấn một bản đồ cấu trúc của kiến thức đã được xác thực.
Lý luận trở nên đáng tin cậy hơn vì chính nền tảng đã được kiểm tra.
Đối với các tác nhân AI tự trị, điều này có thể là rất quan trọng.
Các tác nhân hoạt động độc lập cần một nguồn thông tin đáng tin cậy. Nếu cơ sở kiến thức của họ chứa các sự thật ảo giác hoặc dữ liệu không nhất quán, quyết định của họ có thể nhanh chóng trở nên không đáng tin cậy.
Một đồ thị kiến thức đã được xác minh giảm thiểu rủi ro đó.
Các tác nhân có thể tham khảo các tuyên bố đã được xác thực bởi một lớp xác minh phân tán thay vì chỉ dựa vào dự đoán của chính họ.
Theo thời gian, điều này tạo ra một vòng phản hồi.
AI tạo ra kiến thức.
Mạng lưới xác minh điều đó.
Các tuyên bố đã được xác minh mở rộng đồ thị kiến thức.
Các hệ thống AI trong tương lai truy vấn đồ thị đó để lý luận chính xác hơn.
Hệ thống trở nên ngày càng đáng tin cậy khi nó phát triển.
Đây là tầm nhìn lớn hơn đứng sau các lớp xác minh như Mira.
Không chỉ sửa chữa các ảo giác.
Nhưng xây dựng cơ sở hạ tầng cho kiến thức đáng tin cậy bản thân.
Nếu mỗi tuyên bố bên trong một đồ thị kiến thức AI mang bằng chứng xác minh, thông tin ngừng là văn bản thoáng qua được sản xuất bởi một mô hình.
Nó trở thành kiến thức có cấu trúc và có thể kiểm tra.
Và một khi kiến thức trở nên có thể xác minh, các hệ thống AI ngừng đoán nhiều như trước.
Họ bắt đầu lý luận dựa trên một cái gì đó gần với sự thật hơn.
\u003cc-22/\u003e \u003cm-24/\u003e- AI\u003ct-26/\u003e