Hầu hết các cuộc thảo luận về AI vẫn đo lường tiến bộ bằng một chỉ số: tốc độ.

Tôi nghĩ rằng việc định hình là chưa hoàn chỉnh.

Trong các hệ thống sản xuất, chỉ số thực sự là tổn thất dự kiến sau khi một câu trả lời sai được thực hiện. Một mô hình nhanh vẫn có thể tốn kém nếu một tuyên bố chưa được xác minh kích hoạt giao dịch sai, cảnh báo sai, hoặc hành động của khách hàng sai.

Đó là lý do tại sao tôi xem Mira như một lớp kinh tế cho độ tin cậy của AI, không chỉ là một phần bổ sung kỹ thuật. Bạn tạo ra đầu ra, phân tích nó thành các đơn vị có thể xác minh, thực hiện xác thực độc lập, và chỉ sau đó quyết định xem hành động có nên được phép hay không. Điểm mấu chốt không phải là để nghe có vẻ thông minh. Điểm mấu chốt là giảm chi phí của những sai sót có thể tránh được.

Một cách đơn giản để suy nghĩ về điều này: - Đặt ngưỡng chính sách `unchecked_prob_margin` rõ ràng. - Chỉ thực hiện nếu xác suất chưa kiểm tra vẫn dưới ngưỡng `unchecked_prob_margin`. - Việc xác minh là điều đưa xác suất xuống dưới ngưỡng đó.

Đây cũng là nơi mà việc phân quyền quan trọng. Nếu một nguồn kiểm soát cả việc tạo ra và sự thật, các chế độ thất bại sẽ bị ẩn giấu. Một lớp xác minh phân tán tạo ra sự bất đồng rõ ràng và một dấu vết kiểm toán mạnh mẽ hơn. Trong các quy trình làm việc có rủi ro cao, khả năng theo dõi đó không phải là tùy chọn.

Tôi không cho rằng điều này loại bỏ mọi rủi ro. Nó không. Việc xác minh tạo ra độ trễ và gánh nặng vận hành. Nhưng một quyết định chậm hơn với bằng chứng thường rẻ hơn một quyết định nhanh mà bạn không thể biện minh.

Vì vậy, câu hỏi chiến lược là rất rõ ràng: khi hệ thống AI của bạn sắp thực hiện một điều gì đó không thể đảo ngược, bạn muốn sự tự tin hay trách nhiệm có thể xác minh?
@Mira - Trust Layer of AI $MIRA #Mira