Tôi đã thực hiện một thí nghiệm nhỏ vài ngày trước. Không có gì nghiêm trọng. Chỉ hỏi cùng một câu hỏi cho một vài hệ thống AI khác nhau.
Phần kỳ lạ không phải là các câu trả lời. Các sự thật chủ yếu là như nhau.
Nhưng các kết luận… đã thay đổi một chút.
Một người nghe rất tự tin. Một người khác do dự. Một người thứ ba đưa ra một nhấn mạnh hoàn toàn khác mặc dù dữ liệu trông tương tự. Sự không nhất quán nhỏ đó đã ám ảnh tôi.
Sự tự tin mà không có trách nhiệm. Đó là sự cọ xát.
Nó khiến tôi bắt đầu đào sâu vào @Mira - Trust Layer of AI và ý tưởng đứng sau nó.
Vấn đề với hầu hết AI ngày nay không phải là trí thông minh. Các mô hình đã rất tốt trong việc sản xuất văn bản, tóm tắt nghiên cứu, thậm chí phân tích. Vấn đề thực sự là độ tin cậy. Đôi khi chúng mơ hồ. Đôi khi thiên kiến len lỏi vào. Và chính hệ thống hiếm khi giải thích mức độ chắc chắn của câu trả lời thực sự là như thế nào.
Mira cố gắng tiếp cận điều này một cách khác.
Thay vì tin tưởng vào đầu ra của một mô hình duy nhất, mạng lưới chia nhỏ thông tin thành các mảnh nhỏ hơn. Các tuyên bố. Mỗi tuyên bố di chuyển qua một nhóm AI xác minh phi tập trung. Các hệ thống độc lập kiểm tra cùng một tuyên bố từ các góc độ khác nhau.
Chỉ sau khi có đủ sự đồng thuận hình thành, kết quả mới trở thành thứ gần giống như thông tin đã được xác minh.
Phần đó khiến tôi quan tâm. Bởi vì quá trình này cảm thấy ít giống như một chatbot trả lời một câu hỏi và nhiều hơn như một cuộc đánh giá ngang hàng diễn ra ở tốc độ máy móc.
Blockchain cũng đóng một vai trò ở đây. Quá trình xác minh được ghi lại trên chuỗi. Điều đó có nghĩa là kết quả không chỉ là một câu trả lời mà còn là một bản ghi có thể truy nguyên về cách mà câu trả lời đó được đánh giá.
Vì vậy, trọng tâm chuyển dịch.
Từ AI tạo ra thông tin…
đến AI chứng minh nó.
Tôi vẫn chưa biết liệu các hệ thống như $MIRA sẽ trở thành một lớp tiêu chuẩn cho AI. Vẫn còn sớm và các mạng lưới như thế này còn nhiều thách thức kỹ thuật phía trước.
Nhưng hướng đi này khiến tôi thấy hợp lý.
Ít sự phấn khích xung quanh các mô hình thông minh hơn.
Nhiều nỗ lực hơn vào các hệ thống có thể thực sự thể hiện công việc của họ.