Chà, tôi nghĩ rằng trí tuệ nhân tạo đã trở nên vô cùng khả năng trong việc tạo ra câu trả lời, tóm tắt và quyết định trong tích tắc. Sự lưu loát của nó tạo ra ảo giác về sự chắc chắn, tuy nhiên cơ chế bên dưới bề mặt là xác suất chứ không phải là sự thật. Các mô hình dự đoán các đầu ra có khả năng dựa trên các mẫu trong dữ liệu, không phải là sự thật đã được xác minh. Sự khác biệt này giải thích tại sao AI có thể tự tin trình bày các chính sách giả mạo, phát biểu sai hướng dẫn y tế, hoặc sáng tạo trích dẫn. Vấn đề không phải là sự cố hiếm hoi — nó mang tính cấu trúc. Mạng lưới Mira được xây dựng dựa trên giả thuyết rằng nếu AI sẽ hỗ trợ các quyết định quan trọng, các đầu ra của nó phải có thể xác minh, không chỉ đơn thuần là hợp lý.
Khoảng cách độ tin cậy trở nên nguy hiểm nhất trong các lĩnh vực có rủi ro cao. Trong y tế, tài chính, diễn giải pháp lý hoặc thông tin công cộng, một câu trả lời sai lầm được đưa ra với sự tự tin có thể gây ra thiệt hại có thể đo lường. Các phương pháp giảm thiểu hiện tại - đánh giá của con người, rào cản, bộ lọc quy tắc hoặc tập dữ liệu được biên soạn - giảm rủi ro nhưng không loại bỏ nó. Đánh giá của con người chậm và tốn kém. Hệ thống quy tắc gặp khó khăn với sắc thái. Việc tinh chỉnh mô hình giảm lỗi trong một lĩnh vực trong khi giới thiệu thiên lệch trong lĩnh vực khác. Mira bắt đầu từ kết luận rằng không có mô hình đơn lẻ nào có thể được tin tưởng hoàn toàn một cách độc lập.
Thay vì cải thiện một mô hình, Mira giới thiệu một lớp xác minh đánh giá các đầu ra trên nhiều mô hình. Khi một AI tạo ra một phản hồi, Mira chuyển đổi phản hồi đó thành các tuyên bố sự thật riêng biệt. Mỗi tuyên bố sau đó được đánh giá độc lập bởi một mạng lưới các mô hình AI đa dạng. Nếu một sự đồng thuận mạnh mẽ xuất hiện, tuyên bố được xác thực. Nếu sự đồng thuận thất bại, tuyên bố được đánh dấu là không chắc chắn. Kết quả không phải là sự tin tưởng mù quáng vào một cỗ máy, mà là sự đồng thuận hỗ trợ bởi máy móc.
Cách tiếp cận này phản ánh cách mà độ tin cậy xuất hiện trong các hệ thống con người. Các phát hiện khoa học đạt được độ tin cậy thông qua việc đánh giá ngang hàng. Các tòa án dựa vào nhiều quan điểm trước khi đạt được phán quyết. Các kiểm toán tài chính yêu cầu xác minh độc lập. Mira áp dụng nguyên tắc tương tự cho trí tuệ nhân tạo: sự thật được củng cố thông qua sự xác thực.
Quá trình xác minh bắt đầu với việc trích xuất tuyên bố. Các phản hồi AI thường chứa nhiều sự thật nhúng trong ngôn ngữ kể chuyện. Động cơ chuyển đổi của Mira phân tách những phản hồi này thành các tuyên bố tiêu chuẩn hóa, có thể kiểm tra. Tiêu chuẩn hóa đảm bảo rằng mỗi mô hình xác minh đánh giá cùng một câu hỏi thay vì diễn giải ngôn ngữ khác nhau. Bước này là thiết yếu để tránh sự phân kỳ do sự mơ hồ hoặc sự khác biệt trong cách diễn đạt.
Khi các tuyên bố được cấu trúc, chúng được phân phối qua các nút xác minh. Mỗi nút chạy một mô hình AI và trả về đánh giá sự thật. Mira tổng hợp các kết quả và áp dụng một ngưỡng đồng thuận. Các tuyên bố đạt ngưỡng được chứng nhận là đã được xác minh; những tuyên bố không đạt được gán nhãn là không chắc chắn hoặc bị từ chối. Hồ sơ xác minh sau đó được neo vào cơ sở hạ tầng blockchain, tạo ra một chứng nhận minh bạch cho thấy cách mà kết luận đã được đạt được.
Sự phân quyền củng cố tính toàn vẹn của quá trình. Mira cho phép các mô hình không đồng nhất - các hệ thống mã nguồn mở, các chuyên gia trong lĩnh vực, các mô hình học thuật và các hệ thống doanh nghiệp - tham gia vào xác minh. Sự đa dạng giảm thiểu các lỗi tương quan và giảm thiểu sự thiên lệch từ bất kỳ tập dữ liệu đào tạo đơn lẻ nào. Không có thực thể duy nhất nào kiểm soát kết quả. Sự đồng thuận xuất hiện từ các đánh giá độc lập, làm cho việc thao túng trở nên khó khăn về mặt thống kê.
Để căn chỉnh các động lực, Mira kết hợp các cơ chế đặt cược và phạt. Các nhà điều hành nút khóa token làm tài sản thế chấp trước khi tham gia vào xác minh. Sự tham gia trung thực mang lại phần thưởng khi các phiếu bầu phù hợp với sự đồng thuận. Việc lệch lạc lặp đi lặp lại hoặc hành vi không trung thực có thể kích hoạt hình phạt. Cấu trúc này tạo ra một động lực tài chính cho độ chính xác và ngăn chặn việc bỏ phiếu cẩu thả hoặc độc hại. Khi sự tham gia tăng lên, việc tấn công vào mạng trở nên không khả thi về mặt kinh tế.
Quyền riêng tư được giải quyết thông qua sự phân mảnh tuyên bố. Thay vì phân phối tài liệu đầy đủ, Mira tách nội dung thành các tuyên bố cá nhân và phân phối chúng qua các nút. Không có một người tham gia nào có thể tái tạo lại tài liệu nguồn gốc. Giấy chứng nhận cuối cùng xác nhận kết quả xác minh mà không tiết lộ thông tin nhạy cảm. Thiết kế này cho phép các tập dữ liệu bí mật được xác thực mà không làm lộ quyền riêng tư.
Những tác động kéo dài ra ngoài tính chính xác kỹ thuật. AI đã được xác minh cho phép tự động hóa trong các môi trường mà sự tin tưởng là bắt buộc. Các hệ thống hỗ trợ quyết định y tế có thể xác thực chéo các khuyến nghị trước khi trình bày. Các kiểm tra tuân thủ tài chính có thể xác minh sự tuân thủ quy định mà không tiết lộ dữ liệu sở hữu. Các tóm tắt pháp lý có thể được xác thực từ nhiều nguồn trước khi sử dụng. Lớp xác minh của Mira cho phép AI hoạt động trong các môi trường được quản lý và có rủi ro cao nơi độ tin cậy là thiết yếu.
Các triển khai ban đầu cho thấy giá trị thực tiễn. Các công cụ giáo dục đã cải thiện độ chính xác của câu hỏi thông qua xác minh đa mô hình. Các hệ thống trò chuyện AI đã tích hợp các lớp xác minh để giảm thông tin sai lệch. Sự hợp tác với các tổ chức học thuật và hệ sinh thái blockchain cho thấy sự quan tâm ngày càng tăng đối với các đầu ra AI có thể xác minh. Tầm nhìn dài hạn là một hệ sinh thái nơi các dịch vụ AI đáng tin cậy chia sẻ kiến thức đã được xác thực và xây dựng dựa trên thông tin đã được xác minh.
Những thách thức vẫn còn. Xác minh giới thiệu chi phí tính toán và có thể làm tăng độ trễ trong các tình huống thời gian thực. Không phải tất cả các đầu ra đều có thể giảm xuống thành các tuyên bố sự thật nhị phân, đặc biệt là nội dung sáng tạo hoặc chủ quan. Việc khởi động một mạng lưới mô hình đa dạng sẽ yêu cầu sự tham gia bền vững. Tuy nhiên, những hạn chế này phản ánh độ phức tạp của việc đạt được độ tin cậy thay vì những điểm yếu trong phương pháp.
Luận điểm rộng hơn của Mira là niềm tin vào AI không nên phụ thuộc vào việc tin tưởng vào một hệ thống duy nhất. Nó nên xuất phát từ sự đồng ý có thể xác minh giữa nhiều hệ thống. Bằng cách biến các đầu ra AI thành các tuyên bố cần phải đạt được sự đồng thuận, Mira thay thế sự tự tin bằng trách nhiệm và xác suất bằng xác minh.
Khi trí tuệ nhân tạo trở nên gắn liền với cơ sở hạ tầng ra quyết định, câu hỏi không còn là các mô hình thông minh có thể trở nên như thế nào, mà là chúng có thể đáng tin cậy ra sao. Mạng lưới Mira đề xuất rằng niềm tin không phải là một tính năng của bất kỳ mô hình đơn lẻ nào - mà là một thuộc tính của các hệ thống được thiết kế để xác minh lẫn nhau.
@Mira - Trust Layer of AI $MIRA #Mira #mira
