Trong vài năm qua, AI đã đạt được những tiến bộ đáng kinh ngạc. Các mô hình có thể viết bài luận, tạo mã và thậm chí tạo ra hình ảnh hoặc video. Nhưng càng khám phá cách mà những hệ thống này hoạt động, tôi càng nhận ra rằng trí tuệ mà không có độ tin cậy thì là một nền tảng. AI giống như một tòa nhà cần một nền móng để đứng vững.
Trong khi nghiên cứu các ý tưởng được trình bày trong tài liệu trắng Mira, một chủ đề cứ lặp đi lặp lại trong tâm trí tôi: AI không thất bại vì thiếu kiến thức mà thất bại vì thiếu xác minh. Tôi cứ suy nghĩ về ý tưởng này và cách nó liên quan đến AI.
Các mô hình lớn tạo ra phản hồi dựa trên xác suất được học từ các tập dữ liệu. Điều đó có nghĩa là chúng có thể tạo ra câu trả lời nghe có vẻ thuyết phục ngay cả khi chúng sai. Điều này có thể xuất hiện như ảo giác, nơi mô hình phát minh thông tin hoặc thiên lệch nơi đầu ra phản ánh các mẫu trong dữ liệu đào tạo hơn là sự thật khách quan. Bất kể mô hình lớn đến đâu, những vấn đề này không bao giờ hoàn toàn biến mất.
Đối với tôi, điều này làm nổi bật một vấn đề: chúng ta đã dành nhiều năm để cải thiện việc tạo ra AI nhưng chúng ta chưa đầu tư đủ vào xác minh AI. Chúng ta cần tập trung vào việc làm cho AI đáng tin cậy hơn.
Vấn Đề Với Việc Dựa Vào Một Mô Hình Duy Nhất
* Một trong những hiểu biết mà tôi thấy thú vị là một hệ thống AI đơn lẻ có một ranh giới sai sót.
* Ngay cả mô hình tiên tiến cũng không thể loại bỏ hoàn toàn cả ảo giác và thiên lệch cùng một lúc.
Nếu các nhà phát triển cố gắng giảm thiểu ảo giác bằng cách thu hẹp dữ liệu đào tạo, họ thường giới thiệu thiên lệch. Nếu họ mở rộng dữ liệu để giảm thiên lệch, những bất nhất bắt đầu xuất hiện trong câu trả lời của mô hình. Điều này trở thành một hành động cân bằng mà không có giải pháp.
Đây là lý do tại sao tôi nghĩ rằng xác minh tập thể lại quan trọng đến vậy. Thay vì tin tưởng một mô hình duy nhất để quyết định xem một thứ gì đó là đúng, Mira giới thiệu một hệ thống mà nhiều mô hình AI độc lập đánh giá cùng một tuyên bố. Kết quả cuối cùng đến từ sự đồng thuận hơn là quyền hạn.
Sự chuyển mình đó cảm thấy giống như cách mà các hệ thống phân tán cải thiện lòng tin trong tài chính và cơ sở hạ tầng dữ liệu. Nó giống như một nhóm người xác minh thông tin cùng nhau.
Phân Tách Thông Tin Thành Các Mảnh
Một khái niệm khác khiến tôi chú ý là cách mà hệ thống biến đổi nội dung trước khi việc xác minh diễn ra.
* Thay vì yêu cầu các mô hình đánh giá một bài viết hoặc đoạn văn toàn bộ, mạng lưới phân tách thông tin thành những tuyên bố nhỏ rõ ràng.
* Mỗi tuyên bố trở thành một câu hỏi mà các mô hình xác minh có thể đánh giá độc lập.
Điều này giải quyết một vấn đề kỹ thuật. Các mô hình khác nhau diễn giải văn bản một cách khác nhau. Bằng cách chuyển đổi nội dung thành các tuyên bố, mạng lưới đảm bảo rằng mỗi người xác minh đang phân tích cùng một tuyên bố chính xác.
Đối với tôi, thiết kế này cho thấy rằng độ tin cậy trong AI không chỉ là về các mô hình tốt hơn; nó cũng liên quan đến việc định hình vấn đề tốt hơn.
Các Khuyến Khích Khuyến Khích Hành Vi
Điều cũng làm cho hệ thống này thú vị là lớp kinh tế đứng sau nó. Các nút xác minh các tuyên bố phải đặt cọc giá trị trước khi tham gia. Nếu câu trả lời của họ liên tục lệch khỏi sự đồng thuận hoặc cho thấy dấu hiệu thao túng, họ có nguy cơ mất cọc của mình. Điều này tạo ra một động lực cho các nhà điều hành thực hiện xác minh thực sự thay vì đoán mò.
Các hệ thống Proof-of-Work truyền thống thưởng cho nỗ lực, ngay cả khi nỗ lực đó không có ý nghĩa thực tiễn. Ngược lại, mạng lưới này yêu cầu tính toán: suy luận AI được sử dụng để xác thực thông tin.
Vai Trò Của Sự Đa Dạng Mô Hình
Một điều khác mà tôi đánh giá cao là sự nhấn mạnh vào sự đa dạng. Các mô hình AI khác nhau được đào tạo trên các tập dữ liệu, kiến trúc và chiến lược tối ưu hóa khác nhau. Những sự khác biệt này có thể giới thiệu thiên lệch một cách riêng lẻ. Khi kết hợp lại, chúng cũng có thể cân bằng lẫn nhau.
Một mạng lưới phi tập trung tự nhiên cho phép sự đa dạng này xuất hiện. Các nhà điều hành độc lập vận hành các mô hình xác minh, điều này giảm thiểu rủi ro của việc một quan điểm duy nhất chiếm ưu thế trong quy trình xác minh.
Một Bước Tiến Toward AI Tự Động Đáng Tin Cậy
Điều làm tôi phấn khích nhất về cách tiếp cận này là ý nghĩa lâu dài của nó. Ngày nay, các hệ thống AI vẫn cần sự giám sát của con người vì đầu ra của chúng không phải lúc nào cũng đáng tin cậy. Nếu một lớp xác minh mạnh mẽ trở thành một phần của cơ sở hạ tầng AI, động lực đó có thể thay đổi.
Con người liên tục kiểm tra đầu ra của AI, các máy móc có thể xác minh lẫn nhau thông qua sự đồng thuận phi tập trung.
Suy Nghĩ Cuối Cùng Của Tôi
Sau khi đi qua những ý tưởng này, điều tôi rút ra lớn nhất rất đơn giản: tương lai của AI có thể phụ thuộc nhiều vào các mạng lưới xác minh cũng như vào các mô hình tốt hơn. Thế hệ đã khiến AI mạnh mẽ. Xác minh có thể là thứ làm cho AI đáng tin cậy.
Nếu tầm nhìn đó thành công, cuối cùng chúng ta có thể thấy các hệ thống AI không chỉ sản xuất thông tin nhanh chóng mà còn cung cấp chứng minh mật mã rằng thông tin đã được xác minh. Trong một thế giới ngày càng bị thúc đẩy bởi kiến thức do máy móc tạo ra, loại cơ sở hạ tầng tin cậy đó có thể trở nên vô cùng có giá trị.
#Mira @Mira - Trust Layer of AI $MIRA
