#STBinancePreTGE Tóm tắt. Trong khi AI xuất sắc trong việc tạo ra các kết quả hợp lý, nó thường xuyên sản xuất
thông tin không chính xác do bản chất xác suất của các công nghệ dựa trên mạng nơ-ron như
mô hình ngôn ngữ lớn và mô hình khuếch tán. Bài báo này giới thiệu
một mạng lưới xác minh các đầu ra do AI tạo ra thông qua sự đồng thuận phi tập trung. Mạng lưới này chuyển đổi các đầu ra của AI thành các tuyên bố có thể xác minh độc lập, cho phép
những mô hình AI khác nhau cùng xác định tính hợp lệ của từng tuyên bố. Các nhà điều hành nút
thực hiện các xác minh dựa trên suy luận này được khuyến khích về mặt kinh tế thông qua một cơ chế Proof-of-Work/Proof-of-Stake lai để thực hiện việc
xác minh trung thực. Ngoài việc xác minh, tầm nhìn của chúng tôi mở rộng đến một mô hình cơ sở tổng hợp
đem lại đầu ra không có lỗi. Cơ sở hạ tầng này đại diện cho một bước quan trọng
toward enabling AI systems to operate without human oversight—a necessary
condition for AI to achieve its transformative potential across society.
1. Giới thiệu
Trí tuệ nhân tạo đang sẵn sàng trở thành một lực lượng chuyển đổi tương đương với máy in, động cơ hơi nước,
điện, và internet—các công nghệ đã làm thay đổi nền văn minh nhân loại một cách cơ bản. Tuy nhiên, AI ngày nay phải đối mặt với
những thách thức cơ bản ngăn cản nó đạt được tiềm năng cách mạng này. Trong khi AI xuất sắc trong việc tạo ra
các đầu ra sáng tạo và hợp lý, nó gặp khó khăn trong việc cung cấp các đầu ra không có lỗi một cách đáng tin cậy. Những hạn chế này hạn chế AI
chủ yếu cho các nhiệm vụ có giám sát của con người hoặc các ứng dụng ít hậu quả hơn như chatbot, còn xa so với tiềm năng của AI
để xử lý các nhiệm vụ có mức độ rủi ro cao một cách tự động và trong thời gian thực.
Rào cản chính là độ tin cậy của AI. Các hệ thống AI gặp hai loại lỗi chính: ảo tưởng và thiên lệch, mà
cùng nhau xác định tỷ lệ lỗi tổng thể của một mô hình. Tỷ lệ lỗi hiện tại vẫn quá cao để hoạt động tự động trong
các tình huống có hậu quả, tạo ra một khoảng cách cơ bản giữa khả năng lý thuyết của AI và các ứng dụng thực tiễn.
#Mira
#MiraMurati