Nhiều người nghĩ rằng vấn đề lớn nhất của AI là độ chính xác.
Tôi bắt đầu nghĩ rằng đó là vấn đề xác định nguồn gốc.
Khi một AI đưa ra câu trả lời, bạn thực sự đang tin tưởng vào điều gì?
Mô hình? Dữ liệu? Hạ tầng? Công ty vận hành nó?
Khi AI trở thành một phần của tài chính, chăm sóc sức khỏe, nghiên cứu, giáo dục và quyết định cá nhân, câu hỏi này trở nên ngày càng quan trọng.
Đó là một trong những lý do tôi đã chú ý đến
$OPG Ngành công nghiệp AI đang ám ảnh với việc xây dựng các mô hình lớn hơn, nhưng trí thông minh đơn thuần không giải quyết được vấn đề lòng tin.
Hãy tưởng tượng việc yêu cầu một AI phân tích một hợp đồng thông minh, xem xét dữ liệu y tế, hoặc xác định các mẫu trong nhiều năm thông tin cá nhân.
Câu trả lời có thể rất xuất sắc.
Nhưng làm thế nào bạn xác minh:
✓ Mô hình nào đã tạo ra nó? ✓ Liệu đầu ra có bị chỉnh sửa không? ✓ Liệu phép toán đã xảy ra như đã tuyên bố không? ✓ Liệu bối cảnh được sử dụng có xác thực không?
Đây là nơi mà tầm nhìn của OpenGradient cảm thấy khác biệt.
Dự án không chỉ tập trung vào đầu ra của AI.
Nó tập trung vào việc làm cho trí thông minh có thể kiểm toán.
Điều đặc biệt thú vị là cách mà điều này kết nối nhiều xu hướng thường được thảo luận riêng biệt:
• Suy diễn có thể xác minh • Bộ nhớ thuộc về người dùng • Xác định nguồn gốc • Thực thi mô hình phi tập trung • Bối cảnh AI bền vững
Riêng lẻ, những điều này là hữu ích.
Khi kết hợp lại, chúng bắt đầu hình thành một cái gì đó lớn hơn:
Một lớp hạ tầng nơi trí thông minh có thể được kiểm tra thay vì chỉ đơn thuần tin tưởng.
Tôi cứ quay lại với một suy nghĩ đơn giản.
Internet đã cho thế giới quyền truy cập vào thông tin.
AI mang đến cho thế giới quyền truy cập vào trí thông minh.
Thách thức tiếp theo có thể là chứng minh nguồn gốc của trí thông minh đó.
Và nếu AI trở thành hạ tầng quan trọng, việc xác minh có thể cuối cùng trở nên quan trọng như hiệu suất.
Không phải vì mọi người không tin tưởng AI.
Mà vì trí thông minh trở nên có giá trị hơn nhiều khi nó có thể được kiểm toán.
Điều khiến tôi quan tâm nhất về OpenGradient là nó đang tiếp cận vấn đề này từ lớp hạ tầng thay vì lớp ứng dụng.
Điều đó cảm thấy như một cơ hội lớn hơn nhiều so với những gì nhiều người nhận ra ngày hôm nay.
#OPG #OpenGradient #VerifiableAI @OpenGradient