Một điều tôi thấy thú vị về ngành công nghiệp AI ngày nay là phần lớn các cuộc trò chuyện đều xoay quanh khả năng.
Mô hình lớn hơn. Lập luận tốt hơn. Trả lời nhanh hơn.
Giả định dường như là nếu một hệ thống AI tạo ra được các đầu ra hữu ích thì niềm tin sẽ tự nhiên theo sau.
Tôi không chắc như vậy là đủ.
Khi AI ngày càng tham gia sâu hơn vào nghiên cứu, các quyết định tài chính, tác nhân tự chủ và các quy trình quan trọng, một câu hỏi khác bắt đầu trở nên đáng quan tâm:
Làm sao chúng ta biết điều gì thực sự đã xảy ra phía sau câu trả lời?
Nếu hai hệ thống AI tạo ra cùng một đầu ra, thì sự khác biệt có thể không còn chỉ nằm ở trí tuệ nữa. Có thể đó là tính minh bạch.
Đó là một trong những lý do @OpenGradient đã thu hút sự chú ý của tôi.
Điều tôi thấy thú vị là dự án dường như tập trung vào một lớp mà hầu như các cuộc thảo luận về AI ít khi nhắc tới: suy luận có thể kiểm chứng.
Thay vì yêu cầu người dùng tin mù quáng vào đầu ra của AI, ý tưởng là làm cho kết quả đi kèm với các bằng chứng và xác nhận có thể được kiểm tra độc lập.
Điều làm cho chuyện này thậm chí còn thú vị hơn là việc xác minh không chỉ là một thách thức kỹ thuật. Nó có thể trở thành một vấn đề kinh tế.
Vốn, các tổ chức và các ứng dụng quy mô lớn thường có xu hướng chuyển sang các hệ thống dễ kiểm toán và xác thực hơn. Nếu AI trở thành một phần của các quy trình ra quyết định quan trọng, thì bằng chứng có thể cuối cùng sẽ quan trọng không kém gì hiệu năng.
Có lẽ chúng ta vẫn còn sớm, nhưng tôi nghĩ cuộc đua AI trong tương lai có thể bao gồm hai cuộc thi tách biệt:
Ai có thể tạo ra những câu trả lời tốt nhất?
Và ai có thể chứng minh rằng các câu trả lời đó đã được tạo ra đúng như đã công bố?
Đó là một cuộc trò chuyện đáng để chú ý.
@OpenGradient #OPG $OPG
Mô hình lớn hơn. Lập luận tốt hơn. Trả lời nhanh hơn.
Giả định dường như là nếu một hệ thống AI tạo ra được các đầu ra hữu ích thì niềm tin sẽ tự nhiên theo sau.
Tôi không chắc như vậy là đủ.
Khi AI ngày càng tham gia sâu hơn vào nghiên cứu, các quyết định tài chính, tác nhân tự chủ và các quy trình quan trọng, một câu hỏi khác bắt đầu trở nên đáng quan tâm:
Làm sao chúng ta biết điều gì thực sự đã xảy ra phía sau câu trả lời?
Nếu hai hệ thống AI tạo ra cùng một đầu ra, thì sự khác biệt có thể không còn chỉ nằm ở trí tuệ nữa. Có thể đó là tính minh bạch.
Đó là một trong những lý do @OpenGradient đã thu hút sự chú ý của tôi.
Điều tôi thấy thú vị là dự án dường như tập trung vào một lớp mà hầu như các cuộc thảo luận về AI ít khi nhắc tới: suy luận có thể kiểm chứng.
Thay vì yêu cầu người dùng tin mù quáng vào đầu ra của AI, ý tưởng là làm cho kết quả đi kèm với các bằng chứng và xác nhận có thể được kiểm tra độc lập.
Điều làm cho chuyện này thậm chí còn thú vị hơn là việc xác minh không chỉ là một thách thức kỹ thuật. Nó có thể trở thành một vấn đề kinh tế.
Vốn, các tổ chức và các ứng dụng quy mô lớn thường có xu hướng chuyển sang các hệ thống dễ kiểm toán và xác thực hơn. Nếu AI trở thành một phần của các quy trình ra quyết định quan trọng, thì bằng chứng có thể cuối cùng sẽ quan trọng không kém gì hiệu năng.
Có lẽ chúng ta vẫn còn sớm, nhưng tôi nghĩ cuộc đua AI trong tương lai có thể bao gồm hai cuộc thi tách biệt:
Ai có thể tạo ra những câu trả lời tốt nhất?
Và ai có thể chứng minh rằng các câu trả lời đó đã được tạo ra đúng như đã công bố?
Đó là một cuộc trò chuyện đáng để chú ý.
@OpenGradient #OPG $OPG