Một suy nghĩ quay trở lại nhiều lần khi nghiên cứu $OPG là AI có thể xác minh có thể quan trọng nhất trong những khoảnh khắc mà không có gì sai xảy ra.
Hầu hết các cuộc thảo luận tập trung vào việc bắt lỗi xấu. Chứng minh một mô hình không nói dối. Chứng minh một đầu ra không bị can thiệp. Chứng minh suy luận chạy trên phần cứng đúng.
Nhưng trường hợp sử dụng yên tĩnh hơn là bằng chứng rằng mọi thứ hoạt động đúng khi không có ai quan sát.
Hãy nghĩ về AI y tế gợi ý liều lượng. Hoặc một mô hình DeFi điều chỉnh tỷ lệ tài sản thế chấp vào lúc 3 giờ sáng. Đầu ra trông bình thường. Không có gì kích hoạt cảnh báo. Nhưng sáu tháng sau, ai đó cần biết liệu mô hình đúng đã chạy với đầu vào đúng.
Đó là nơi @OpenGradient cảm thấy còn sớm cho một cái gì đó mà thị trường chưa đặt tên.
Không phải phát hiện lỗi. Bằng chứng về sự vắng mặt của lỗi.
Suy luận có thể xác minh như một lớp kiểm toán cho những khoảnh khắc chưa bao giờ trở thành sự cố.
Thị trường định giá bảo mật. Tôi không chắc nó hoàn toàn định giá giá trị của việc có thể chứng minh không có gì sai.
#OpenGradient $OPG @OpenGradient
$BICO
Hầu hết các cuộc thảo luận tập trung vào việc bắt lỗi xấu. Chứng minh một mô hình không nói dối. Chứng minh một đầu ra không bị can thiệp. Chứng minh suy luận chạy trên phần cứng đúng.
Nhưng trường hợp sử dụng yên tĩnh hơn là bằng chứng rằng mọi thứ hoạt động đúng khi không có ai quan sát.
Hãy nghĩ về AI y tế gợi ý liều lượng. Hoặc một mô hình DeFi điều chỉnh tỷ lệ tài sản thế chấp vào lúc 3 giờ sáng. Đầu ra trông bình thường. Không có gì kích hoạt cảnh báo. Nhưng sáu tháng sau, ai đó cần biết liệu mô hình đúng đã chạy với đầu vào đúng.
Đó là nơi @OpenGradient cảm thấy còn sớm cho một cái gì đó mà thị trường chưa đặt tên.
Không phải phát hiện lỗi. Bằng chứng về sự vắng mặt của lỗi.
Suy luận có thể xác minh như một lớp kiểm toán cho những khoảnh khắc chưa bao giờ trở thành sự cố.
Thị trường định giá bảo mật. Tôi không chắc nó hoàn toàn định giá giá trị của việc có thể chứng minh không có gì sai.
#OpenGradient $OPG @OpenGradient
$BICO