有一件事讓我對 OpenGradient 印象特別深刻,而且它並不在於網絡上運行的證明數量或 AI 模型的數量。
真正讓我關注的是:驗證何時會變成開發者理所當然會期待的東西。
大多數基礎設施之所以有價值,並不是因爲人們總在談論它;而是因爲當人們失去它時,會變得不安、難以繼續在沒有它的情況下構建。
或許,這就是可驗證 AI 正在走向的方向。
今天,AI 的輸出往往之所以被信任,是因爲模型很受歡迎,或提供方很有信譽。但當 AI 開始在金融、自治代理、企業自動化以及科研領域做出決策時,僅靠信譽可能就不夠了。人們可能會希望看到證據:某個結果確實按宣稱被生成出來了。
我還關心另一個維度。
研究人員越來越在思考:他們發送的每一條提示,是否會成爲永久記錄的一部分。這會在內容被審查之前很久就改變行爲。在這種意義上,隱私不只是爲了隱藏信息——更是爲了在不製造可檢索歷史的前提下,保留探索棘手問題的自由。$VELVET
如果可驗證計算與私密執行能夠同步成熟,AI 基礎設施就可能從“僅僅生成答案”演進爲:同時做到可信,並且允許在不需要授權的情況下被調查與驗證。$BAS
我真正盯着看的指標並不是證明的數量。
而是開發者、研究人員和企業開始追問的那一天:#OPG $OPG @OpenGradient
“我們真的承擔得起在無法驗證的情況下部署 AI 嗎?”
真正讓我關注的是:驗證何時會變成開發者理所當然會期待的東西。
大多數基礎設施之所以有價值,並不是因爲人們總在談論它;而是因爲當人們失去它時,會變得不安、難以繼續在沒有它的情況下構建。
或許,這就是可驗證 AI 正在走向的方向。
今天,AI 的輸出往往之所以被信任,是因爲模型很受歡迎,或提供方很有信譽。但當 AI 開始在金融、自治代理、企業自動化以及科研領域做出決策時,僅靠信譽可能就不夠了。人們可能會希望看到證據:某個結果確實按宣稱被生成出來了。
我還關心另一個維度。
研究人員越來越在思考:他們發送的每一條提示,是否會成爲永久記錄的一部分。這會在內容被審查之前很久就改變行爲。在這種意義上,隱私不只是爲了隱藏信息——更是爲了在不製造可檢索歷史的前提下,保留探索棘手問題的自由。$VELVET
如果可驗證計算與私密執行能夠同步成熟,AI 基礎設施就可能從“僅僅生成答案”演進爲:同時做到可信,並且允許在不需要授權的情況下被調查與驗證。$BAS
我真正盯着看的指標並不是證明的數量。
而是開發者、研究人員和企業開始追問的那一天:#OPG $OPG @OpenGradient
“我們真的承擔得起在無法驗證的情況下部署 AI 嗎?”
