OpenGradient中的隱藏混亂,並不是通過展示一切來證明一個AI的運行。
它只證明了足夠的信息,同時將私密部分保持封閉。
這是我會慢下來仔細查看的屏幕。在OpenGradient中,完整節點不需要重新運行模型。它們只需驗證證明。它們也不需要提示、響應或模型權重來確認證明是有效的。
所以,醜陋的構建者問題在驗證工作之後開始。
用戶仍然需要一個他們能讀懂的收據。
我希望它感覺這麼簡單:
工作狀態:完成
證明類型:有效的證明
驗證結果:通過
私密輸入:隱藏
僅僅一個綠色勾選太薄弱了。它可以說“已驗證”,但幾乎沒有告訴用戶關於檢查內容的任何信息。但一個詳細的收據可能會成爲泄露,因爲它開始將私密請求拉回審計軌跡。
這就是陷阱。
收據必須在不暴露最初使運行私密的內容的情況下證明運行。它應該讓用戶問,“這個AI結果是否經過驗證?”而不把提示、答案或模型內部交給審計員。
對我來說,這就是OpenGradient變得有趣的地方。證明可以公開到足夠可信的程度,而推理則保持私密到足以重要。
壓力不僅僅是私密的AI計算。壓力在於讓私密結果可審計,而不將審計變成泄露。 #OPG $OPG @OpenGradient