信任與可驗證性之間的差異

最近的一次對話讓我思考了這個問題。

區塊鏈誕生是爲了減少對信任的需求。而人工智能，相對而言，依然過於依賴信任。

我們接受一些人工智能的做法，而這些在區塊鏈中是絕對無法接受的。想象一下，如果在某個區塊鏈上，有人能修改規則、修改記錄或在不留證據的情況下改變系統的運作，沒人會使用它。

然而，當我們談論人工智能時，仍然依賴於一些難以驗證的系統，搞不清楚哪個模型產生了某個答案，或者在推理過程中究竟發生了什麼。這開始成爲一個問題。

越來越多的組織使用人工智能來支持重要決策：風險評估、行政流程、信息分析，以及許多其他具有實際後果的任務。儘管如此，當前大部分基礎設施依然依賴於對操作員的信任。

在研究@OpenGradient 時，這種差異引起了我的注意。

該項目旨在通過爲開放智能設計的去中心化基礎設施，將可驗證性原則引入人工智能的世界。

推理在TEE（受信執行環境）中執行，這是一種硬件級別的隔離環境，連節點的操作員都無法訪問處理的內容。

此外，每次推理都可以生成在區塊鏈上註冊的加密證明，允許驗證發生了什麼，而不必單靠第三方的說法。

對於更敏感的場景，OpenGradient還引入了ZKML技術，這種技術允許證明某個模型產生了特定結果，而無需透露私人信息。

目標不是要求更多的信任，而是減少對信任的需求。

$OPG 幫助推動這一基礎設施，並協調使可驗證推理成爲可能的網絡。

#opg $OPG @OpenGradient