我以前以為最乾淨的 AI 產品流程只是一次呼叫。
然後我想像一個開發者在貸款應用程式中添加了一個 SolidML 呼叫。
這個功能請求模型結果，結果回來後，池子調整借款者的風險評分，交易繼續進行。從外部看起來很正常。幾乎太正常了。
那部分就是陷阱。
一次簡單的呼叫可以隱藏很多。
模型仍然需要在某處運行。推斷仍然必須與正確的執行匹配。證明仍然必須顯示池子並不是隨便使用了一個隨機的黑箱答案，並把它當作鏈上邏輯。
我把這看作是函數呼叫海市蜃樓。
用戶看不到模型路徑。他們只看到應用程式因為答案被接受而改變了頭寸的條件。一個借款限額收緊，應用程式表現得像是結果已經值得信任。
但壓力落在了建造者身上。
一旦那個模型結果成為產品邏輯的一部分，就不能像正常的 API 回應那樣對待。交易在當下看起來很乾淨，但建造者卻留下了沒人看到的部分。
他們必須開啟運行。
到底運行了什麼？
他們能否在應用程式已經根據結果行動後證明路徑？
這就是 OpenGradient 讓我無法忽視的部分。不是應用程式中 AI 的光鮮想法，而是呼叫模型和證明發生了什麼之間的醜陋差距。
呼叫 AI 在應用程式中變得越來越容易，當沒有人能證明這個呼叫實際上做了什麼時，這變得越來越危險。
#OPG $OPG @OpenGradient $RESOLV $TNSR