我以前以爲,推理纔是 AI 最昂貴的部分。
現在我覺得,不確定性纔是。
模型可以在幾秒鐘內生成答案。
但如果我接下來花十分鐘去核查它從哪裏來、是哪一個版本生成的、我是否能夠復現、以及我是否應該信任它……
那麼真正的成本就不在算力。
而在不確定性。
這改變了我看待 OpenGradient 的方式。
也許 AI 基礎設施不應該只用推理速度來衡量。
也許還應該用不確定性降低的程度來衡量。
每一個證明、每一條執行記錄、每一個可復現的結果,都在讓系統的疑慮減少一點。
隨着時間推移,這也許會比讓模型快一點更有價值。
我不認爲未來的 AI 經濟會獎勵“誰算得最便宜”。
我認爲它會獎勵“每一次計算之後,留下的最少不確定性”的人。
也許我想太多了……
但不確定性感覺就像 AI 的隱藏交易手續費。
#OPG @OpenGradient $OPG