在未經驗證的 opAI 開始讓人感覺愈來愈像 HTTPS 之前的網站。

沒有壞掉。沒有不能用。只是缺少了某些人終究不再接受的東西。

我最近在翻閱 OpenGradient 時，有一個數字一直把我的注意力拉回來：單一月份內處理了 156,461 次私有推論（private inferences）。數量本身並不是重點。更關鍵的是接踵而來的問題。

其中有多少輸出能讓某人獨立地加以驗證？

我一直在想，我們目前和多數 AI 系統互動的方式其實是這樣的：我們得到一個答案，可能還有一個信心分數，若運氣好，甚至會有來源。然後我們再決定要不要信任它。這種信任很大一部分仍然來自名聲，而不是證據。

這種狀態感覺只是暫時的。

當我使用越來越多能在推論過程中暴露證據的系統後，舊模型開始讓我覺得更陌生。並不是因為每個結果突然都變得完美；有些回應仍然只是普通水準。有些可能也確實是錯的。

差別在於可見性。

幾年前，一個網站在未使用 HTTPS 的情況下要求個人資訊，還覺得很正常。後來它就變成了警訊。瀏覽器訓練了大家去注意——沒有驗證。

我懷疑 AI 也會走類似的路。

不是今年。也許不是明年。

但到 2030 年，想要得到一個重要的、由 AI 生成的結果，卻完全沒有辦法驗證它從哪裡來、它如何被產生、以及它是否被更改，可能會顯得有點過時。

我仍不確定的是：是使用者會先要求這種轉變，還是基礎設施會先到位，等到人們開始提出要求之後才真正發生。

@OpenGradient $OPG #OPG

到 2030 年，評估一則 AI 回應時，最重要的會是什麼？