我發現自己越來越不在意一個智能體有多聰明,而更在意它所看到的內容。

一開始這聽起來是反過來的。
大部分對話仍然是從模型開始:哪個推理得更好。哪個得分更高。哪個感覺更有能力。
但智能體並不是在真空中推理的。它們會繼承在它們開始處理之前就已經存在的某種世界版本。

這正是我反覆回到的那一點。
一個模型可以想得很清楚,但如果它底層的數據已經過時、不完整,或被悄悄扭曲了,它仍然可能做出錯誤的判斷。在這種情況下,更好的推理可能救不了你。它可能只是讓錯誤的結論聽起來更有說服力。

這也是爲什麼 OpenGradient 的數據節點讓我停下來思考。

並不是因爲我把它們視爲全部答案,而是因爲它們指向一個通常會被推到背景裏的問題。

我們花了很多時間追問:模型是否表現正確。

也許我們應該同樣多花時間去問:它一開始到底是在看正確的世界。

我不確定真正的瓶頸最終會落在哪裏。
但現在我不那麼確信“智能”纔是稀缺的東西。

也許智能體不只是需要更好的“大腦”。

也許它們需要更清潔的“眼睛”。

@OpenGradient #OPG #opg $OPG