我一直在想一些乍一看很明顯,但坐下來想久了卻變得奇怪的事情。
大多數關於AI的討論仍然圍繞模型展開。哪個模型更聰明,更快,更便宜,更有能力。這個假設似乎很簡單:更好的智能勝出。但我開始懷疑,這是否真的是持久優勢的來源。
當我看到OpenGradient似乎在構建的東西時,我並沒有立即看到智能的競爭。我看到的是記憶的競爭。
也許這兩者是不同的東西。
一個模型可以被替代。我們已經多次目睹了這種情況。新版本到來,基準發生變化,排名改變。存活時間更長的是上下文。累積的互動記錄、偏好、決策、修正、錯誤。那些慢慢將一個通用系統變成感覺上個人有用的東西。
起初我以爲這只是一個便利功能。但再想想,如果記憶變得可移植、持久,並且與網絡經濟連接,它開始表現得更像基礎設施,而不是存儲。
這就是有趣的地方。
因爲網絡效應傳統上來自於用戶聚集在一個地方。但OpenGradient似乎暗示着一種不同的可能性:如果用戶留下來是因爲離開意味着放棄多年的累積上下文,那會怎麼樣?
不過,我並不完全相信。記憶聽起來很有價值,直到它變得嘈雜。上下文是累積的,但錯誤也是。舊的假設依然存在。壞信息被繼承。記憶層越大,分離有用的歷史和累積的負擔可能就越困難。
敘述說更聰明的AI勝出。越來越多地,我在想,記憶最好的系統最終是否會更重要。
雖然老實說,這兩者可能並不總是一樣的。
#OPG #opg #Opg $OPG @OpenGradient
大多數關於AI的討論仍然圍繞模型展開。哪個模型更聰明,更快,更便宜,更有能力。這個假設似乎很簡單:更好的智能勝出。但我開始懷疑,這是否真的是持久優勢的來源。
當我看到OpenGradient似乎在構建的東西時,我並沒有立即看到智能的競爭。我看到的是記憶的競爭。
也許這兩者是不同的東西。
一個模型可以被替代。我們已經多次目睹了這種情況。新版本到來,基準發生變化,排名改變。存活時間更長的是上下文。累積的互動記錄、偏好、決策、修正、錯誤。那些慢慢將一個通用系統變成感覺上個人有用的東西。
起初我以爲這只是一個便利功能。但再想想,如果記憶變得可移植、持久,並且與網絡經濟連接,它開始表現得更像基礎設施,而不是存儲。
這就是有趣的地方。
因爲網絡效應傳統上來自於用戶聚集在一個地方。但OpenGradient似乎暗示着一種不同的可能性:如果用戶留下來是因爲離開意味着放棄多年的累積上下文,那會怎麼樣?
不過,我並不完全相信。記憶聽起來很有價值,直到它變得嘈雜。上下文是累積的,但錯誤也是。舊的假設依然存在。壞信息被繼承。記憶層越大,分離有用的歷史和累積的負擔可能就越困難。
敘述說更聰明的AI勝出。越來越多地,我在想,記憶最好的系統最終是否會更重要。
雖然老實說,這兩者可能並不總是一樣的。
#OPG #opg #Opg $OPG @OpenGradient