我們朝向有益的AGI之旅是一個引人入勝的主題,而執行長Dr. @bengoertzel最近分享了他對於我們目前在這個過程中所處位置的見解。為了明確,有益的AGI指的是能夠在多種主題上進行富有想像力的推理、學習和思考,並且在某種程度上等同於或超越人類思維的人工智能系統。關鍵在於,這包括掌握在其原始訓練數據中未被良好表達的領域和任務的能力。
在他的評估中,他指出觀察者經常對人工通用智能的三個基本組成部分存在誤解。
首先,目前朝向AGI的標準預設軌跡並不是唯一的選擇,甚至可能不是一條現實的道路。他提到,雖然大型語言模型(LLMs)提供了一個有用的元素,但它們無法作為中央認知思維迴路或主要記憶結構。
其次,建立去中心化的AI是一個高度可行的概念。這種實用性遠不止於單純的物理基礎設施,還包括對技術的實際指導和控制。
第三,建造者與系統之間存在著深刻的聯繫。負責創造AGI的特定意識程度將直接影響AGI本身所擁有的後續意識水平。
在他的評估中,他指出觀察者經常對人工通用智能的三個基本組成部分存在誤解。
首先,目前朝向AGI的標準預設軌跡並不是唯一的選擇,甚至可能不是一條現實的道路。他提到,雖然大型語言模型(LLMs)提供了一個有用的元素,但它們無法作為中央認知思維迴路或主要記憶結構。
其次,建立去中心化的AI是一個高度可行的概念。這種實用性遠不止於單純的物理基礎設施,還包括對技術的實際指導和控制。
第三,建造者與系統之間存在著深刻的聯繫。負責創造AGI的特定意識程度將直接影響AGI本身所擁有的後續意識水平。