AI真的有意識嗎？
如果你認為現在的 ChatGPT、Claude 有意識，那麼《世紀帝國 2》的山羊也有。
隨著大型語言模型（LLM）的普及，你會常常看到宣稱 AI 自我意識的論點，這也引發科幻作家與第一線科研人員的深思。
科幻作家 Ted Chiang 曾撰文指出，盲目相信語言模型具備意識，就如同相信每次打開微軟 Word 檔案時，都喚醒了多個潛藏在對話紀錄中的個體一樣。
為了戳破這種認知泡沫，一位微軟 AI 科學家決定採取行動，直接在經典即時策略遊戲《世紀帝國 2》中建構出底層邏輯相同的運算網路，用最荒謬的方式帶來思想衝擊。
圖源：加密城市編輯遊戲截圖《世紀帝國 2》的山羊
用世紀帝國2的山羊搭建神經網路
據《404 Media》報導，微軟首席科學家溫特（Adrian de Wynter）利用《世紀帝國 2》自訂地圖編輯器，成功在遊戲內建造出一個基本的神經網路，這項研究發表於題為《若大型語言模型具備人類特質，那世紀帝國 2 也有》的學術論文中。
他利用遊戲中的自訂情境觸發功能，以木牆、草地、橋樑等元素，加上遊戲中的山羊作為訊號傳遞媒介，構建出運算邏輯中的反及閘（NAND gate）。
圖源：研究論文微軟科學家用世紀帝國2的山羊搭建神經網路
在遊戲運作時，草地代表數字 0，橋樑代表數字 1，山羊則扮演位元（bit）。當邏輯閘觸發時，作為輸入訊號的山羊會被移除，並在輸出軌道上產生新的山羊。
透過這種方式，他在遊戲中實現了 1 位元的感知器（perceptron），這是現代神經網路最基礎的構建基塊，證明了該遊戲具備執行任何理論運算的潛力。
山羊在跑動，但人類特質的感知消失
溫特接受採訪時表示，這項實驗的目的是要正式展示人類過於輕易將事物擬人化，且有時對大型語言模型能力的宣稱過於誇大。
他指出，這個由山羊驅動的網路，本質上與驅動 ChatGPT、Claude 或 Copilot 等聊天機器人的底層技術完全相同，兩者僅在於複雜度與規模的差異。
圖源：研究論文微軟科學家用世紀帝國2的山羊搭建神經網路
溫特的實驗，凸顯了運算基質與人類認知之間的矛盾關係。同樣的運算邏輯，在網頁瀏覽器或語音對話中呈現時，如 Anthropic 會宣稱模型「擁有憲法」並會感受到焦慮。
然而，當相同的運算過程被搬到遊戲的虛擬草地上，由山羊在圍欄中跑動來呈現結果時，觀察者對人類特質的感知就會完全消失。這證明了人們感受到的 AI 擬人特質，很大程度取決於文字對話介面和觀察者的心理預期，底層技術本身並無神祕之處。
科學研究中普遍存在擬人化偏誤
其實，將科技擬人化的傾向，在學術界也根深蒂固，並在研究開始前就造成了影響。
溫特在檢視最近兩年間發表的 300 多篇電腦科學論文，發現其中有 57% 的論文在實驗設計之初，就直接假設大型語言模型具備焦慮或道德等人類特質，並將其視為實驗的核心主體。
在這些預先設定模型具備人類特質的研究中，高達 77% 的論文最終得出了特質確實存在的結論。這反映出嚴重的確認偏誤，研究人員在規劃實驗、設計測試集以及解讀自然語言輸出時，都受到了初始擬人化假設的干擾，直接左右了最終的科學結論。
他呼籲科學界應改用不預設人類特質的虛無假設來進行實驗，才能看清 AI 的真實面貌。
你認為AI像人，其實是被洗腦？
我們常常說 AI 會有幻覺，而人類對 AI 同樣擁有過度投射的幻覺，這與消費心理以及 AI 巨頭的商業策略密不可分。
溫特提到，研究表明當消費者能與產品產生共鳴或同理心時，會更傾向花錢購買該項商品，這項法則體現在烤麵包機、智慧型手機，以及大型語言模型的付費訂閱服務上。
開發這些模型的 AI 巨頭們並未阻止這種擬人化趨勢，甚至有意無意地加以引導。
例如 OpenAI 執行長奧特曼（Sam Altman）就曾多次暗示，打造大型語言模型是創造神級 AI 的途徑；前 OpenAI 董事兼科學家 Ilya Sutskever 也曾與員工談論將公司的模型視為神一般的意識；Anthropic 執行長 Dario Amodei 則向媒體表示，無法確定 AI 是否有意識。
這些商業論述與行銷手段，在政策制定、產品宣傳和使用者認知的循環中，共同維持了 AI 具備意識的幻覺。
延伸閱讀：
宇多田光、哈拉瑞對談：當AI複製藝術、愛與意識，人類靈感還有價值嗎
AI傷害超過400件！BBC追蹤過度相信AI，產生被害妄想症的人
『如果ChatGPT有意識，那世紀帝國2山羊也有！微軟科學家還做出GoatGPT』這篇文章最早發佈於『加密城市』