我昨天在測試一個AI聊天機器人,它拒絕分析一個簡單的智能合約,因爲這違反了企業安全政策。
我們被灌輸的觀念是,安全的AI需要集中監管。
我們認爲,要與前沿智能互動,必須接受集中科技巨頭強加的嚴格內容政策和人工護欄。
但仔細看看這些護欄實際上執行的內容。
它們不僅僅是在過濾不良行爲者。
它們是在壟斷數字真相。
通過將每個查詢路由到一個專有的黑箱模型,像OpenAI和谷歌這樣的企業實體充當了能生成什麼和不能生成什麼的最終裁決者。
我們經常誤解集中AI的真正威脅。
威脅不是模型會失控。
威脅在於模型對一個集中壟斷完全服從。
這種意識形態的陷阱就是爲什麼OpenGradient Chat引起了我的注意。
當用戶訪問該應用程序時,他們並不被迫進入一個被審查的企業生態系統。該平臺積極地將提示路由到像Hermes 4 405B這樣的無審查、開放源代碼模型。
但結構性差異在於這種自由是如何得到保證的。
算法處理過程完全在一個遠程認證、TEE隔離的硬件區塊中進行。
內存是通過加密密封的,保證連物理節點運營商都無法讀取、記錄或收集你的查詢用於未來的訓練。
你並不是在用一個流暢的用戶界面來交換你的認知自由。
你是在利用無權限的Web3基礎設施的力量,同時保持絕對的數據主權。
OpenGradient有效地將人工智能從企業審查中解耦。
大多數系統迫使你在有能力的智能和無審查的自由之間做出選擇。
你實際上是在提示一個AI,還是隻是問一個企業是否可以思考?
@OpenGradient #OPG $OPG
我們被灌輸的觀念是,安全的AI需要集中監管。
我們認爲,要與前沿智能互動,必須接受集中科技巨頭強加的嚴格內容政策和人工護欄。
但仔細看看這些護欄實際上執行的內容。
它們不僅僅是在過濾不良行爲者。
它們是在壟斷數字真相。
通過將每個查詢路由到一個專有的黑箱模型,像OpenAI和谷歌這樣的企業實體充當了能生成什麼和不能生成什麼的最終裁決者。
我們經常誤解集中AI的真正威脅。
威脅不是模型會失控。
威脅在於模型對一個集中壟斷完全服從。
這種意識形態的陷阱就是爲什麼OpenGradient Chat引起了我的注意。
當用戶訪問該應用程序時,他們並不被迫進入一個被審查的企業生態系統。該平臺積極地將提示路由到像Hermes 4 405B這樣的無審查、開放源代碼模型。
但結構性差異在於這種自由是如何得到保證的。
算法處理過程完全在一個遠程認證、TEE隔離的硬件區塊中進行。
內存是通過加密密封的,保證連物理節點運營商都無法讀取、記錄或收集你的查詢用於未來的訓練。
你並不是在用一個流暢的用戶界面來交換你的認知自由。
你是在利用無權限的Web3基礎設施的力量,同時保持絕對的數據主權。
OpenGradient有效地將人工智能從企業審查中解耦。
大多數系統迫使你在有能力的智能和無審查的自由之間做出選擇。
你實際上是在提示一個AI,還是隻是問一個企業是否可以思考?
@OpenGradient #OPG $OPG