今天繼續來研究一下@OpenGradient 。OpenGradient Chat的私密聊天裏放了一個模型,大多數人划過去沒停。Nous Hermes,無審查。我翻了它的實際部署機制,然後琢磨了一會兒。
"無審查"在這個行業被說爛了,大多數時候是換了個prompt、繞開幾個關鍵詞過濾的安慰劑,遇到真正邊界性的問題照樣退縮。但"無審查"這個詞在不同地方意思不同。消費級AI的審查發生在兩層:訓練層——RLHF把某些回答方向強化走了;服務層——API網關接到請求,先過內容過濾再轉給模型。你繞開第一層,還有第二層。你繞開第二層,服務商的日誌還在。
OpenGradient Chat的Private Chat是這樣的:Nous Hermes訓練層沒經過強化偏好修剪,這是第一層;它跑在TEE可信執行環境裏,服務層內容不經過任何能記錄明文的中間節點,這是第二層。兩層同時去掉。這不是一個人站在你面前說"我不看你說什麼"。是物理上沒有人能站在那裏。
我研究到一半又被我媽打斷思緒,發消息問我今晚喫什麼菜,我說隨便喫點。算了扯回來,大多數AI產品講的"無審查",你說的話依然綁着賬號存在某個數據中心裏。OpenGradient Chat在這裏做的一件事是:把"你的問題去了哪"這條鏈從根上截斷。
如果你持有$OPG 只是盯價格的,這段和你無關。但如果你是OPG的中長線持有者,這裏有一個值得盯的信號:Private Chat這個功能的用戶留存,會比普通聊天功能的留存數據更有說服力——因爲它吸引的是真實有需求的用戶,不是隨手試玩的流量。OpenGradient後續有沒有披露活躍用戶分層數據,這個問題值得跟着問。
"無審查模型 + 硬件級隱私"這個組合,我在其他消費級AI產品裏沒見過。TEE節點網絡冷啓動成本高,先動的有先發優勢——但護城河有多深,我還沒算清楚。這個問題沒有好答案,但很值得大家思考。#opg $OPG
"無審查"在這個行業被說爛了,大多數時候是換了個prompt、繞開幾個關鍵詞過濾的安慰劑,遇到真正邊界性的問題照樣退縮。但"無審查"這個詞在不同地方意思不同。消費級AI的審查發生在兩層:訓練層——RLHF把某些回答方向強化走了;服務層——API網關接到請求,先過內容過濾再轉給模型。你繞開第一層,還有第二層。你繞開第二層,服務商的日誌還在。
OpenGradient Chat的Private Chat是這樣的:Nous Hermes訓練層沒經過強化偏好修剪,這是第一層;它跑在TEE可信執行環境裏,服務層內容不經過任何能記錄明文的中間節點,這是第二層。兩層同時去掉。這不是一個人站在你面前說"我不看你說什麼"。是物理上沒有人能站在那裏。
我研究到一半又被我媽打斷思緒,發消息問我今晚喫什麼菜,我說隨便喫點。算了扯回來,大多數AI產品講的"無審查",你說的話依然綁着賬號存在某個數據中心裏。OpenGradient Chat在這裏做的一件事是:把"你的問題去了哪"這條鏈從根上截斷。
如果你持有$OPG 只是盯價格的,這段和你無關。但如果你是OPG的中長線持有者,這裏有一個值得盯的信號:Private Chat這個功能的用戶留存,會比普通聊天功能的留存數據更有說服力——因爲它吸引的是真實有需求的用戶,不是隨手試玩的流量。OpenGradient後續有沒有披露活躍用戶分層數據,這個問題值得跟着問。
"無審查模型 + 硬件級隱私"這個組合,我在其他消費級AI產品裏沒見過。TEE節點網絡冷啓動成本高,先動的有先發優勢——但護城河有多深,我還沒算清楚。這個問題沒有好答案,但很值得大家思考。#opg $OPG