#opg $OPG @OpenGradient 人們總是談論AI隱私,彷彿模型是用戶最應該擔心的事情。
我認爲這種假設掩蓋了一個更大的問題。
因爲模型並不是隱私故事開始的地方。
當一個提示到達模型時,很多事情已經發生了。
請求已經移動。
網絡已經看到了什麼。
系統已經處理了某些東西。
一條軌跡已經開始形成。
這就是爲什麼我總是回到同一個想法:
提示並不是唯一在AI系統中移動的東西。
身份也在移動。
這纔是事情變得有趣的地方。
大多數平臺專注於保護信息在進入系統後的安全。
公平。
信息應該得到保護。
但保護和分離並不是一回事。
一個系統可以保護一個連接。
一個系統也可以問這個連接是否需要攜帶這麼多身份。
這些目標截然不同。
隨着AI成爲日常工作流程的一部分,這種區分顯得越來越重要。
因爲隱私風險很少會一下子出現。
它們通過附加而增長。
一個問題附加到一個賬戶。
該賬戶附加到一個歷史。
歷史附加到行爲。
行爲附加到一個檔案。
最終,提示只是更大圖景中的一小部分。
這就是爲什麼身份分離在@OpenGradient 中對我來說尤爲突出。
目標不僅僅是確保請求的安全。
目標是在推斷開始之前減少不必要的附加。
說實話,這可能是更具挑戰性的事情。
保護信息很重要。
減少追隨這些信息的身份數量可能更爲重要。
因爲用戶希望他們的問題可以傳播。
他們不想讓他們整個數字影子隨之而來。
@OpenGradient #OPG $AGT
$MAGMA
我認爲這種假設掩蓋了一個更大的問題。
因爲模型並不是隱私故事開始的地方。
當一個提示到達模型時,很多事情已經發生了。
請求已經移動。
網絡已經看到了什麼。
系統已經處理了某些東西。
一條軌跡已經開始形成。
這就是爲什麼我總是回到同一個想法:
提示並不是唯一在AI系統中移動的東西。
身份也在移動。
這纔是事情變得有趣的地方。
大多數平臺專注於保護信息在進入系統後的安全。
公平。
信息應該得到保護。
但保護和分離並不是一回事。
一個系統可以保護一個連接。
一個系統也可以問這個連接是否需要攜帶這麼多身份。
這些目標截然不同。
隨着AI成爲日常工作流程的一部分,這種區分顯得越來越重要。
因爲隱私風險很少會一下子出現。
它們通過附加而增長。
一個問題附加到一個賬戶。
該賬戶附加到一個歷史。
歷史附加到行爲。
行爲附加到一個檔案。
最終,提示只是更大圖景中的一小部分。
這就是爲什麼身份分離在@OpenGradient 中對我來說尤爲突出。
目標不僅僅是確保請求的安全。
目標是在推斷開始之前減少不必要的附加。
說實話,這可能是更具挑戰性的事情。
保護信息很重要。
減少追隨這些信息的身份數量可能更爲重要。
因爲用戶希望他們的問題可以傳播。
他們不想讓他們整個數字影子隨之而來。
@OpenGradient #OPG $AGT
$MAGMA
$Magma
33%
$Agt
67%
$Opg
0%
6 票 • 投票已結束