大多數關於人工智能隱私的討論假設有人仍在監視
前幾天我注意到，隱私討論的結論常常是一樣的。
總有人有訪問權限。
可能是一個平臺。
可能是一個管理員。
可能是一個被大家期望信任的公司的政策。
細節可能會變化，但似乎總有一個人在觀察塔上坐着。
這種假設在我思考 @OpenGradient 時不斷迴響。
起初我把它視爲另一個隱私討論。
現在我不確定那是否是有趣的部分。
吸引我注意力的是一個更奇怪的問題。
當運營者自己停止成爲觀察者時會發生什麼？
在大多數數字系統中，運營者最終成爲積累點。數據向內流動。上下文集中。可見性增加。隨着時間的推移，運行系統的組織成爲最瞭解情況的參與者。
OpenGradient 似乎挑戰了這一模式。
運營者看不到提示。
運營者看不到用戶的 IP。
在這裏，我意識到這可能會造成比隱私更奇怪的後果。
現代軟件中有相當一部分是圍繞觀察構建的。
推薦因爲有人觀察行爲而改善。
個人資料變得有價值，因爲有人將行動連接在一起。
優化發生，因爲有人可以看到模式形成。
我開始想，觀察本身是否悄悄地成爲了基礎設施。
不是服務器。
不是模型。
而是觀察的行爲。
如果這是真的，OpenGradient 不僅僅是在限制可見性。它正在移除許多數字系統視爲必不可少的角色。
這讓我面臨一個不知如何回答的問題。
如果運營者無法再積累上下文，誰將負責理解用戶？
還是說我們正在朝着理解和觀察不再是同一回事的系統發展？
@OpenGradient #opg $OPG $SYN $LAB
前幾天我注意到，隱私討論的結論常常是一樣的。
總有人有訪問權限。
可能是一個平臺。
可能是一個管理員。
可能是一個被大家期望信任的公司的政策。
細節可能會變化，但似乎總有一個人在觀察塔上坐着。
這種假設在我思考 @OpenGradient 時不斷迴響。
起初我把它視爲另一個隱私討論。
現在我不確定那是否是有趣的部分。
吸引我注意力的是一個更奇怪的問題。
當運營者自己停止成爲觀察者時會發生什麼？
在大多數數字系統中，運營者最終成爲積累點。數據向內流動。上下文集中。可見性增加。隨着時間的推移，運行系統的組織成爲最瞭解情況的參與者。
OpenGradient 似乎挑戰了這一模式。
運營者看不到提示。
運營者看不到用戶的 IP。
在這裏，我意識到這可能會造成比隱私更奇怪的後果。
現代軟件中有相當一部分是圍繞觀察構建的。
推薦因爲有人觀察行爲而改善。
個人資料變得有價值，因爲有人將行動連接在一起。
優化發生，因爲有人可以看到模式形成。
我開始想，觀察本身是否悄悄地成爲了基礎設施。
不是服務器。
不是模型。
而是觀察的行爲。
如果這是真的，OpenGradient 不僅僅是在限制可見性。它正在移除許多數字系統視爲必不可少的角色。
這讓我面臨一個不知如何回答的問題。
如果運營者無法再積累上下文，誰將負責理解用戶？
還是說我們正在朝着理解和觀察不再是同一回事的系統發展？
@OpenGradient #opg $OPG $SYN $LAB