我曾經以爲,最安全的自動化來自編寫更嚴格的規則。
現在我不那麼確定了。
閱讀牛頓的架構讓我看待策略系統的方式發生了改變。規則本身可以完全保持不變,而結果卻會因爲有人調整了少量配置值而發生變化。提高支出上限。收緊暴露額度上限。擴展允許列表。相同的策略,不同的現實。
這讓我意識到一件事。
我們花了大量時間審計代碼,卻花得遠少的時間去追問:是誰在控制這些設置,從而塑造代碼的行爲。
有趣之處並不在於牛頓把可複用的策略邏輯與配置分離開來,而在於這種分離讓治理變得可見。每一次配置更新都會產生一個新的策略身份,而不是在不聲不響中悄悄改變底層行爲。這比許多系統所展示的邊界要更強。
但僅有透明度並不是終點。
如果用戶不理解兩個配置之間究竟發生了什麼變化,他們是在評估同一項策略,還是隻是信任一套新的假設——把它們包裝在一個熟悉的名字裏?
我研究AI驅動的自動化越多,就越不認爲信任只來自不可變的代碼。
信任來自於讓每一個重要決策都變得可觀察、可審查、並承擔責任——不僅是規則本身,還有其背後的那些參數。
這就是我最會盯着的那一層。
@NewtonProtocol #Newt $NEWT $SYN $H
現在我不那麼確定了。
閱讀牛頓的架構讓我看待策略系統的方式發生了改變。規則本身可以完全保持不變,而結果卻會因爲有人調整了少量配置值而發生變化。提高支出上限。收緊暴露額度上限。擴展允許列表。相同的策略,不同的現實。
這讓我意識到一件事。
我們花了大量時間審計代碼,卻花得遠少的時間去追問:是誰在控制這些設置,從而塑造代碼的行爲。
有趣之處並不在於牛頓把可複用的策略邏輯與配置分離開來,而在於這種分離讓治理變得可見。每一次配置更新都會產生一個新的策略身份,而不是在不聲不響中悄悄改變底層行爲。這比許多系統所展示的邊界要更強。
但僅有透明度並不是終點。
如果用戶不理解兩個配置之間究竟發生了什麼變化,他們是在評估同一項策略,還是隻是信任一套新的假設——把它們包裝在一個熟悉的名字裏?
我研究AI驅動的自動化越多,就越不認爲信任只來自不可變的代碼。
信任來自於讓每一個重要決策都變得可觀察、可審查、並承擔責任——不僅是規則本身,還有其背後的那些參數。
這就是我最會盯着的那一層。
@NewtonProtocol #Newt $NEWT $SYN $H