我不是從好奇開始的。我是從不適開始的。
這是一個簡單的想法，幾乎讓人煩惱，因爲它感覺如此執着：如果一個機器人在現實世界中做錯了事情——真的錯了——你甚至該問誰？不是在抽象意義上責怪，而是以一種能引導到某處的方式真正提問。
我試圖以顯而易見的方式回答。也許是開發者。或者是部署它的公司。但我越是追蹤這個線索，它就越是解開。因爲這個機器人不再只是一個東西。它是由在其他地方訓練的模型、從其他地方提取的數據、受那些甚至沒有相同所有者的系統影響的決策拼接而成。
在某個時刻，這個問題不再關於機器人。它變成了關於它周圍的一切。
這讓我感到更困惑。如果機器周圍的環境如此支離破碎，它們又該如何以我們可以信任的方式行動？不是作爲一種感覺的信任，而是作爲一種你可以在事後甚至在行爲本身期間驗證的信任。
那時我偶然接觸到Fabric Protocol背後的想法，雖然我起初沒有意識到它是什麼。它並沒有表現自己爲解決方案。它更像是一個視角的轉變。
而不是問如何構建更好的機器人，它靜靜地問：機器人需要生活在什麼樣的世界裏，以便它們的行動可以被理解、檢查，以及在必要時受到約束？
這個問題讓我停留的時間比我預期的要長。
因爲一旦你這樣看待問題，問題的形態就會改變。你不再關注機器內部的智能，而是開始關注外部的結構。數據流。決策的記錄方式。那些存在的規則，不是作爲指導方針，而是更接近可執行的邊界。
然後另一個領悟慢慢浮現，這次更慢。如果一個系統的設計是爲了讓每一個動作都可以被檢查，那麼它實際上並不是在要求你信任它。它是在要求你去驗證它。
這聽起來像是一個小區別，但並非如此。
我所習慣的大多數系統都基於某種軟信任。你假設它們正在做它們所聲稱的事情，除非有什麼明顯的錯誤。在這裏，這種假設被顛倒。沒有什麼是表面上的。每一個行動都留下了一條他人可以跟蹤、檢查並在必要時質疑的痕跡。
我一直在想這實際上會改變什麼。
起初，它似乎只是增加了開銷——更多的記錄，更多的結構，更多的摩擦。但後來我想到它去除了什麼。某些東西破裂時無休止的來回。對控制日誌的人的依賴。發生但無法被證明的安靜間隙。
它用更重但更清晰的東西取代了模糊性。
那時治理不再感覺像一個獨立的話題。
我曾經把規則看作是加在系統之上的東西——服務條款、法規、事後編寫的政策。但在這裏，治理似乎是系統本身的一部分。不是靜態的，不是固定的，而是不斷塑造機器被允許行爲的方式。
這個領悟讓我以不同的方式感到不安。
因爲如果規則是系統的一部分，那麼改變規則不僅僅是行政上的——它是操作性的。它立即影響行爲，有時是不可預測的。如果那些規則是由一個羣體而不是單一權威所塑造，那麼你不僅是在建立基礎設施。你是在維護一個活生生的過程。
某種不斷演變的東西，有時比你完全理解的速度還要快。
我開始想知道這種系統到底是爲誰而設計的。
它感覺並不是爲了簡單而構建。或者說是爲了速度不惜一切代價。它感覺是爲了多方參與者需要協調而不完全信任彼此的情況而構建的，其中行動需要是可證明的，決策不能隱藏在封閉的系統後面。
這可能讓一些人感到不舒服。
如果你習慣於控制，習慣於擁有整個堆棧，習慣於快速行動而無需解釋自己，這種環境可能會讓你感到受限。但如果你在一個問責比便利更重要的空間中運作，它可能會感覺像是一種必要的交易。
儘管如此，我無法確定這種交易是否真的能隨着時間的推移而保持。
因爲這樣的系統一開始並不會大聲失敗。它們會漂移。激勵以微妙的方式發生變化。人們開始優化不僅是爲了結果，而是爲了這些結果的記錄和評判方式。被測量的東西開始比實際發生的事情更重要。
這就是我再次感到不確定的地方。
驗證會導致更好的行爲，還是在觀察下表現更好？共享治理會保持平衡，還是慢慢傾向於那些最懂得如何影響它的人？隨着系統的成長，它會變得更可信，還是會以更復雜的方式變得更難以解開？
對於這些問題，我沒有簡單的答案。
我擁有的是與我開始時不同的一系列問題。
如果一臺機器做出決定，我能追溯的不僅是它做了什麼，還有它爲什麼被允許這樣做嗎？
如果規則改變，我能看到這種變化是如何發生的、何時發生的，以及誰參與其中嗎？
隨着更多參與者的加入，系統會變得更清晰，還是會在自身的重壓下開始變得模糊？
也許是我一直迴旋的那個問題：當我們試圖用驗證取代信任時，我們實際上是在讓系統變得更誠實……還是隻是讓它們更易讀？
$ROBO @Fabric Foundation #ROBO
