#newt $NEWT
一段時間以來,人們以某種方式信任科技:我們先信任公司或組織本身,再信任其技術。人工智慧正在改變這一點——它要求我們信任由電腦程式做出的決策;這些程式時時刻刻運作,卻不常解釋它們正在做什麼。

我一直在想,人工智慧最大的問題也許不在於它有多聰明,而在於它的問責性。當電腦開始處理金錢、進行交易、並與電腦系統協作時,問題就會從「人工智慧能不能做到這件事?」轉變為「誰能確保它正在做正確的事?」

這也是我覺得牛頓協定(Newton Protocol)特別有意思的地方。它並不是假設人們會去信任它,而是試圖弄清楚:信任能否被程式化地寫進電腦之中。若人工智慧要用在 Web3,那麼確保它被允許去做某些事情,與確保它能夠做到某些事情同樣重要。這會把討論從「把事情自動化」轉向「讓事情負責任」。

這還有另一個面向。能讓事情變得更確定的系統,常常會給人們參與的理由,但過度的控制也可能會阻止新想法的產生。找到平衡,也許會比真正去建造這項技術更困難。

也許,未來的人工智慧不會屬於那些最聰明的電腦,而是屬於那些確保它們做出的決策清楚可查、經得起驗證、值得信任的系統。若真是如此,那麼在我們試圖讓人工智慧變得更聰明之前,我們是否正關注到要讓人們先信任人工智慧?@NewtonProtocol $SYN