我總是會回到一件讓我不太舒服的事情：關於人工智能。
有一段時間，我意識到自己是多麼迅速地接受了它給出的答案。
我提出一個問題，得到一個乾淨的回覆，然後就繼續往前走。答案所表現出的那種自信，幾乎會讓我誤以爲工作已經完成了。我很少停下來想想，下面實際發生了什麼。
用了對的模型嗎？
輸入有沒有保持不變？
輸出是否真的以它聲稱的方式生成了？
如果出了問題，還有沒有辦法證明呢？
幾年前，這些問題似乎沒什麼必要。人工智能當時主要是在幫助人做一些小任務，或進行一些無害的實驗。
但我們正在走向的世界已經不是那樣了。
人工智能開始承擔研究、金融決策、自動化，以及能夠代表我們採取行動的智能體。在這些情境裏，信任的重要性會遠遠超過便利性。
這就是爲什麼 OpenGradient 吸引了我注意。
有意思的地方並不在於它承諾更大的模型或更快的響應。真正打動我的是：它試圖讓人工智能對自己的輸出負責。
它沒有要求用戶去信任一個黑箱，而是圍繞可驗證的計算、託管模型，以及能夠在鏈上完成裁決的證明機制構建起來。
答案不再只是我們“相信”的東西。
它變成了可以留下證據的東西。
我也喜歡它的設計給人的感覺很務實：重計算留在推理節點上，由全節點維持驗證，而在合適的情況下，存儲則保持在鏈下。
因爲真正的問題並不是人工智能能否說得足夠逼真。
它已經可以了。
一直縈繞在我腦海裏的問題是：
人工智能能否證明它是如何得出它所給出的那個答案的？
我認爲，這個問題可能會定義人工智能的下一個階段。
@OpenGradient #OPG #opg $OPG
有一段時間，我意識到自己是多麼迅速地接受了它給出的答案。
我提出一個問題，得到一個乾淨的回覆，然後就繼續往前走。答案所表現出的那種自信，幾乎會讓我誤以爲工作已經完成了。我很少停下來想想，下面實際發生了什麼。
用了對的模型嗎？
輸入有沒有保持不變？
輸出是否真的以它聲稱的方式生成了？
如果出了問題，還有沒有辦法證明呢？
幾年前，這些問題似乎沒什麼必要。人工智能當時主要是在幫助人做一些小任務，或進行一些無害的實驗。
但我們正在走向的世界已經不是那樣了。
人工智能開始承擔研究、金融決策、自動化，以及能夠代表我們採取行動的智能體。在這些情境裏，信任的重要性會遠遠超過便利性。
這就是爲什麼 OpenGradient 吸引了我注意。
有意思的地方並不在於它承諾更大的模型或更快的響應。真正打動我的是：它試圖讓人工智能對自己的輸出負責。
它沒有要求用戶去信任一個黑箱，而是圍繞可驗證的計算、託管模型，以及能夠在鏈上完成裁決的證明機制構建起來。
答案不再只是我們“相信”的東西。
它變成了可以留下證據的東西。
我也喜歡它的設計給人的感覺很務實：重計算留在推理節點上，由全節點維持驗證，而在合適的情況下，存儲則保持在鏈下。
因爲真正的問題並不是人工智能能否說得足夠逼真。
它已經可以了。
一直縈繞在我腦海裏的問題是：
人工智能能否證明它是如何得出它所給出的那個答案的？
我認爲，這個問題可能會定義人工智能的下一個階段。
@OpenGradient #OPG #opg $OPG