@OpenGradient #OPG $OPG
也許真實的人工智能問題不是智能,而是缺失的軌跡。
我已經關注OpenGradient一段時間了,留在我腦海中的東西與模型速度、基準測試或關於更聰明的AI的常規討論幾乎無關。
這是一個更簡單且略顯不安的問題:當一個AI系統給出一個真正重要的答案時,我們到底對它如何得出這個答案瞭解多少?
這就是我不斷回到OpenGradient的部分。根據我的理解,它試圖建立圍繞AI的層,而不僅僅是模型本身——一個去中心化的設置,用於託管模型、運行推理,並留下關於該過程的某些可驗證內容。不僅僅是系統所說的,而是它在哪裏運行、如何運行,以及這些是否可以在以後進行檢查。
令我感興趣的是,這與當前大多數AI系統中信任的運作方式有多麼不同。現在,信任主要來自聲譽。我們信任公司,信任內部日誌,信任系統的行爲與它所說的一致。OpenGradient似乎在問,信任是否可以被視爲基礎設施,而不是一種承諾。
我認爲這並不自動意味着它會變得容易。驗證增加了摩擦。去中心化在理論上通常聽起來更整潔,但在實踐中卻不是如此。但我仍然認爲這指向了一些真實的東西。人工智能可能不僅僅有智能問題。它可能還有記憶問題、證明問題和信任問題。這感覺像是所有其他問題之下的更深層次的問題。
$XLM USDT
$TNSR