每天 AI 越來越聰明。
但我越瞭解 AI 基礎設施,就越覺得,採用的最大挑戰不是智能,而是信任。
挑戰在於信任。
如果 AI 給我一個答案,我怎麼知道計算真的是所聲稱的那樣?怎麼知道輸出沒有被修改?如果某個重要決策是通過 AI 來做的,那怎麼驗證?
在我看來,@OpenGradient 這點變得很有趣。
我覺得很多人把 AI 採用僅僅看作用戶增長的問題。但歷史告訴我們,採用通常在有可靠基礎設施的情況下才會規模化。
OpenGradient 的方法似乎也朝這個方向發展。它不僅僅是擴展智能,更是讓圍繞智能的責任和驗證也可以擴展。
我覺得最有趣的是,OpenGradient 不會用同樣的驗證來處理每個工作負載。根據風險和上下文調整驗證,我覺得比對所有事情施加相同的審查更爲實際。
有一個想法在我腦海中反覆出現:
也許 AI 採用缺失的層不是更好的模型,而是更好的信心。
如果用戶對系統沒有信任,無論智能多麼先進,採用總會有一個限制。
你覺得 AI 的下一波浪潮會是由智能驅動,還是由信任和可驗證性驅動?
@OpenGradient #opg $OPG
但我越瞭解 AI 基礎設施,就越覺得,採用的最大挑戰不是智能,而是信任。
挑戰在於信任。
如果 AI 給我一個答案,我怎麼知道計算真的是所聲稱的那樣?怎麼知道輸出沒有被修改?如果某個重要決策是通過 AI 來做的,那怎麼驗證?
在我看來,@OpenGradient 這點變得很有趣。
我覺得很多人把 AI 採用僅僅看作用戶增長的問題。但歷史告訴我們,採用通常在有可靠基礎設施的情況下才會規模化。
OpenGradient 的方法似乎也朝這個方向發展。它不僅僅是擴展智能,更是讓圍繞智能的責任和驗證也可以擴展。
我覺得最有趣的是,OpenGradient 不會用同樣的驗證來處理每個工作負載。根據風險和上下文調整驗證,我覺得比對所有事情施加相同的審查更爲實際。
有一個想法在我腦海中反覆出現:
也許 AI 採用缺失的層不是更好的模型,而是更好的信心。
如果用戶對系統沒有信任,無論智能多麼先進,採用總會有一個限制。
你覺得 AI 的下一波浪潮會是由智能驅動,還是由信任和可驗證性驅動?
@OpenGradient #opg $OPG