花了一些時間思考AI給出答案後究竟發生了什麼。
大多數人關注的是迴應是好是壞。我不斷回到一個不同的問題:你怎麼知道究竟是什麼產生了這個答案?
@OpenGradient 上可驗證AI的想法很有趣,因爲它將討論的焦點從聲譽轉向證據。基礎設施的構建圍繞着證明執行如預期發生,而不是假設請求被正確處理。
讓我感到驚訝的是,用戶要求這種證明的情況是多麼少見。
在大多數軟件中,信任是看不見的。如果輸出看起來合理,過程通常不會受到質疑。驗證聽起來很重要,直到它引入額外的複雜性。
這是我無法停止思考的緊張關係。
驗證層越強大,大多數人注意到它的可能性就越小。
必要的基礎還是昂貴的保證,而用戶反正不會主動檢查呢??
@OpenGradient #OPG $OPG
大多數人關注的是迴應是好是壞。我不斷回到一個不同的問題:你怎麼知道究竟是什麼產生了這個答案?
@OpenGradient 上可驗證AI的想法很有趣,因爲它將討論的焦點從聲譽轉向證據。基礎設施的構建圍繞着證明執行如預期發生,而不是假設請求被正確處理。
讓我感到驚訝的是,用戶要求這種證明的情況是多麼少見。
在大多數軟件中,信任是看不見的。如果輸出看起來合理,過程通常不會受到質疑。驗證聽起來很重要,直到它引入額外的複雜性。
這是我無法停止思考的緊張關係。
驗證層越強大,大多數人注意到它的可能性就越小。
必要的基礎還是昂貴的保證,而用戶反正不會主動檢查呢??
@OpenGradient #OPG $OPG
🛡️ Necessary Foundation
63%
💸 Expensive Reassurance
37%
27 票 • 投票已結束
