我一直在想，當 AI 表現得信心滿滿、講得很篤定時，我們是多麼容易就信任它。
這也許比起模型本身，更能說明我們的心理。
我們喜歡乾淨的答案。我們喜歡自信。我們也喜歡那種感覺：彷彿有什麼東西已經替我們把思考做完了。
但當 AI 開始處理的不只是文字，而是更多類型的資訊時，這種自信就開始變得有點脆弱。影像可能暗示一種說法。音訊可能又補上另一種線索。感測資料也可能在不聲不響地提出異議。
而如果系統最後仍然只給出一個精緻、圓滿的答案——那麼我們究竟是在信任什麼？
我一直在跟 @OpenGradient 反覆回到這個問題。
也許重要的不只是讓 AI 能理解更多種類的資料。也許是讓那些輸入在模型做出判斷前，有一點點彼此爭論、彼此較勁。
這樣更像人。
不是因為人類總是對，而是因為真正的判斷通常包含懷疑。它包含從不只一個角度去核對故事。
速度很有用。但在錯誤會造成重大影響的地方，我寧願要一個因為「該猶豫才猶豫」而停頓的 AI，而不是那種回答得立刻又讓人只能希望我別追問：它到底是怎麼得出結論的。
@OpenGradient #OPG #opg $OPG
這也許比起模型本身，更能說明我們的心理。
我們喜歡乾淨的答案。我們喜歡自信。我們也喜歡那種感覺：彷彿有什麼東西已經替我們把思考做完了。
但當 AI 開始處理的不只是文字，而是更多類型的資訊時，這種自信就開始變得有點脆弱。影像可能暗示一種說法。音訊可能又補上另一種線索。感測資料也可能在不聲不響地提出異議。
而如果系統最後仍然只給出一個精緻、圓滿的答案——那麼我們究竟是在信任什麼？
我一直在跟 @OpenGradient 反覆回到這個問題。
也許重要的不只是讓 AI 能理解更多種類的資料。也許是讓那些輸入在模型做出判斷前，有一點點彼此爭論、彼此較勁。
這樣更像人。
不是因為人類總是對，而是因為真正的判斷通常包含懷疑。它包含從不只一個角度去核對故事。
速度很有用。但在錯誤會造成重大影響的地方，我寧願要一個因為「該猶豫才猶豫」而停頓的 AI，而不是那種回答得立刻又讓人只能希望我別追問：它到底是怎麼得出結論的。
@OpenGradient #OPG #opg $OPG