機器決策的考古學

最近我一直在思考一件事。

大多數人工智能系統都是爲了在當下解決問題而設計的。它們回答問題，完成任務，然後我們繼續前進。隨着新版本的到來，舊的背景逐漸淡化。隨着時間的推移，理解某個特定決策最初是如何得出的，可能會變得令人驚訝的困難。

我一直在想，這在未來是否會比我們意識到的更重要。

隨着人工智能成爲生活中越來越重要的領域，人們對透明度和問責制的關注也在加深。在某些情況下，能夠回顧並理解一個系統爲何做出某個選擇，可能和答案本身一樣有價值。

我注意到一些團隊已經在思考這個挑戰。例如，OpenGradient正在探索如何使人工智能的輸出更容易驗證，同時保留有用的上下文，而不是讓每次交互後所有內容都消失。

也許速度並不總是唯一重要的事情。

或許信任不僅來自快速得到答案，而是來自於知道重要的決策在作出很久之後仍然能被理解。

@OpenGradient #OPG $OPG