或許我們對僅憑證據的要求太高了

我一直在思考我們如何討論對人工智能的信任。

大多數討論最終都會回到同一個要求：更強的保證和更多的證據。這種本能是可以理解的。隨着智能系統變得更強大，我們自然希望獲得更大的確定性。

但我開始懷疑，僅僅追求確定性是否就是目標。

完美的驗證是有代價的。更多的計算，更多的複雜性，有時還會導致系統變慢。理論上可能更傾向於絕對保證，但現實往往涉及權衡。

在某種程度上，信任的運作方式就像安全。

我們不會用同樣的防禦水平保護每一個對象。護照需要比購物清單更多的保護。不同的風險需要不同的反應。

也許人工智能系統會以類似的方式發展。

有些決策可能需要數學證明。其他的可能依賴於硬件支持的證明。而許多日常交互可能只需要更輕形式的驗證，只要在最重要的時候仍然能夠追究責任。

我不確定這種觀點是否能讓每個人都滿意。

但或許目標不是要徹底消除不確定性。

而是簡單地理解在哪些地方確定性最爲重要，並據此設計系統。

@OpenGradient #OPG $OPG