上個月我申請增加一條信用額度，結果在大約四秒內被拒絕。屏幕上的原因寫着“審批所需數據不足”。我打電話後，電話那頭的人把同一句話一字不差地讀給我聽，然後承認她同樣也看不到那句話之外的任何信息——是模型做出了這次呼叫，而且她那邊也沒有權限查看爲什麼。並不是“下面是讓你跌破門檻的具體原因”。而是一個緊閉的門，上面掛着一塊牌子，我們倆都看不懂。
我把這稱爲“不可證僞的否定”。並不是說這個決定必然是錯誤的——我也沒有辦法知道。問題在於，它根本沒有辦法測試。可證僞的說法是：如果它是假的，你在原則上就能證明它是假的。“數據不足”不是。它是一句話，被塑造成“像理由一樣”的形狀，出現在應該是理由的位置上，卻不給你任何可以反駁的點、可以申訴的依據，甚至也無法驗證它是否被一致地用於下一位申請者。
這不再是一個假設問題了，而是一個正在發生的監管問題。2026年4月，美聯儲、美國貨幣監理署（OCC）和聯邦存款保險公司（FDIC）聯合更新了監管機構要求銀行遵循的模型風險框架——並明確將生成式和具備代理能力的AI排除在外。最新的、最難解釋的模型——在目前看來——也是監管最薄弱的模型。2026年6月發佈的一項沃爾特斯·克魯沃（Wolters Kluwer）對銀行從業者的調查發現，接近四分之三的銀行無法提供一套可記錄的流程，用於識別或回滾那些開始“發壞”的放貸模型。而這並非抽象風險：去年，一家學生貸款公司在其承銷模型被發現會使用申請者所在大學的平均違約率來進行加權後，最終以250萬美元和解。這個變量在沒有被任何人工審覈者注意到的情況下，系統性地壓低了對黑人和西班牙裔借款人的獲批概率。沒有人故意做出這樣的設計；也沒有人發現它，直到監管者介入。
在大多數地方，法律早已規定：當放貸方拒絕你時，必須給出具體的、真實的理由——而不是提供一種通用的表格式回覆。變化在於：越來越多作出這一決定的系統在結構上就無法給出這樣的理由，因爲模型本身無法完整解釋它的權重是如何形成的，以便讓人類或監管者能夠據此採取行動。牛頓（Newton）的承銷方法從相反的約束出發：與其讓一個訓練完成的模型生成某個下游沒人能完全拆解的分數，不如由放貸方將其准入標準寫成一套明確、可檢查的規則——同樣的開放策略格式，已經用於雲基礎設施權限；每一筆授信決定都會附帶一份加密的記錄，精確標明應用了哪一條規則，以及爲什麼申請者經驗證的資質通過或未通過。它不只是一個更“友好”的拒絕。這是一份你真的可以去核查的拒絕。
我真的不知道，把一個訓練好的模型換成一套明確的規則集，會不會在重要的方面損失精度——一個好的機器學習模型可能會捕捉到手寫政策完全可能漏掉的真實風險信號；而“可解釋”也不必然等同於“公平”或“正確”。一個透明的規則仍然可能是壞規則；只不過它是你能看見、也能據理爭辯的壞規則，而不是藏在一句聽起來像解釋的話後面、讓你無從判斷的壞規則。
我仍然不知道“數據不足”具體對我意味着什麼。下次當某段軟件對我說“不”時，我希望它必須把它的推導過程給出來，而不僅僅是交付它的裁決。
