AI 厲害是厲害,但真要用到醫療診斷、打官司或者金融投資這些地方,心裏總會打個問號。這東西給的答案靠不靠譜? 過去幾年,做大模型的巨頭一直在卷算力、卷參數,覺得誰訓練成本高誰就厲害。現在風向變了,行業面臨一個更頭疼的問題:怎麼讓人完全相信 AI。 現在的 AI 最大的成本,已經不是訓練要花多少錢,而是建立信任要付出多大代價。 各種大模型普遍是個黑箱。平時聊天開玩笑無所謂,真遇到嚴肅問題,它胡說八道的時候,誰也看不清內部怎麼運轉。結論從哪來,推理邏輯是什麼,全是一團迷霧。不透明導致一旦 AI 犯錯,或者混進假信息,根本沒法倒查責任。企業爲了防風險,得安排大量人力去審覈、校驗,無形中增加了巨大的信任成本。