Anthropic 聯合創始人兼首席執行官 Dario Amodei 告訴美國立法者，開源 AI 的發展正進入他所說的“非常危險的路徑”，他警告稱，將高度勝任的 AI 模型以開源形式發佈，可能會削弱對這些模型如何被使用的監督。

據 Odaily 報道，Amodei 表示，一旦強大的 AI 模型以開源形式發佈，開發者可能會失去對其部署的有效控制，包括監控濫用、撤銷訪問權限或動態更新安全保護措施的能力。

他補充稱，與封閉式模型系統相比，完全開源的模型更難在持續的安全治理下進行管理，並可能產生難以逆轉的濫用風險。