在星期四,Anthropic 發佈了現有模型的新版 Claude Opus,表示這將允許 Mythos 的網路能力在較弱的系統中進行測試。
對 Mythos 的擔憂可能超過了以往 AI 模型的討論,但一些網路安全專家質疑這些擔憂的合理性——尤其是考慮到該模型尚未經過更廣泛的行業測試,以確定其實際能力。
英國的 AI 安全研究所已獲得該模型的預覽版本,並發佈了唯一一份關於該模型網路安全技能的獨立報告。
其研究人員指出,這是一個強大的工具,能在未防禦的環境中找到許多安全漏洞,但建議 Mythos 的表現並不比 Claude 的前身 Opus 4 有顯著的改進。
報告作者表示:"我們的測試顯示 Mythos Preview 可以利用安全防護薄弱的系統,並且很可能會開發出更多具有這些能力的模型。"
這也不是 AI 開發者首次聲稱其模型的能力意味著不應釋出——批評者認為這是一種製造話題的策略。
在2019年2月,OpenAI 在選擇逐步釋出 GPT-2 時也引用了類似的擔憂,這是其模型的早期版本,現在為其最大的工具 ChatGPT 提供支持。
$BTC $ETH #StrategyBTCPurchase #KelpDAOFacesAttack #USInitialJoblessClaimsBelowForecast #CharlesSchwabtoRollOutSpotCryptoTrading