loading...
一位美國官員週二（6月23日）向媒體透露，人工智慧（AI）巨頭Anthropic研發的AI模型Mythos 5，在一次測試中發現了美國政府高度機密電腦系統的漏洞。外界猜測，美國政府近期限制Mythos 5使用權限的決定，可能與該模型展現出的強大漏洞挖掘能力有關，但官方尚未證實兩者直接相關。
這位不願具名的官員向美聯社透露，Anthropic與美國情報機構合作，利用Mythos模型測試電腦系統中的漏洞。該官員指出，測試在數小時內就發現了某些漏洞，不過這並不意味著該模型有能力在短時間內「直接利用」這些漏洞並發動攻擊。
該官員表示，此次測試透過Anthropic發起的「玻璃之翼計畫」（Project Glasswing）進行。該計畫匯集谷歌等科技巨頭，旨在保護全球關鍵軟體免受Mythos造成的「嚴重衝擊」，因為這些關鍵軟體攸關公共安全、國家安全與經濟運作等重要基礎設施。
事實上，在美國官員透露此事的前一天（6月22日），五眼聯盟就警告，尖端AI模型性能可能在短短幾個月內，就會突破並「顛覆」全球各國政府和企業的網路安全攻防系統，呼籲各界緊急採取行動應對威脅。
聯邦參議員華納（Mark Warner）6月11日在參議院的聽證會上提及這項測試。
當時華納說，「這款工具在模擬測試中突破了絕大多數機密系統的安全防線，且花費的時間不是幾週，而是短短數小時。」他補充，這項資訊來自美國國家安全局（NSA）兼網路司令部司令魯德（Joshua Rudd）。
美國國家安全局與Anthropic的發言人，均拒絕對此事置評。
科技界籲美政府撤銷禁令
因擔心過快發展AI恐導致它脫離人類的掌控，甚至開始自主疊代，最終危及人類，Anthropic長期主張在推進AI能力的同時，應建立更嚴格的安全評估與管理機制。
川普政府先前因擔心不法分子利用Mythos 5尋找作業系統、銀行等關鍵基礎設施的漏洞，下令Anthropic禁止外籍人士使用其AI模型Fable 5與Mythos 5。由於Anthropic難以準確篩選用戶身分，因此於6月12日全面暫停相關用戶的存取權限。
針對暫停權限一事，Anthropic透露，美國政府認為有人找到了「破解」（越獄，Jailbreak）Fable 5的方法，這意味著該模型安全限制能被破解，最終跟Mythos 5一樣危險。
Fable 5是Claude系列模型之一，偏向安全、穩健、可靠輸出；而Mythos 5更偏向創造力、推理力及更強大的生成能力。
不過，超過100位科技界人士（包括Adobe和輝達高層在內），近日聯名致信美國政府希望撤銷該禁令。
信中表示，Mythos模型在發現軟體漏洞、將漏洞武器化方面相當出色，但其能力並非獨一無二。聯名信指出，若在缺乏充分證據的情況下限制美國最先進的網路防禦AI工具，恐削弱美國在網路安全領域與競爭對手國家的競爭力。◇
