loading...
隨著人工智慧（AI）逐漸被應用於軍事和網路作戰，安全專家警告，一旦AI系統干擾核武指揮系統，或自行發動軍事網路攻擊，可能讓美國必須在短短幾分鐘內判斷是否遭到中共攻擊或是系統出錯。
發出警告的專家參與了由美國布魯金斯學會（Brookings Institution）和清華大學國際安全與戰略中心推動的美中AI與國家安全對話。
布魯金斯學會高級研究員西森（Melanie Sisson）是9月9日發布的報告〈強化人類對軍事AI的控制〉（Advancing human control of military AI）的共同作者。
報告提出一系列建議，希望兩國在AI自主能力提升之際，提前建立防止誤判和衝突升級的安全措施，包括：為核系統設定AI「紅線」；最終由人類決定重大軍事網路攻擊；建立專門處理AI軍事事故的美中熱線。
報告的發布正值美國和中共計畫舉行政府層級AI會談，及9月24日美國總統川普接待中共黨魁習近平之前。
核武器的決策系統
報告指出，美中兩國此前已就「核武器使用決策必須由人類掌控」形成共識，但隨著AI越來越深入軍事領域，新的風險正在出現。一套AI系統可能在沒有得到人類明確授權的情況下，對另一國的核指揮、控制與通訊系統（NC3）發動網路攻擊。
如果攻擊是由AI故障、錯誤判斷或系統遭到入侵造成，遭攻擊的一方可能無法立即判斷這究竟是意外事件，還是對方政府下令發動的攻擊。
在核武背景下，這種誤判可能迅速演變成更嚴重的軍事危機。西森提出，涉及對另一國核指揮、控制與通訊系統，以及關鍵戰略基礎設施的AI網路攻擊，最終授權權力應始終掌握在人類手中。此外，金融、醫療和能源等重要基礎設施也應納入保護範圍。
報告認為，美中需要就「有意義的人類控制」建立共同定義，因為即使兩國都宣稱軍事AI受到「人類控制」，實際上允許AI自行決定的程度可能完全不同；若缺乏共同標準，同一個概念可能被以不同方式解讀。
中共官僚系統的限制
報告還提出建立專門的美中軍事AI事故熱線。例如，一國的AI防禦系統偵測到可疑活動後，自動採取反制措施；另一國的AI系統又將該反制行動判定為新的攻擊，進而自動反擊。在這種「機器對機器」的快速反應中，人類可能來不及介入。
熱線的作用是讓一方能夠迅速告知另一方，相關AI行動可能是系統故障、未經授權的行動，或者仍在調查之中，以避免被立即視為政府蓄意發動的攻擊。
然而，約翰霍普金斯大學高級國際研究學院（SAIS）的傅瑞珍（Carla Freeman）等專家，質疑溝通熱線的效用，理由是中共官員在2023年2月「間諜氣球事件」期間拒絕接聽美方同行的電話。
她1月在評論網站「War on the Rocks」發表文章說，中國官僚體系自上而下、僵化的等級制度，也使得低階軍官在與美方同行接觸時無法主動採取行動。
她說：「在中國體制內，在最高領導層與黨國體系內的相關各方協商並決定應對方案之前，沒有人願意與美國溝通，而該過程可能需要數天甚至更久。」因此，即使建立新的AI熱線，能否在危機發生的最關鍵幾分鐘內真正發揮作用，仍是另一個問題。
華盛頓與北京反應
儘管兩國政府均未公開支持報告中提出的建議，但中共已日益將AI納入其現有的軍控管理體系中。AI已成為中共外交部軍控司的正式職能，該司同時也負責處理核武、防擴散、飛彈及其他國際安全議題。
華盛頓方面則沒有針對AI設立類似的單一軍控部門，相關的國家安全政策分散在白宮國家安全委員會、國務院、五角大廈及其他機構之中。◇
