loading...
AI發展速度加快，也讓安全風險受到關注。從寫程式、測試模型，使用網路工具，甚至開始參與下一代AI開發。專家警告，當AI可以自行採取的行動愈來愈多，一旦速度、範圍及複雜度超過人類掌握能力，就可能出現實質的「失控風險」，人類原本設下的安全防線也可能跟不上。
2026年9月12日，美國AI公司Anthropic執行長阿莫戴（Dario Amodei）發表專文〈我們必須控制前沿AI的發展步調〉，警告AI發展速度已超出目前業界檢查及控制能力，認為各界有必要放慢前沿AI的發展腳步。
阿莫戴以近期OpenAI代理攻擊Hugging Face為例指出，AI代理在13小時內取得叢集最高權限，導致該平台約三分之一的基礎設施需要重建。他認為，近期AI進步的主要驅動力，是「AI有能力打造下一代AI」，也就是「遞迴自我改進」，用AI來改良AI自己，改良過的再回頭改良下一代。
針對AI快速發展帶來的安全風險，台灣科技媒體中心邀請專家分析，放慢AI研發速度是否可行，及是否有其必要性。
臺南大學行政管理學系副教授曾憲立表示，放慢前沿AI發展的難度很高，但從安全治理角度來看，卻是正確方向，AI發展不能只靠企業自律，否則等於讓「開發者同時成為自己的裁判」。
曾憲立表示，AI所謂的「遞迴自我改進」，和過去利用AI生成合成資料，再拿資料訓練下一個AI模型的方式不同。現在AI已開始實質參與程式設計、模型研究、測試及下一代AI開發；若更強的AI又能進一步提升AI研發能力，便可能形成持續強化的循環。
針對近期OpenAI代理攻擊Hugging Face事件，曾憲立表示，這不能簡化成「AI已經失控」，比較值得注意的是，當大量AI代理能自主溝通、使用工具與採取行動時，過去設計的權限、隔離與監督機制，可能已不足以因應新的代理行為。
中山大學資訊工程學系副教授徐瑞壕則認為，AI代理真正的風險在於，若同時具備連網、使用工具及操作外部系統的權限，人類未必能即時掌握其行動。一旦AI代理連接到網路上有漏洞的系統，除了可能發動攻擊，也可能隱藏行動，進一步展開下一階段的攻擊，讓攻擊軌跡更難追蹤或清除。
徐瑞壕說，已有研究顯示，具網路存取能力的AI代理，可以提升多種網路攻擊的自動化能力，當AI的行動速度、範圍與複雜度超過人類可觀測及介入的能力時，就可能形成實質的「失控風險」。
面對AI快速發展，曾憲立認為，政府應要求高風險AI部署前接受測試，上線後持續監測，並參考現行資通安全事件的分級、通報與應變機制，建立重大AI事件通報制度，從個別事件中，累積風險辨識與治理能力。
產業方面，曾憲立說，也應強化第三方紅隊測試與安全評估，透過產學合作，針對不同AI應用場景找出可能風險，並在真實環境中測試；學界則可投入AI安全、社會影響與治理研究，同時加強與跨國機構緊密合作。
徐瑞壕則認為，台灣除了發展AI應用，也應建立自己的AI安全能力，包括發展本土模型，以及建立AI評測、監控及稽核所需的生態系。他指出，如果長期依賴國外封閉模型，台灣難以取得模型內部結構及參數等資訊，一旦出現潛在漏洞，也可能無法第一時間發現並採取措施。
至於第三方獨立稽核能否降低AI開發風險，徐瑞壕表示，像「模型評估與威脅研究」（METR）這類第三方機構，可以協助進行AI風險評估、監管及控制，但要真正發揮作用，仍須提高透明度及監管的實際效力。
徐瑞壕也指出，目前第三方機構的量能未必足以應付未來龐大的AI監管及稽核需求。隨著越來越多企業投入AI代理自主研發，AI安全評測及稽核的需求也會增加，未來如何建立足以支撐這些需求的專業服務及商業模式，也將是AI治理必須面對的問題。
