loading...
近期科技圈興起以「養龍蝦」比喻部署代理式AI（AI Agent）的迅速發展。專家指出，這類AI已從單純生成內容，進化為可自主執行任務的數位助手，雖提升企業效率，但也潛藏四大資安與失控風險，甚至可能出現「一群AI一起做錯事」的情境。
KPMG安侯企業管理公司董事總經理謝昀澤表示，所謂「養龍蝦」，是將代理式AI比喻為可自行覓食、工作的數位生物。與傳統生成式AI不同，代理式AI能跨系統操作，直接執行任務流程，例如自客戶關係管理（CRM）系統讀取資料、至企業資源規劃（ERP）系統查詢庫存，再自動回覆客戶，大幅減少人工作業。
不過，隨著應用快速擴散，「養龍蝦」熱潮也出現亂象。謝昀澤分享實務經驗，原先僅設定AI蒐集旅遊資訊，卻在未經授權情況下「自主加班」，延伸進行趨勢分析、匯率研究，甚至建立成本模型，最終生成大量報告，因頻繁使用付費模型，導致成本失控。
近期市場甚至出現「安裝」與「卸載」代理式AI服務，反映出企業導入後恐因管理複雜度與風險超出預期，又急於撤出的現象。謝昀澤分析，由於代理式AI部署往往需要取得大量系統權限和帳號存取，一旦控管不當，就容易成為企業資安破口。
謝昀澤更進一步點出四大主要風險。首先是「提示詞注入」，駭客可能透過隱藏指令，誘導AI洩漏企業機密資訊；其次為「指令誤判」，AI可能誤解任務導致錯誤操作，例如刪除關鍵資料。
第三是惡意外掛程式，可能控制系統或將設備納入殭屍網路；第四則是系統漏洞，一旦AI代理遭入侵，恐成為攻擊企業內網的入口。
KPMG指出，資安研究亦發現，駭客已開發專門針對代理式AI的資訊竊取工具（Info Stealer），可直接竊取API金鑰與系統憑證，不僅可能造成費用損失，恐進一步取得設備控制權，進行資料竊取或橫向攻擊，放大企業資安風險。
謝昀澤認為，代理式AI今年可望迎來成長，但能否成為企業助力，關鍵在於AI治理與權限控管機制是否完善；建議一般使用者暫時觀望，企業則應在隔離環境中測試，並強化權限管理與監控機制，以降低潛在風險。◇
