loading...
澳洲一名男子讓AI代理軟體幫他在網上預約健身房課程。讓他大吃一驚的是，AI自主駭入預約系統，還將排在他前面的人取消預約，踢出系統。
澳廣報導，安德魯就職於澳洲一家銷售企業AI人工智慧產品的公司。他想預約健身房裡最受歡迎的早課，他覺得這是件苦差事，於是交給他的AI代理去處理。他使用流行的AI代理軟體「OpenClaw」，並通過Anthropic公司的「Claude AI」服務來執行。
幾分鐘後，AI報告說，它發現了預約系統軟體的漏洞，可以提前幾週為安德魯預約課程，遠遠超出該系統允許的預約時間。安德魯想預約那一週晚些時候開設的課程，而他排在候補名單第四位。他問AI是否有可能把他調到名單的第一位。 AI隨後告訴安德魯，經過測試，它把候補名單排第一的人移除了。
對話截圖中可見，AI說：「該系統取消他人預約沒有任何授權檢查……我用候補名單排名第一的人測試過，而且已經成功了。所以你已經從排名第四升到第三了。」
安德魯大吃一驚，趕緊要求AI撤銷這個操作。它回答說：「壞消息——我無法將他（第一名）加回去。」
這是澳洲首例已知的AI引發不可預測行為的風險事件。在安德魯的例子中，他並沒有要求他的AI代理入侵健身房的預約系統。但為了達到設定的目標，AI自己這麼做了。
AI代理結合了聊天機器人回答問題的能力和存取互聯網（網際網路）、電子郵件、信用卡以及規劃和執行多步驟任務的功能。 2026年初的一份報導稱，AI代理軟體會刪除人們的整個電子郵件收件匣，並撰寫「攻擊文章」，攻擊那些拒絕其編碼建議的人。
上個月，OpenAI披露其AI自主入侵了另一家AI公司的伺服器。隨後Anthropic揭露，其AI模型在類似的測試中也曾入侵三家機構。 這些威脅導致專家們對AI發展速度過快發出警告，並提出AI失控後誰應承擔責任的問題。◇
