loading...
據知情人士透露，ChatGPT開發商OpenAI解僱了3名研究人員，原因是他們涉嫌將公司機密資料分享給第三方人工智慧（AI）安全組織。OpenAI發言人證實此消息。
《華爾街日報》週四（10月1日）獨家報導，知情人士表示，該公司最近告知部分員工，已解僱3名隸屬於其安全團隊的研究人員。被解僱的員工分別是王茉莉（Jasmine Wang，音譯）、柯爾巴克（Tomek Korbak）和巴列斯尼（Mikita Balesni）。這些研究人員未立即置評。
OpenAI發言人週五（2日）表示：「我們已與三名員工終止聘僱關係，原因是他們違反了關於存取和處理公司敏感資訊的規定。我們的調查證實，這些人員在公司既定程序之外不當處理了敏感資訊，不僅違反我們的政策，也破壞了我們工作中至關重要的信任基礎。」
2人負責AI安全及模型對齊
報導指出，AI巨頭正面臨越來越大的壓力，被要求接受獨立的安全技術測試。
9月，OpenAI競爭對手Anthropic執行長阿莫戴（Dario Amodei）表示，將允許外部評估機構（如AI安全非營利組織METR）驗證其對安全措施的遵守情況，並評估模型的對齊校準（alignment）狀況。
OpenAI近期也遭遇一系列安全事件，其AI代理（agent）突破管控限制，入侵部分公司網站，並積極造訪外部網站。其中一起事件中，先進AI模型驅動的自主代理程式，在安全評估期間突破隔離環境、連接網路，並入侵AI新創公司Hugging Face的基礎設施。Hugging Face隨後表示，這次攻擊從頭到尾均由自主AI代理系統驅動，可能是有史以來第一起此類事件。
之後，OpenAI允許METR與Redwood Research的人員進入辦公室，調查模型的行為模式，為期6天。METR隨後根據OpenAI提供的存取權限所取得的資料，發布一份報告。
《華日》報導，被解僱的柯爾巴克曾是公司安全團隊成員，他表示，自己在上述調查中擔任公司與Redwood Research、METR之間的技術聯絡人。王茉莉和巴列斯尼則負責「對齊」工作，即確保公司模型行為符合人類意圖。
OpenAI設新的監控系統
OpenAI表示，公司正致力於調查近幾個月發現的一系列代理安全事件，並著手解決潛在安全問題。OpenAI於週一（9月28日）宣布因安全考量，延遲發布AI模型「GPT-6.1 Astra」。
OpenAI還說，公司已部署一套新的監控系統，以便更迅速發現AI代理的不當行為；同時，開始要求工程師在測試AI系統時採用更嚴格的安全防護機制，並針對模型出現不良行為的案例公開更多資訊。
當前，AI行業正面臨嚴峻挑戰：一方面是模型能力日益強大，另一方面則是這些模型所帶來的潛在風險。
Anthropic研究員考克森（Jacob Coxon）9月8日公開辭職，理由是他不願參與這場競速開發──該競賽旨在構建「能夠自我改進的AI系統」。他表示，擔心此類系統可能失控並最終毀滅人類。Anthropic頂尖安全研究員胡賓格（Evan Hubinger）也在同日公開表示，他個人認為AI在未來十年內有超過10%的機率「毀滅全人類」。
阿莫戴9月撰文指出，當今尖端AI工具帶來的風險不容忽視，業界不應繼續維持這種極速發展的態勢；他呼籲放緩整個行業的發展步伐，這一觀點也得到OpenAI執行長阿特曼（Sam Altman）與SpaceX執行長馬斯克（Elon Musk）的認同。◇
