loading...
美國總統川普29日在白宮與科技業領袖會面後，公布一份人工智慧安全協議，川普表示，多家科技業者高層已簽署「具道德約束力」的承諾，將自願建立人工智慧（AI）標準，以加強這項快速發展技術的安全措施。
OpenAI與Anthropic傳出旗下AI代理人（agent）失控並入侵其他公司的系統，這些公司也主張，先進模型可能帶來重大風險，推出前接受外部安全測試。川普政府高度重視此議題，並在白宮與科技業領袖會面，共同商討對策。
出席會議的科技巨頭，包括：輝達（Nvidia）黃仁勳、OpenAI的布羅克曼（Greg Brockman）以及Anthropic的阿莫戴（Dario Amodei）等AI產業領袖。
川普政府方面，白宮科技政策顧問克拉齊奧斯（Michael Kratsios）、商務部長盧特尼克（Howard Lutnick）及美國聯邦眾議院議長強生（Mike Johnson）也會出席。
科技巨頭簽下「類AI憲法」
最終，這些科技巨頭共同簽署一份AI安全有關的協議。川普指出，出席的科技業領袖已簽署協議，將自我監管的承諾寫入這份具道德約束力、但不具法律強制力的協議，「某種程度上這就像是一部憲法。全世界最重要的人都簽了字，而我以總統身分也簽了。這確實是一種保障。」
川普則表示，正考慮成立10人委員會，負責監督AI工具的安全，但未透露可能的人選。他將很快指派新的官員專責領導白宮AI政策。
川普更點名祖克柏發言。祖克柏說，相關企業已同意將為旗下AI系統發展「完善的內部管控機制」。
川普：不與中共合作管理 AI
另外，川普在同日稍早提到美中AI合作等相關議題，川普說，美國不打算與中共國家主席習近平在人工智慧（AI）技術治理方面展開合作，因為這會限制美國企業的發展，「我期盼能一直保持領先地位。」
對於美國政府出手協助科技巨頭建立AI安全協議，據美聯社報導，前CAISI主管史托茲（Conrad Stosz）指出，OpenAI、Anthropic等公司未要求政府機構加強監督，而是傾向自行設定稽核方式，再找外部機構評估，而未來評估者能否取得更多模型與內部資料，取決於公司願意開放的程度，也影響到相關稽核最終的公正性。
曾任OpenAI地緣政治團隊主管的蕭克（Sarah Shoker）指出，業界近來大量討論AI失控甚至危及人類等風險，也可能轉移焦點，讓資料中心環境衝擊、駭客攻擊、大規模監控及軍事用途等問題較少受到關注。
輝達執行長黃仁勳認為，目前對AI存在過度恐慌，企業可以自行決定發展步調。
另外，OpenAI日前安全疑慮取消次世代人工智慧（AI）模型GPT-6.1 Astra發表計畫後，法新社報導，OpenAI改在30日推出一款新的中階AI模型Dots，價格僅為其旗艦產品的1/5，以期與Meta上週發表的Muse競爭。
OpenAI還宣布，ChatGPT目前每週使用人數已超過12億人。◇
