loading...
美國人工智慧（AI）公司OpenAI週四（10月15日）向美國司法機構表示，即使未來技術繼續進步，也未必能找到一種科學方法，準確辨別所有AI生成的圖像。Meta也指出，新一代AI模型製作的影音內容，已很難單憑肉眼辨別真偽。
兩家公司代表當天在波士頓出席美國司法會議證據規則諮詢委員會（Advisory Committee on Evidence Rules）會議。該委員會自2023年起研究AI偽造證據問題，考慮是否需要制定專門規則。
據路透社報導，OpenAI政策顧問安德森（Shira Anderson）表示，AI生成的圖像只會越來越逼真，她不相信未來能找到一種科學方法，準確識別所有AI生成的圖像。
Meta產品管理總監諾德（Devin Norder）指出，新一代AI模型製作的影音內容，已經很難單憑肉眼辨別真偽，而且製作速度快、成本低。
美國聯邦司法中心（Federal Judicial Center）今年3月公布的調查顯示，在931名受訪法官中，有15人曾遇到訴訟當事人以「深度偽造」為由，質疑證據真實性的情況。不過，這不代表相關證據已被證實造假。
委員會主席、曼哈頓聯邦法官弗曼（Jesse Furman）表示，雖然外界一直擔心AI會影響司法審判，但目前實際出現的相關爭議仍然不多。他週四宣布成立一個小組，繼續研究法院應如何處理這類證據。
AI數位浮水印難通用
目前，OpenAI和Meta等科技公司已推出辨別AI生成內容的工具，加州和歐盟也要求採用浮水印等技術，協助辨識AI內容。
但安德森指出，各家公司使用的技術不同，目前沒有通用方法能識別所有浮水印，也無法保證核實每張圖像的真偽。
對於是否需要制定專門的證據規則，美國司法界仍有分歧。曼哈頓聯邦法官卡普羅尼（Valerie Caproni）認為，目前沒有足夠證據顯示深度偽造已成為法院的普遍問題，不宜急於制定新規。她指出，現行法律已禁止提交虛假證據，法官也有權審查證據真偽。
美國司法機構尚未決定是否修改證據規則，相關研究仍在進行。◇
