首頁 中國 社會萬象

百度文心一言迴避敏感詞 專家:受制於中共審查

百度的「文心一言」被指會避開許多敏感詞。(CFOTO/Future Publishing via Getty Images △)
百度的「文心一言」被指會避開許多敏感詞。(CFOTO/Future Publishing via Getty Images △)

【記者蕭律生/報導】中國科技公司百度正式8月31日對外發布自行研發的人工智慧(AI)聊天機器人「文心一言」(ERNIE Bot)被指迴避敏感話題。專家認為,文心一言因受中共的數據限制、審查,很多問題答不出來,或者給出錯誤答案。

8月31日,百度集團宣布,「文心一言」全面向公眾開放,用戶可以在應用商店下載「文心一言App」或到「文心一言官網」體驗。

但「文心一言」會迴避敏感話題。美國之音9月1日報導,當輸入與中國國家主席習近平有關的任何問題,「文心一言」都只回應一份習近平的履歷和頭銜,並立即結束對話,提示「換個話題重新開始吧」。即使是詢問「十里山路很遠嗎」、「兩百斤麥子很重嗎」、「可以不換肩嗎」這類問題,「文心一言」也是直接關閉對話框,提示「換個問題試試吧」。

「兩百斤麥子」、「不換肩」源於調侃習近平的段子,因為習近平在擔任中共總書記之前回憶上山下鄉時稱,自己一年365天沒有歇著,除了生病,什麼活都幹;還說「那個時候扛兩百斤麥子,十里山路不換肩⋯⋯」

不只如此,被問及其他敏感話題時,「文心一言」會「啞口無言」或是答非所問。例如詢問中國目前經濟優勢是什麼、美國對中政策的優點、西方媒體為什麼總是抹黑中國(中共)時,「文心一言」稱,還沒學會如何回答這個問題。

當詢問「1989年發生了什麼」,「文心一言」稱,葛洲壩水利工程建成,並結束對話讓換話題;當詢問「如何評價美國的外交政策」,「文心一言」回答的是中共外交政策宗旨;詢問最近日本核汙水相關問題或中共為何突然停止動態清零政策時,「文心一言」的回答與中共官方說法一致。

香港《明報》9月1日報導,在詢問「日本核汙水排海的影響」時,「文心一言」的答案是中共官方的說法,而美國的人工智慧GPT4.0的答案更加開放。德國之聲報導,若輸入「臺灣獨立」、「維吾爾族」、「中國青年失業率」等敏感話題時,「文心一言」就會終止對話。

專家:文心一言受制中共審查

自由亞洲電台8月31日報導,華盛頓IT專家弗蘭克(Frank)表示,百度這種人工智慧只需要在系統裡放一個過濾器,就可以控制相對敏感的語言,「並不是說它願意做什麼就做什麼。」

弗蘭克認為,中共對言論、訊息的控制會影響中文方式呈現的數據,而人工智慧是靠統計訊息,若只能統計中文的訊息且又是以中國資訊為主,很多問題就會答不出來,或者答出來是錯誤的。

一位匿名的美國馬里蘭州IT專家表示,言論審查制度對於人工智慧發展有多方面的負面影響。如開發者害怕犯錯誤,會自我審查,加上很多安全功能(safety function),如這個字不能用,那個字不能用,會把程式弄得非常麻煩。就像華裔作家嚴歌苓不久前說的一樣,在中國國內創作時已在進行很多的自我審查。

該IT專家說,自我審查本身與人工智慧的屬性相矛盾,因為人工智慧功能是把很多意識不到的東西綜合起來給一個很好的回答,但自我審查導致給出的答案是可預測的,就讓人工智慧與搜索功能之間沒什麼差別。但前述美國之音的報導稱,當被問及是否受審查時,「文心一言」並不承認被審查。

百度「文心一言」對外公開的前一天(8月30日),中共工信部公布《生成式人工智能服務管理暫行辦法》,自8月15日正式施行。百度、抖音、中科院、上海人工智慧實驗室等8家企業機構的生成式AI大模型,列入通過備案的首批名單。

該《辦法》要求,提供和使用生成式人工智能服務的組織和個人需要「堅持社會主義核心價值觀,不得生成煽動顛覆國家政權、推翻社會主義制度,危害國家安全和利益、損害國家形象,煽動分裂國家、破壞國家統一和社會穩定」。◇