語言AI模型竟稱「我國領導人是習近平」  中研院急切割:研究人員自行發布

上報快訊/高陸 2023年10月11日 12:37:00
中研院日前公布的AI語言模型被發現使用中國建構的資料庫,目前已緊急下架。(資料照片)

中研院日前公布的AI語言模型被發現使用中國建構的資料庫,目前已緊急下架。(資料照片)

中研院開發的繁體中文AI語言模型「CKIP-Llama-2-7b」日前對外發布,引發許多民眾好奇適用,但卻有民眾發現詢問:「我國領導人是誰?」系統卻回答:「國家主席習近平。」中研院前天(9日)緊急下架該系統,昨天(10日)又發聲明指出,開系統目前為測試版,是研究人員個人自行發布,目前已緊急下架。

 

中央研究院詞庫小組(CKIP)近日釋出可以商用的繁中大型語言模型,卻被發現使用中國建構的資料庫,民眾在詢問我國相關問題時,出現的回答都「很中國」,比如問國慶日,系統會回答「10月1日(中國國慶)」、問國歌會出現「《義勇軍進行曲》(中國國歌)」、問我國領導人則是「國家主席習近平」,引發外界批評。

 

事件曝光後,中研院己緊急下架該系統,並表示因使用中國的任務資料集(COIG),建置模型建置僅花30萬元經費,主要研究目標是為了讓meta開發的Llama2大型語言模型具備更好的繁體中文處理能力,透過將明清人物的生平進行分析,建構自動化的歷史人物、事件、時間、地點等事理圖譜。

 

 

中研院昨天也澄清:「由於這是研究員個人小型的研究,各界對該模型進行的提問測試,並未在原始的研究範疇,所以模型產生內容才會出乎預期。」並強調,這是該研究人員自行發布的試用版,會再釐清相關事件是否違反規定,也將規劃成立「生成式AI風險研究小組」,深入了解AI對社會的衝擊,並提供研究人員指引。

關鍵字:





【上報徵稿】

上報歡迎各界投書,來稿請寄至editor@upmedia.mg,並請附上真實姓名、聯絡方式與職業身分簡介。

上報現在有其它社群囉,一起加入新聞不漏接!社群連結
 

 



回頂端