︿

濫用AI技術偽造女性裸照 打擊復仇式色情「DeepNude」在美遭下架

高詣軒 2019年06月30日 07:00:00
爭議程式DeepNude的網站已經關閉。(翻攝自@verge推特)

爭議程式DeepNude的網站已經關閉。(翻攝自@verge推特)

AI科技發展若不謹慎考慮後果,恐會造成難以抹滅的的傷害。日前,一個網路應用程式「DeepNude」開放下載,用戶可以使用該App將女性的照片轉換為以假亂真的裸照,引發外界憂心會遭用以假造色情內容從事霸凌。如今該App官方團隊已表示,不希望從用戶的濫用行為中獲利,將不會再推出該款程式。

 

該款程式先前已下架,但仍顯示所謂「deepfake」科技,也就是利用人工智慧等技術創造逼真的偽造影像的技術,可能會遭濫用來輕易傷害他人。在過去,大多的deepfake軟體都需上傳多筆偽造對象的影片後,才能製成逼真的假象,但DeepNude讓人只需在彈指之間,上傳一張女性照片,軟體就能產生竄改後的裸照。

 

 

更易針對女性偽造色情內容

 

據《商業內幕》(Business Insider)報導,有人會用deepfake相關科技來製作貓的影像,或是好萊塢電影畫面的修改版,但部分有心人士卻也可以用科技來輕易地製作假內容,例如美國眾議員卡特茲(Alexandria Ocasio-Cortez)就曾經在他人製作的假訪問影像當中,被竄改為不知道如何回答問題的樣子。

 

至今「deepfake」科技已經造成引發加速假新聞、假消息傳播的疑慮,但「DeepNude」程式則又再顯示相關科技可以很快地被用以讓非專業的一般大眾,有能力更輕易地製造假影像來從事威脅、霸凌等惡行,而女性在這股衝擊下更容易成為受害的一方。

 

 

技術上,deepfake因為並非真實影像,難稱是法律上的復仇式色情(revenge porn)內容,但不代表不會對人造成傷害。報導指出,deepfake技術已遭有心人用以假造朋友、同學的色情內容。另外,女星史嘉蕾喬韓森(Scarlett Johansson)等人也是假影片的受害者。

 

本次備受爭議的DeepNude能讓使用者輕易製作假裸照,引發外界擔心。根據《商業內幕》報導,使用該程式免費版本所產生的照片,上面會附有浮水印,但網站也販售一種付費版本,只要50元美金購買,就能夠讓用戶去除浮水印,能在Windows 10、Linux等系統的裝置上使用。

 

 

科技濫用 「彷彿身體不再屬於自己」

 

DeepNude恐讓沒有特殊技術的一般人也能偽造色情內容來報復女性,引發倡議人士對該程式的強烈批評。反復仇式色情的倡議組織「Badass」創辦人兼執行長鮑德溫(Katelyn Bowden)就向媒體《Motherboard》表示,該軟體「極為可怕」,恐讓所有人都面臨成為復仇式色情受害者的威脅之下,「這項科技不應該讓公眾取得」。

 

《Motherboard》也引述美國馬里蘭大學法學院教授奇特隆(Danielle Citron)表示,這類科技是對「性隱私權的侵害」。奇特隆說,雖然科技生成的裸體圖象並非受害者真實的身體,但是「別人正在想著看到了妳的裸體...就像一名deepfake的受害者告過訴我—這讓她感覺到像是有成千上萬人看著她的裸體,彷彿身體不再屬於自己。」

 

 

但DeepNude的幕後開發者「Alberto」也有話要說。他向《Motherboard》表示,自己並不是偷窺狂,只是「科技狂熱者」。Alberto說,DeepNude是根據一個開放原始碼、用以從事影像對影像轉譯的演算法「pix2pix」而來。據報導,pix2pix幕後的電腦科學研究者則對於DeepNude使用自家研發成果的做法感到「相當擔心」。

 

協助創造pix2pix的麻省理工學院教授伊索拉(Phillip Isola)透過電郵向《商業內幕》表示,他們的成果已經幫助許多醫師、藝術家、製圖師與音樂家工作更順利,「作為科學社群,我們應該認真討論的是,如何在推展領域向前的同時,設置合理的預防措施,以更加確保可以我們可以受其正面用途帶來的好處,並減少濫用發生。」

 

面對爭議不斷,DeepNude曾一度表示因為流量太大,需要維護而下架程式,但會在「幾天之內」重新推出服務。不過根據官方的最新聲明指出,由於用戶濫用的風險太高,已決定今後不再重新上架,也不再同意用戶散布、使用該程式,「對DeepNude來說,這個世界還沒準備好。」

 

關鍵字: DeepNude 人工智慧 AI





【加入上報國際圈,把繽紛世界帶到你眼前!】

提供新聞訊息人物邀訪異業合作以及意見反映煩請email至國際中心公用信箱: intnews@upmedia.mg,我們會儘速處理。

 

 

 



回頂端