︿

5年內AI恐帶來全新威脅 新報告呼籲全球防範惡意應用

傅莞淇 2018年02月22日 07:01:00
在「伊斯蘭國」伊拉克據點發現的無人機。(美聯社)

在「伊斯蘭國」伊拉克據點發現的無人機。(美聯社)

由26名人工智慧(AI)領域專家在21日提出的一份新報告指出,無節制地發展AI,可能在未來5年內受到罪犯、恐怖分子及獨裁政權的利用,帶來新型態的網路及實體犯罪、政治壓迫等威脅人民日常生活的風險。報告呼籲全球正視AI可能帶來的負面影響,盡早合作予以防範。

 

這份100頁長的報告指出,AI科技如今在多領域獲得應用,但在不當使用下可能帶來的風險,是較少被提及與注意的。報告預期,擴大應用AI可能加強現存威脅、並帶來新的威脅。如果不即時行動,AI可能大舉革新心懷不軌者的行動力,危害人民的日常生活。

 

 

降低惡意攻擊的行動門檻

 

在虛擬世界中,AI可降低惡意駭客攻擊的門檻,自動化尋找軟體弱點與潛在受害者的過程。從事網路釣魚等行為可能變得更加容易,為更多人帶來更大威脅。

 

在現實世界中,最常被討論的是自動化機器攻擊,俗稱為「殺戮機器」(slaughterbots)。這樣的機器攻擊也可以用來鎖定重要基礎建設以進行勒索。報告中並提出一個想像:一個被裝入炸彈的掃地機器人混入德國財政部內,直到人臉辨識出財政部長後才靠近並引爆炸彈。

 

 

AI科技也可能帶來政治層面的衝擊。政府可以採用自動化監控壓迫異議分子,更快發現並定位有意發起抗議的人士,提前予以壓制。AI也有助於發動個人化的惡意宣傳,影響選民決策。或是在社群網絡上製造大量假新聞,淹沒真實的資訊。

 

英國劍橋大學存在風險研究中心執行主任歐吉爾泰格(Seán Ó hÉigeartaigh)表示,這些風險都是真實的,「我們必須現在做出決定。我們的報告呼籲全球政府、機構與個人做出行動。」

 

 

較樂觀者認為,AI不會帶來如此強烈的威脅。資安公司「CrowdStrike」聯合創辦人阿爾佩洛維奇(Dmitri Alperovitch)指出,資安攻防戰現在已經存在,AI對雙方都帶來影響。但他預測防禦方會較占上風,因為AI的強項在於處理大規模資料,而這個能力對防禦較有幫助。

 

報告也承認AI是抵抗AI最好的工具,但指出AI打造的防禦工具不是萬靈丹,尤其是在現實世界中。

 

第三次軍武革命

 

特斯拉(Tesla)及「Space X」執行長馬斯克(Elon Musk)、物理及宇宙學家霍金(Stephen Hawking)等116位相關領域學者及創業者在2017年連署要求聯合國(UN)禁止研發及使用殺戮機器人。

 

這份連署擔心,軍武競賽將隨AI發展迎來繼火藥與核武後的「第三次革命」。自動化武器參與的衝突規模將更勝以往,「我們沒有太多應對的時間。潘朵拉的盒子一旦被打開,將很難再關上。」

 

 

21日報告的共同作者、英國牛津大學人類未來研究所研究員布倫戴奇(Miles Brundage)表示,他特別擔心的是自動化的無人機被用來進行恐怖攻擊,與自動化網路攻擊被罪犯或官方利用。他表示,「長期來說,AI帶來的是助益或傷害,主要是人類的選擇,而非科技本質的結果。」
 






【加入上報國際圈,把繽紛世界帶到你眼前!】

提供新聞訊息人物邀訪異業合作以及意見反映煩請email至國際中心公用信箱: intnews@upmedia.mg,我們會儘速處理。

 

 

 



回頂端