臉部辨識助長種族、性別偏見 亞馬遜禁美國執法機關使用

吳洛瑩 2020年06月12日 18:11:00

針對警方執法粗暴以及臉部辨識技術有瑕疵產生的疑慮,近日在全美掀起抗議。(湯森路透)

種族歧視議題造成美國社會衝突加劇,全美電商龍頭亞馬遜(Amazon)宣布將暫停警方使用臉部辨識技術執法,為期一年。臉部辨識系統先前遭批評,偵測較深的膚色會出現錯誤,系統本身存有偏見等。

 

美國非裔男子佛洛伊德(George Floyd)日前因遭白人警察以膝蓋壓制脖子窒息而死,引起全美掀起反種族歧視示威,並開始關注警察執法使用科技追蹤人民等問題。

 

 

《美聯社》(AP)報導,執法機關會使用臉部辨識系統辨別嫌疑犯身犯,但是批評意見認為,該技術有被濫用的情形。2019年開始,陸續有幾個美國地方政府禁止警方和政府機構使用臉部辨識系統執法。

 

除了亞馬遜之外,IBM已於9日宣布,將停止臉部辨識技術業務,擔憂這項技術可能會被用於大規模監視和種族歸納(racial profiling )。

 

目前尚不清楚,亞馬遜的禁令是否包含聯邦政府的執法機構,該公司尚未對此回應。

 

亞馬遜禁止美國警察使用其臉部辨識技術服務,為期一年。(湯森路透)

 

亞馬遜的「Rekognition

 

亞馬遜的人臉辨識技術被稱為「Rekognition」,公民團體和亞馬遜自家的員工一直推動要求公司停止販售這項技術予政府機關,稱這可能被用於侵犯隱私,甚至針對特定的有色人種偏見執法。

 

亞馬遜10日指出,希望國會能對臉部辨識技術採取強而有力的監管機制,盼藉此一年的暫停時間,讓國會有足夠的時間端出適當的規則。

 

喬治城大學(Georgetown University)法學院隱私與技術中心學者賈微(Clare Garvie)表示,亞馬遜的決策是重要並具有象徵性的一步,但是這仍無法真正改變臉部辨識在美國的版圖,因為亞馬遜的技術並未獲得主流使用。

 

 

賈微曾做過一次研究指出,僅有2個美國執法單位使用或是測試「Rekognition」。

 

賈微指出,奧蘭多(Orlando)警局曾測試過「Rekognition」,但是後來沒有選擇使用。俄勒岡州的華盛頓縣警長辦公室是最公開使用該技術的單位,但是亞馬遜宣布暫停一年的消息後,該機關也宣布無限期停止使用臉部辨識執法。

 

帶有種族性別和年齡的偏見

 

關於臉部辨識系統的缺陷,麻省理工學院(MIT)的學者布蘭維妮(Joy Buolamwini)的研究發現,臉部辨識軟體有膚色種族和性別的偏見。這個結果促使微軟(Microsoft)和IBM改善他們的系統,但卻激怒了亞馬遜,該公司2019年批評布蘭維妮的研究方法。

 

後來一份由美國官方領導的研究報告也證實了臉部辨識的缺失。美國國家標準技術研究院(National Institute of Standards and Technology) 對幾個主流的臉部辨識系統進行測試,其中並未包含沒有交出其演算法的亞馬遜,結果發現這些系統經常會基於個人種族、性別和年齡而且不公平的判斷。

 

布蘭維妮對於亞馬遜停用的決策表示歡迎,並點名微軟也須採取堅定立場。她說,更重要的是,立法者需要挺身,約束有害的科技部署。

 

微軟一直呼籲對臉部辨識進行規範,以防侵犯人權的行為發生,但並沒有表示該公司不會將這項技術售予執法單位。

 

 

除了這些知名大廠之外,賈薇表示,許多美國機關也使用較不知名廠商設計的臉部辨識技術,如日本電氣(NEC)、摩托羅拉無線電解決方案(Motorola Solutions)或是歐洲廠商Idemia、金雅拓(Gemalto)等公司的技術。

 

但亞馬遜這次並非全盤放棄臉部辨識系統,而是仍然開放協尋失蹤兒童等社福組織,使用「Rekognition」。

 

科技隱私與執法的兩難

 

而在亞馬遜和IBM宣布之前,民主黨國會議員欲通過一項警察改革法案,其中就提到要限制使用臉部辨識功能,特別是警用隨身攝影機,雖然這在美國沒有被普遍使用,但是其可以監視群眾,並且即時識別人員的功能,仍引起美國兩黨議員的疑慮。

 

關於臉部辨識技術的使用,科技產業一直以來反對禁止。但有的廠商呼籲,制定聯邦法律,制定一個使用技術應有的規範準則。

 

 

華府智庫資訊科技與創新基金會(InformationTechnology and Innovation Foundation)副總裁卡斯楚(Daniel Castro)表示,愈加顯而易見的是,缺乏一致的國家法規,將會導致這類有價值的技術延遲交到執法部門的手上,進而拖延調查讓社區的安全性降低。

 

紐約大學布倫南司法中心(Brennan Center for Justice at New York University)律師迪亞茲(ÁngelDíaz)說,樂見亞馬遜的暫停令,但他表示,有鑑於許多研究表明該技術對種族存有偏見,應快更快實行,同時同意國會須採取行動。

 

【加入上報國際圈,把繽紛世界帶到你眼前!】

 

 

提供新聞訊息人物邀訪異業合作以及意見反映煩請email至國際中心公用信箱: intnews@upmedia.mg,我們會儘速處理,一定回覆

 

歡迎發樓「上報國際圈」臉書頻道   與  INSTAGRAM

 

現在上報國際新聞也可以用聽的,在Apple PODCASTGoogle PODCAST

 

一起加入上報Telegram,新聞不漏接!@Telegram

 

 


回頂端