• |
  • 極速報價
  • |
  • 會員
  • 產品服務 / 串流版
  • 設定

14/06/2019

【問題多多】恐加劇種族歧視、黑客攻擊:三藩市立法禁用人臉辨識

  • 加入最愛專欄
  • 收藏文章
  • 方展策

    方展策

    少年時,曾研習 Geographic Information System,可惜學無所成,僥倖畢業。成年後,誤打誤撞進入傳媒圈子,先後在印刷、電子、網絡媒體打滾,略有小成。中年後,修畢資訊科技碩士,眼界漸擴,決意投身初創企業,窺探不同科技領域。近年,積極鑽研數據分析與數碼策略,又涉足 Location Intelligence 開發項目;有時還會抽空執教鞭,既可向他人分享所學,亦可鞭策自己保持終身學習。

    智城物語

  無論是美國的Amazon Go無人商店,抑或杜拜的智慧機場自動過關通道,均有用上人臉辨識系統,可見在未來智慧城市佈局中,人臉辨識已是不可或缺的核心技術之一。不過,這亦是智慧城市最引人爭議之處。近日,美國加州三藩市市議會通過了一項新法案,將禁止政府部門使用面部識別監控系統,成為美國首個明文規定不准使用此技術的大城市。

 

  2019年5月14日,三藩市監督委員會(Board of Supervisors)以8比1的大比數投票通過,禁止包括執法部門在內的當地政府機關採用人臉辨識,惟有關法例卻未有限制聯邦部門,以至歸聯邦政府管轄的機場與碼頭等設施使用此技術。

 

  對人臉辨識持反對意見的不止於三藩市。同屬加州的奧克蘭市正在蘊釀實施類似法案;麻薩諸塞州薩默維爾市也考慮立法禁用面孔識別。究竟此技術有何潛在問題呢?

 

  2018年,先後有兩份研究報告指出,微軟及IBM的人臉辨識技術對不同人種的識別準確度存有很大落差:男性白人的錯誤率低於1%,但女性黑人的錯誤率卻可高達21%至35%,難免令人擔心警方使用此技術後,或會增加黑人冤案率。種族歧視在社會上是一個非常敏感的話題,三藩市新法案便指出,人臉辨識技術將惡化種族不平等,對不受政府監控的自由構成威脅。如果有關方面未能克服此技術缺憾,社會各界仍會對人臉辨識系統充滿質疑。

 

為三藩市執法部門提供人臉辨識方案的微軟表示,已對該技術作出某種形式的監管,但仍抵擋不了監督委員會的質疑,結果禁用人臉辨識的新法案獲大比數通過。(圖片來源:Microsoft官網)

有研究指出,IBM的人臉辨識技術在辨認白人男性的準確度上,遠勝於黑人女性。(圖片來源:Intel官網)

 

  除辨認準確度外,人臉辨識數據的安全性亦同樣備受質疑。人們的面部特徵被數碼化,並儲存在數據庫作為面孔識別演算法的分析基礎。隨著數據儲存量愈大,數據價值愈高,遭受黑客攻擊的風險亦會愈來愈高。一旦這些人臉辨識數據被黑客竊取,閣下的面孔就可能不再屬於你自己,而會變成屬於任何人,造成個人數據被濫用的問題。

 

  2019年2月,荷蘭非牟利組織GDI基金會網絡安全研究員Victor Gevers在Twitter爆料指,深圳市深網視界科技有限公司(SenseNets)的人臉識別數據庫發生資料外洩事故,逾250萬人的資料在沒加密的情況下可供他人任意閱覽或下載;除人臉識別圖像外,當中還包括當事人被識別身份的位置、身份證號碼和出生日期等個人資料。因此,對人臉數據的安全疑慮,絕非杞人憂天。

 

  近年美國有不少民間團體擔心,人臉辨識技術有機會被政府濫用。2018年,美國公民自由聯盟等團體曾向亞馬遜要求,不要售賣面部識別技術予執法部門,以免非裔女性被誤認為疑犯而遭逮捕。可惜事與願違,亞馬遜及其他科技公司已跟美國警方合作,將人臉辨識技術應用於監控系統和警員穿戴的視像鏡頭,同時機場與邊境管制區亦已引入此技術於保安部署上。

 

網絡安全研究員Victor Gevers在Twitter上爆料指,深網視界的人臉識別數據庫沒有密碼保護,可供人任意閱覽或下載。(圖片來源:Victor的Twitter個人帳戶)

 

  那麼,除了等待政府立法規管外,還有甚麼方法可抗衡這股人臉辨識浪潮呢?或許「以子之矛,攻子之盾」是另一選擇。加拿大多倫多大學已成功開發出一套可反制人臉辨識的演算法:當知道人臉辨識系統是以甚麼面部特徵來辨認面孔後,AI演算法便可針對相關特徵動些肉眼看不出分別的小手腳,譬如修改眼角,但卻可欺騙人臉辨識系統,讓它無法認出修改後的面孔;初步測試後發現,可將面孔識別準確度由100%推低至0.5%。此演算法可以套用在類似Instagram的濾鏡工具上,開發團隊希望日後透過手機應用程式或網站,公開發放這個特製濾鏡,讓公眾可保護自己的面孔數據。

 

亞馬遜人臉辨識技術Rekognition以深度學習為基礎,可進行面部分析、人臉比對、以及面部辨識。(圖片來源:Amazon Web Services)

 

「港元定存息率」大比拼 食息都要食得醒 https://goo.gl/i9KA4Y
我要回應

你可能感興趣

  • 生活副刊
  • DIVA
  • 健康好人生