人民網>>人民創投

人臉識別技術應用的機遇與挑戰

戴麗娜 鄭樂鋒

2019年12月26日09:51  來源:光明日報

  西北工業大學一名學生在圖書館人臉識別系統終端前登記注冊個人信息。新華社發

  資料圖片

  人臉識別技術的研究最早起源於20世紀60年代,到90年代進入了初級應用階段。近年來,隨著計算機視覺技術、大數據、人工智能、機器學習等技術的疾速發展,人臉識別技術在各國出現了爆發式增長,給人們的工作和生活帶來了極大便利。

  根據全球第二大市場研究機構Markets and Markets年中發布的預測,2019年全球人臉識別市場規模預計為32億美元,五年后將達79億美元,市場的主要驅動力來自於各國政府、國土安全、金融、零售、醫療保健等服務領域。然而,人臉識別技術在快速發展、深入社會的同時,也給我們帶來了諸多安全挑戰。個人隱私數據泄漏、技術濫用等造成的信息安全風險問題亟待解決。2019年發生的多起人臉識別安全事件已引起了全球各界人士對人臉識別技術應用規制的深層反思。

  人臉識別技術帶來的新機遇

  目前,從全球人臉識別技術領域的應用場景布局來看,安防、金融、交通是相對布局較為成熟的領域,而在零售、廣告、智能設備、教育、醫療、娛樂等領域也均有較多應用場景,為經濟社會的發展以及人們日常生活的便捷帶來了新機遇。

  1.智能安防領域

  隨著智慧城市、大數據、人工智能等項目開展和技術應用,智能安防領域對於人臉識別技術的需求越來越大。人臉識別作為一種非常重要的身份識別手段,在公安巡檢、網上追逃、戶籍調查、証件查驗等方面得到了廣泛應用。同時,人臉識別也可以用作訪問控制的一種手段,延伸出了諸如考勤系統、門禁系統等方面的應用,確保隻有經過授權的人員才能進入某些區域。

  2.金融交易領域

  人臉識別在金融交易領域的應用也非常普遍,其應用場景主要包括人臉識別存取款、電子銀行遠程開戶、在線網絡支付等方面。早在2013年,芬蘭創業公司Uniqul就推出了全球第一款基於臉部識別系統的支付平台。Uniqul的人臉識別系統將用戶面部生物數據與數據庫中的賬戶匹配,短時間內即可快速完成身份確認和交易流程。

  3.公共交通領域

  人臉識別技術在公共交通中的應用主要包含航空、火車、汽車、地鐵等公共出行領域。國際民航組織規定,自2010年起,118個成員國家及地區必須使用機讀護照,而人臉識別則成了首選模式。人臉識別技術在航空安檢中率先得到應用,而后逐漸擴展到部分城市的火車站和地鐵站等公共交通安保領域。

  4.營銷零售領域

  目前,人臉識別在營銷零售領域的應用正快速擴展。以無人零售為代表的新零售場景大量使用了人臉識別技術,無人售貨機遍布各大商場、樓宇、地鐵、車站等公共場所,無人便利店自2017年起廣泛使用了人臉識別安全系統。此外,人臉識別技術還廣泛應用於廣告投放和識別客戶信息(如客戶性別、年齡、表情、膚質、觀看廣告時長等),並通過分析這些數據有針對性地向客戶推送最有吸引力的廣告。早在2013年,全球第三大零售巨頭Tesco(樂購)就曾宣布,計劃在英國450間加油站便利店的廣告熒屏上加入一項叫OptimEyes的人臉識別技術。OptimEyes可根據感知到的受眾情況智能選擇投放廣告內容。

  5.智能設備解鎖

  2017年9月,蘋果新版手機iPhoneX率先應用了FaceID屏幕解鎖功能,隨后,各大手機品牌廠商相繼應用了人臉識別解鎖功能,引發了智能終端設備人臉識別應用的熱潮,成了人臉識別產業新的快速增長點。

  6.醫療領域

  2019年1月,《自然》雜志刊載了人工智能公司FDNA發布的一項最新研究:DeepGestalt是基於深度學習的人臉識別醫療系統,可以通過人臉識別技術辨識基因疾病,從而幫助醫生進行診斷。FDNA的研究人員訓練了17000多張面部圖像,能夠以較高的精度從人臉照片中識別出罕見的遺傳綜合征。目前,經過訓練的DeepGestalt大約能從面容上識別200多個綜合征,准確率達到91%左右。

  7.教育領域

  除了在各種重大考試中應用人臉識別技術防止舞弊,人臉識別技術也應用於課堂簽到、課堂效果監測等方面。在課堂上運用人臉識別技術,通過對學生面部表情進行識別,根據學生的情緒表現監測分析,從而可以進一步提升教學效果。卡內基梅隆大學(CMU)的研究人員曾展示過一套全面的實時傳感系統——“EduSense”。該系統使用兩台壁挂式攝像頭(一台對著學生,一台對著老師),單個攝像頭可以看到教室中的每個人,並自動識別信息,並可以對視頻和音頻進行分析。

  8.尋找失蹤人口

  人臉識別系統已經成為尋找失蹤人口的有效工具之一。將失蹤人員照片添加到數據庫中,運用人臉識別技術進行信息比對,可及時向執法人員發出警報通知。2019年4月,印度婦女和兒童發展部向高等法院提交的一份文件顯示,德裡警方通過人臉識別技術,在4天時間裡,從45,000生活在兒童之家的兒童中識別出2930失蹤兒童,並確認了他們的身份,努力協助他們與家人團聚。

  個人隱私和數據保護的隱患

  人臉識別技術應用在提升身份認証便捷度和效率的同時,也給個人隱私和數據保護帶來了巨大的挑戰。僅在2019年,媒體就報道了多起人臉識別技術使用不當的相關事件:

  問題場景一——數據泄露隱患:6月6日,微軟公司疑似因隱私保護和授權瑕疵方面的原因刪除了曾為全球最大的人臉識別數據庫MS Celeb。據悉,MS Celeb數據庫於2016年發布,擁有超過1000萬張圖像以及將近10萬人的面部信息,用於培訓全球科技公司和軍事研究人員的面部識別系統。而在微軟刪除該數據庫前,IBM、鬆下電氣、阿裡巴巴、輝達、日立、商湯科技、曠視科技等多個商業組織都曾使用過MS Celeb數據庫。

  問題場景二——使用必要性存疑:8月21日,瑞典北斯部蓋樂夫提市的一所高中因使用面部識別技術來監控學生的出勤情況,被瑞典數據監管機構(The Swedish Data Inspection Authority,DPA)處以20萬瑞典克朗(人民幣14.8萬元)的罰款。這是歐盟的《通用數據保護條例》(General Data Protection Regulation,簡稱GDPR)生效以來,瑞典數據監管機構公布的首張罰單。瑞典數據監管機構認為,該學校使用面部識別技術來監控學生的出勤情況,事先未向瑞典DPA尋求咨詢,在日常環境中對學生進行攝像監控等行為侵犯了學生的隱私,違反了GDPR關於處理敏感生物特征數據的規定。

  問題場景三——濫用數據風險:此前,伊利諾伊州的一起集體訴訟案指控臉書公司濫用面部識別數據,並要求賠償350億美元,臉書要求美國一家法院駁回此案。10月18日,舊金山第九巡回法院的三名法官組成的小組駁回了臉書的請求。此案涉及700萬用戶,臉書可能會面臨向每個用戶賠償1000至5000美元的罰款,總罰款金額最高可能達到350億美元。法庭文件說:“臉書的面部識別技術違反了伊利諾伊州的生物特征信息隱私法(BIPA)。違反BIPA的規定實際上損害了用戶的隱私,或會對他們的隱私構成實質性的威脅。”

  問題場景四——安全隱憂:12月12日,美國人工智能公司Kneron測試團隊在荷蘭最大的機場史基浦機場用手機屏幕上的一張照片騙過了自助登機終端,再次引起了人們對人臉識別准確性和安全性的關注。此外,該團隊還用一個特制的3D面具成功蒙騙了微信和支付寶等人臉識別支付系統。同樣引起了人們對人臉識別支付安全性的擔憂。

  上述事件報道不僅引起了公眾的對人臉識別技術應用邊界與個人隱私保護的高度關注,也促使業界和監管者對一路高歌猛進的人臉識別應用進行深刻反思。

  第一,嚴重侵犯個人隱私。首先,大部分公共場所在採集人臉信息時並未明確告知,使得被動採集成為常態﹔其次,在機場、火車站、公園、銀行、學校、公司(小區)門禁或考勤等人臉識別的應用中用戶幾乎完全沒有選擇權利,隻能被動接受﹔再次,人臉識別技術濫用,隱私安全風險高筑,面相分析、換臉、換裝、試妝、測膚質等娛樂小程序,以及刷臉支付售貨機等隨處可見,毫無邊界的人臉識別技術應用,正肆無忌憚地收集著用戶的人臉數據及個人隱私。

  第二,數據安全保障機制缺失。數據採集、存儲與使用等規范缺失,導致數據泄漏風險極高。首先,當前關於人臉識別技術產品生產企業資質、產品的安全標准和市場准入標准,數據的存儲資質和時限,以及對已獲取數據的使用權限等缺少明確規定。其次,生產企業和提供應用服務的企業在數據存儲和使用中缺乏透明度。再次,網絡安全生態環境持續惡化,人臉數據庫泄漏事件也時有發生。

  第三,識別技術有待進一步完善。目前,人臉識別應用還達不到百分之百的准確。尤其是針對不同種族和民族群體識別的錯誤率差異比較大。例如,麻省理工媒體實驗室和微軟的一項合作研究曾顯示,人臉識別的准確率與膚色高度相關。當被識別的圖像中為白人時,正確率超過90%﹔而對於膚色較深的女性,准確率僅為65%。因此,用於比對的基礎數據庫不僅需要考慮種族和民族樣本平衡性,也需要盡可能確保樣本數量的有效性。此外,姿勢、裝飾(帽子、眼鏡、口罩等)和光線等變量均會對識別結果產生影響。

  第四,部分不當應用可能導致歧視。現今,人臉識別技術在招聘、交友、婚戀、教育等領域也屢見不鮮。通過對人臉數據的分析,對個體的性格、心理、能力、情商等進行評定,給出相應建議。然而,限於技術水平、原始數據精准度、算法隱含的價值判斷,以及數據庫樣本量的有效性等諸多因素,使得這類應用可能擴大某種偏見,引發歧視。

  此外,作為身份驗証手段,人臉識別技術存在先天缺陷。相對於指紋、虹膜、聲音、聲紋、基因等其他用於身份識別的生物信息,人臉暴露度較高,更容易實現被動採集。這也同時意味著人臉信息的數據更容易被竊取,不僅可能侵犯個人隱私,還會帶來財產損失,甚至大規模的數據庫泄露還會對一個族群或國家帶來安全風險。

  針對上述問題,有必要對人臉識別技術的無限制推廣和擴張及時“剎車”,並盡快採取相應措施防范和規制人臉識別技術的應用。

  如何防范人臉識別技術的潛在風險

  人臉識別技術本質上是一種基於大規模人臉數據分析的人工智能身份驗証應用技術。因此,合理和合法使用該項技術,還需充分認識人臉數據的意義和價值:一是,人臉數據可被還原成人臉圖像,關涉到個體的肖像權,因而相關濫用行為極易侵犯此項權益﹔二是,在數字經濟時代,人臉數據具有一定的經濟價值。一方面,基於人臉數據的人臉識別技術應用給相關企業和行業帶來了巨大的經濟利潤,而用戶不僅幾乎沒有得到任何經濟補償,甚至還可能給自身的權益受到侵害埋下巨大隱患﹔另一方面,作為身份識別和驗証的人臉數據,一旦被竊取、濫用,可能給用戶直接帶來安全威脅或財產損失,如門禁和支付應用。

  有效防范人臉識別技術可能帶來的風險需要從完善相關法規政策、加強政府監管、提高行業自律和提升個體素養等層面系統規避人臉識別技術應用帶來的風險和挑戰。

  第一,需盡快完善包括人臉識別在內的人體生物信息使用法律法規。應劃定人臉識別技術使用邊界,並建立人臉識別技術應用申報備案和審批制度。遵循“必要性”原則,防止因商業利益濫用此技術。例如,對於非封閉式公共場所安裝人臉識別設備(如公園驗票等)必要性展開充分評估。

  第二,採集人臉數據前須告知用途和可能風險,以保障公眾知情權與選擇權,防止企業過度收集和利用。尤其是企業或政府機構在公共場合以拍攝、錄像、掃描等方式採集可在人臉識別中使用的數據,應公開、明確告知,以便不願被採集的人可以避開這些區域。同時,對於一些商業或娛樂性應用,不僅必須履行告知義務,還需為用戶提供“退出”選項。即當用戶不想再繼續授權使用其面部數據時,應用提供方必須提供“退出”或“刪除”路徑,以確保被採集方的“選擇權”和“被遺忘權”。

  第三,對人臉數據存儲權限做出明確規定,確保數據在採集、傳輸、使用和存儲過程中的安全性。可通過第三方認証的方式,確認企業是否具有相應技術能力保障人臉數據的安全性。此外,人臉數據應採取本地存儲方式,並禁止跨境流動。

  第四,根據數據用途,明確規定人臉數據的存儲主體、時限和採集,以最大限度保証數據安全。人臉識別技術使用過程中通常涉及人臉識別技術產品提供方和採納方。其中,採納方既包括維護公共安全的特殊主體相關政府公共管理部門,同時也包括一般的企事業單位主體。但無論是哪類主體都需避免濫用職權過度採集人臉數據,並同時承擔數據保護的責任。依據人臉數據的使用目的和需要,可將數據的存儲時限分為即時、短期和長期三類,並盡可能選擇即時存儲方式,即比對后不對掃描到的人臉數據進行保存。

  第五,應建立和健全行業組織,建立人臉識別行業自律准則。在數字時代,技術發展日新月異,法律法規滯后於技術發展已經成為新常態。因此,完全寄希望於政府治理人臉識別既不可能,也不現實。因此,建立人臉識別技術企業聯盟類組織,確立相應倫理原則和安全標准,有利於人臉識別行業良性發展。

  第六,認識人臉數據的價值,增強隱私自我保護意識。當前,人臉識別技術正處於快速應用之中,個人在面臨各種信息採集的同時,必須要增強自我隱私保護意識,認真閱讀相關隱私條款,對於信任度有存疑可能的應用,應當明確拒絕其信息收集行為,警惕個人隱私泄漏風險。

   (作者:戴麗娜,系上海社會科學院新聞研究所副所長、副研究員﹔鄭樂鋒,系上海社會科學院互聯網研究中心研究助理)

(責編:王震、陳鍵)

深度原創

特別策劃

    第二屆內容科技大賽總決賽 人民戰“疫”內容科技大賽 首屆人民網內容科技大賽總決賽 人民網內容科技創業創新長三角決賽
二維碼