人民網>>人民創投

如何應對人臉識別技術的安全隱憂

蔡雄山 袁俊

2019年12月26日09:50  來源:光明日報

  當前,人臉識別已經應用到地鐵安檢、動車檢票、移動支付等多個日常生活領域,人臉生物信息利用日益普及的同時也存在濫用風險。例如,網絡中大量存在的針對電商平台、特定設備的“過臉”技術解答與技術教程,不斷地鑽技術漏洞濫用人臉信息﹔人臉識別企業也發生過相關數據泄露事件,超過250萬人的核心數據被獲取,容易滋生數據黑灰產交易,進一步擴大安全風險。

  人臉識別作為新興生物信息技術,尚無專門立法規定,也尚未建立嚴格的准入制度與監管制度。面對面部信息的收集主體多、安全保障弱的現狀,監管有待於進一步探索如何建立分級應對精細化管理機制。

  人臉識別等類似大規模隱私技術切身涉及公民基本權利,需要引入“正當程序”。在公共政策的出台過程中,要廣泛進行話題辯論,鼓勵公眾討論,甚至在爭議較大的核心問題上聽取公眾意見,充分保障民眾在公共話題上的參與權與知情權。

  美國的人臉識別監管法案

  美國在聯邦層面沒有統一的法律規制人臉識別數據的收集和使用,而是各州針對生物特征信息單獨立法,其中美國伊利諾伊州與加利福尼亞州頒布的《生物信息隱私法案》最為典型。

  伊利諾伊州於2008年頒布了《生物信息隱私法案》,是美國國內第一部旨在規范生物標識符以及信息的收集、使用、處理、存儲、保存和銷毀的法律。加利福尼亞州於2017年頒布了《加州生物信息隱私法案》。綜合這兩部法案,其對規制人臉識別體現如下特點:一是明確人臉識別數據屬於生物信息。《加州生物信息隱私法案》首先以概括式+列舉式的立法技術對“生物信息”內涵予以細化。其規定任何能夠捕獲的直接或間接源自視網膜或虹膜掃描、指紋、聲紋、手或臉掃描的信息都屬於生物信息,但不包括文身或身體描述(例如身高,體重,頭發的顏色或眼睛的顏色)。二是確立知情同意原則。法案要求初次收集面部數據需要符合“知情同意原則”,告知生物信息收集的情形、收集目的、信息留存時間,並獲得書面同意。同時在未經當事人同意或者非法律規定的例外情形時,不得將面部識別數據出售於第三方。三是施加企業法定期限刪除義務。企業需在書面政策中設立生物識別數據保留時間表。當面部收集數據的目的已達或距信息主體與企業最后一次聯絡已滿三年時,應該銷毀相關數據。四是確立企業審計制度,需要對技術使用相關情況提供報告。

  在州法制定之外,美國個別城市也嘗試採取禁令方式禁止政府使用人臉識別技術。舊金山市於2019年5月通過了《停止秘密監視條例》,成為美國第一個禁止政府使用人臉識別系統的城市。除了由聯邦政府控制的機場與港口外,禁止全市53個政府部門包括警察局在內隨意使用人臉識別技術。如果正在使用該技術的,必須向市議會暨郡監督理事會匯報過去的使用情況﹔而個別有特殊需要、將來准備使用該技術的部門,包括購買該技術所需器材、研究經費等,均必須向議會暨理事會提交詳細報告,說明使用目的、場所、范圍,並召開公眾聽証會。此外,條例也規定了在急需監視技術應對迫在眉睫的死亡危險或嚴重人身損害時可以使用的若干情形。例如使用時間要控制在事態發生后的7天內或事件結束后(以較早時間為准)﹔原則上隻保留與緊急事件相關的面部數據,銷毀無關數據,不得泄露給第三方﹔在緊急情況發生后的45天內,向監事會提交書面報告等內容。

  薩默維爾市與奧克蘭市也於今年6、7月分別通過了《人臉識別全面禁止條例》與修正后的《監視及社區安全法案》,對政府使用人臉識別技術進行了規制。

  架構合理前沿技術治理體系的國際趨勢

  面對面部識別可能侵犯公民隱私的現狀,歐盟先是2019年6月份成立了人工智能高級別專家組(HLEG),考慮面部識別需要何種方式的監管。專家組此后發布報告,提議歐洲應該禁止AI進行大規模監視和社會信用評分。報告寫道,政府應承諾隻部署和採購值得信賴的人工智能系統,其設計宗旨是尊重法律和基本權利,符合倫理原則,保障技術對全社會的向善品質。

  在專家組不斷評估的同時,立法也不斷跟進。今年8月22日,歐盟委員會擬通過新立法以全面改革面部識別法規,限制公司和公共機構不加選擇地使用面部識別技術,以保護公民免受公開監視,甚至為人工智能面部識別設定國際通行的清晰、可預測的標准。

  技術進步的大勢不可逆轉,但是如何趨利避害,在用好新技術的同時防范內險的方法卻值得深思。

  首先,應完善人臉識別相關立法,尤其對於公共場合大規模應用需要有章可循。對於公共場合大規模應用,應明確人臉識別信息收集的范圍需與提供服務直接相關的必要性,信息使用應將對隱私的不利影響控制在最小范圍和限度內,必要場景考慮設立“黑名單”制度。

  其次,以倫理准則為起點,建立一套人工智能治理體系,確保科技向善。企業應發揮倫理准則和行業自律等軟法性質的非強制性規則,積極設立人工智能倫理委員會,對人工智能相關爭議問題進行倫理審查,確保科技向善。

  再次,政府公共部門應嚴格遵守正當程序,廣泛聽取民意。公共機構若要大規模採用人臉識別技術應當遵守嚴格的程序限制,履行嚴格的審批。

   (作者:蔡雄山,系騰訊研究院法律研究中心副主任﹔作者:袁俊,系騰訊研究院助理研究員)

(責編:王震、陳鍵)

深度原創

特別策劃

    第二屆內容科技大賽總決賽 人民戰“疫”內容科技大賽 首屆人民網內容科技大賽總決賽 人民網內容科技創業創新長三角決賽
二維碼