法制網首頁>>
讓人臉識別應用以“必要”為限
人臉識別應用引爭議業內人士呼吁待時機成熟建專門法律制度
發布時間:2019-11-12 10:47 星期二
來源:排列三的直选推算方法


□ 法制日報全媒體記者  朱寧寧

“難道我們就要一輩子躲在井底下嗎?”

本月初,經典科幻電影《終結者:黑暗命運》如期上映。影片中,大反派使用人臉識別技術鎖定對方的位置信息進行追殺。面對如影隨行的危險,女主角Dan絕望而無奈地說出了這句話。很快,大反派又通過人臉識別找到了他們……

實際上,電影中的情節已經在現實中上演。近段時間,隨著人臉識別技術的大規模應用,有關“臉”的話題成為焦點。據媒體報道,9月初,中國藥科大學試水教室人臉識別,引發對課堂隱私邊界的爭議;10月,上海一小區電梯引入人臉識別,引發公眾對隱私泄露的擔憂;不久前,有消息稱北京地鐵將應用人臉識別技術對乘客實施分類安檢,觸動大眾擔心個人信息安全的神經。

而因不愿意“刷臉進門”,購買了動物園年卡的浙江理工大學副教授郭兵將杭州野生動物世界告上了法庭。11月3日,浙江省杭州市富陽區人民法院正式受理此案。這也被稱為國內“人臉識別第一案”。

一些業內專家近日接受《法制日報》記者采訪時指出,人臉識別等人工智能技術本身并無好壞,但這種技術在使用的時候必須要在法律框架內進行。要通過規范的引導來進行必要的規制,以維護好安全、便利和隱私三者間的平衡。

當事人同意并不意味著合法

抓捕逃犯、追蹤兒童、智慧城市……人臉識別技術除了在這些特定場景下得以應用之外,還越來越多地滲入到普通人的日常生活中,比如進門不用刷卡,看球賽看演唱會過安檢不用憑票,超市購物不用掃碼支付。在帶來諸多便利的同時,對人臉識別技術的擔憂也隨之而來,越來越多的人擔心“刷臉”會讓自己“丟臉”。

在一些業內專家看來,這種便利的代價過于巨大,一旦操作不當,不僅會給個人帶來危險,甚至會對整個世界秩序產生不堪設想的后果。更值得警惕的是,人臉識別技術的隨意擴大使用還面臨著合法性和比例原則等法律拷問。此前,就有媒體曝光某地廁所用人臉識別技術來達到避免人們重復取紙的應用。

由于人臉采集不需要專門設備,幾乎可以在無意識的狀態下獲取人臉圖像,所以一旦當事人同意,人臉信息瞬間就可以被企業等“合法”地采集走。但在北京航天航空大學法學院教授、北航備案審查制度研究中心主任王鍇看來,人臉識別應用的合法性問題并非僅僅獲得當事人同意就可以解決?!按癰鋈誦畔⒆躍鋈ǖ慕嵌?,個人的自決要建立在充分知情的基礎上,即個人要充分了解風險,同時要求個人全程參與個人信息流動的過程,至少要留給個人監督企業使用個人信息的渠道。個人自決意味著個人隨時有權對企業使用個人信息喊停?!?/p>

“在當前無法完全保障人臉信息數據庫安全性的情況下,對人臉識別廣泛應用的擔心是可以理解的?!蓖躪欠治鮒賦?,人臉識別的“危險”在于,一方面,人臉雖然不屬于隱私,但因為人臉這種生物特征具有唯一性,通過人臉識別可以更加容易地發現個人隱私;另一方面,人臉識別要依靠大型的信息數據庫,而這種數據庫的安全性是存疑的,一旦被濫用或者泄露,就會極大威脅到個人隱私乃至個人的其他權利。

“這就好像安樂死,盡管大家都知道它對于維護人的尊嚴的好處,但是在無法防止被濫用而且生命一旦損失就無法補救的情況下,世界各國對放開安樂死還是比較謹慎的?!蓖躪撬?。

濫用刷臉屬于技術不當使用

從密碼識別到芯片識別,再到個體生物特征識別(包括指紋、語音以及面部識別等),就加密或識別技術而言,日新月異的科技在帶來便捷與效率的同時也帶來擔憂。

正因為人臉識別技術可能會導致對隱私和公民權利的侵犯,目前,一些國家和地區已經開始對人臉識別技術持謹慎甚至否定的態度,并從法律層面加以防范。

8月,瑞典數據?;せ茍勻鸕湟凰醒б蛭シ礎鍛ㄓ檬荼;ぬ趵范寫υ?.9萬歐元???。原因是該機構被發現使用人臉識別技術來監控22名高中生的出勤率。瑞典數據監管機構認為,在日?;肪持卸匝猩閬竇囁氐刃形址噶搜囊?,即便教育部門事先取得那些學生家長的同意,但仍然沒有足夠的合法理由,去搜集其他人的敏感數據。再以美國為例,鑒于該項技術可能會引起對有色人種的歧視,美國舊金山市今年專門出臺禁令,成為第一個禁止使用人臉識別技術的城市。此外,一些其他城市,如加利福尼亞州奧克蘭市以及馬薩諸塞州薩默維爾市也都提出了類似禁令建議。

中國社會科學院法學所研究員、教授姚佳分析指出,對于人類來說,除了?;と爍褡鷓系染癲忝?,最重要的就是對生物層面的?;?,因為后者才是唯一中的“唯一”,是完全無法替代的。

“技術本身并無好壞善惡之分,但是人們利用技術的行為應接受評判,人們在應用技術時應充分考慮技術可能帶來的負面影響并將風險降至最低。技術本來是為了便捷和提高效率,濫用‘刷臉’屬于典型的技術不當使用?!幣閹?。

人工智能技術發展須有法律規范

顯然,以人臉識別為代表的人工智能技術的急速擴張帶來的法律問題不容回避,但現行法律卻顯得“力不從心”。目前,對于包括收集主體、目的、方法、范圍與程序等在內的關鍵問題,法律尚一片空白,尤其是缺乏對侵權責任者的追究機制。

值得一提的是,今年6月,國家新一代人工智能治理專業委員會發布《新一代人工智能治理原則》,提出對人工智能治理的框架和行動指南,呼吁發展“負責任的人工智能”,即技術的發展應該符合人類的價值觀和倫理道德,避免誤用,禁止濫用、惡用。

“應把?;と死嗄芏宰魑斯ぶ悄苧蟹⒌牡紫咴??!敝泄チ崆嗄曜?、國家能源集團研究院研究員畢競悅認為,以人臉識別技術為代表的人工智能的發展不應妨礙人類自治,人類不從屬于人工智能系統,也不應受到人工智能系統的脅迫。人類與人工智能系統互動時必須保持充分有效的自我決定權,有權選擇退出。

在畢競悅看來,科技的發展有利有弊,但總體而言利大于弊。不應因噎廢食恐懼于科技的發展,而要善于利用科技增進人類福祉。在此過程中,政府要承擔起監管和制定標準的責任。

畢競悅具體分析說,首先,在人臉識別等人工智能系統的開發、使用和管理過程中要確保公平??⑷嗽焙褪凳┱咝枰繁2蝗錳囟ǜ鋈嘶蟶偈禾逶饈芷?、侮辱和歧視,避免將弱勢群體置于更為不利的地位。在發生危害時,可以為用戶提供有效補救。政府還可以提供機制,保障特殊群體的需求。其次,透明性應成為人工智能運行的基本要求。在使用包括人臉識別在內的人工智能技術收集個人信息時,必須保障個體的知情權,并擁有選擇退出的權利。再次,人工智能系統的全生命周期都必須?;ひ絞?。包括用戶提供的所有數據以及在與人工智能系統交互過程中生成的關于用戶的所有信息。此外,還要建立起具體、可操作的責任機制。

“新技術處于發展初期,法律制度不能過于嚴苛,需要鼓勵新產業的發展。但是,當行業發展較為成熟,新技術影響到公眾的生活安寧,就需要嚴格法律規范予以調整,就應該建立更加嚴格的準入和監管制度?!敝泄蒲Ъ際醴ㄑЩ岢N嶗硎?、北京市偉博律師事務所主任李偉民說。

李偉民建議盡快建立“人臉識別倫理規范”,評估新技術的價值和作用,加強新技術的行業監管。時機成熟之時,建立關于人臉識別的專門法律制度,規范大數據的采集、保管、加工、交易等環節中的法律監管,防止人臉識別過程中的信息泄露?!凹際跤Ω梅裼諶死?、方便為人類應用,而不能成為限制人行為、傷害人生活安寧的工具。我們應該建立對人臉識別技術的風險評估、法律規范的相應制度,讓人臉識別技術在一個合理范圍內服務人類?!?/p>

同時,李偉民還建議制定人臉識別技術應用的相關規范制度?!跋喙夭棵挪捎萌肆呈侗鵂際跤Φ弊袷匱細竦某絳螄拗?,履行嚴格的審批、聽證、公開等程序,廣泛聽取民意,讓人臉識別技術的應用做到以‘必要’為限?!?/p>

相關報道:

      人工智能勢頭猛,立法如何跟上


責任編輯:莫亞奇
相關新聞