圍爐夜話：今夜，我們聊聊人臉識別| 圍爐· NYUSH

2021 年 4 月 3 日

今天，你刷臉了嗎

你“ZAO”換臉了嗎？ 8月31日凌晨，一個名叫ZAO的應用瞬間火遍網絡，除了指數級增長的下載量和使用量，關於技術問題、隱私問題、安全問題的爭議也此起彼伏，備受關注。 9月1日，ZAO運營團隊即被工信部約談，平台火速更新用戶協議並公開致歉，大起大落令人唏噓。然而ZAO並非唯一處在風口浪尖的應用，恰恰相反，但凡涉及人臉識別的應用和新聞總是處於輿論中心，飽受爭議。人臉識別的前景如何，問題何在，又該如何應用？今夜，我們一起聊聊人臉的“古今未有之變局”。

夜話參與者：

Yiling，Jiyan，Honglin，Cecelia，Yufeng，Shawn，Wenxin，Ella

個人隱私邊界

主持人| 最近一款人臉識別軟件ZAO因其隱私協議和用戶協議引發網友的熱議。在你看來，在人臉識別軟件的開發和使用中，使用者的個人隱私邊界在哪？

Jiyan | ZAO軟件通過識別照片上的人臉使之與視頻上的人臉互換，由此達到一定的娛樂效果。然而在用戶使用照片進行識別的過程中，會存在未經他人允許就用他人的照片進行識別製作的現象，這樣的行為無疑侵犯了他人的隱私。因此，我認為在進行人臉識別軟件的開發中，徵求用戶的人像識別和授權是軟件開發的雷池。

ZAO在上線初期的用戶條款之一“全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利”被指過度攫取用戶授權

Honglin | 人臉識別，與身份證或指紋相似，都是一種辨明身份的工具，在功能上就如同一個隨身攜帶的身份證。因此人臉信息屬於機密性質的個人隱私，應受到和身份證對等的法律保護，其隱私邊界也應向身份證隱私邊界看齊。人臉識別所儲存的信息一定要受到法律保護，在未經允許的情況不能隨意向他人洩露。作為儲存信息的APP數據庫管理者，需對人臉信息的管理與應用全面負責，保證信息的機密性；作為人臉識別的用戶，需要對自己和他人的人臉信息負責，不主動洩露自己的信息，也不主動窺探他人的信息。

代替指紋&虹膜？

主持人| 目前使用的安全識別系統主要是指紋和虹膜，你認為人臉識別在未來會全面取代這兩種識別技術嗎？

Cecilia | 我認為人臉識別在未來短期內不會完全取代這兩種技術。目前來講，指紋和虹膜識別在技術層面比人臉識別成熟很多：準確率高、安全性高、使用範圍廣。自從蘋果手機的人臉識別問世以來，人們不斷進行各項實驗來提升人臉識別的準確性。雖然現在再誇張的妝容都已經難不倒人臉識別裝置，但雙胞胎甚至兄弟姐妹之間的互通識別還是一大技術漏洞，因此人臉識別的安全性目前仍不能得到保障。不同的光線、角度等都會對識別造成障礙，用戶體驗仍有待提高。另外，指紋和虹膜識別需要特定的對準動作，但人臉識別往往會在用戶無意識狀態下，尤其是支付和信息發送時進行，這就意味著在個人隱私安全不能完全保障的情況下，人臉識別又加劇了財產和信息洩漏的風險。而這一點屬於人臉識別的先天性短板，可能需要完全革新的技術才可以有效解決。不可否認的是，人臉識別正在不斷擴大它的影響範圍，但對於人臉識別究竟是不是未來發展趨勢這一命題，我們只能拭目以待科研者和開發者是否能在保障安全的前提下完美解決目前的這些問題。

Wenxin | 人臉識別技術的技術不足其實折射出了更深層次的社會問題，在這些社會問題得到充分解決之前，人臉識別不會成為指紋和虹膜的替代品，最多只是一定範圍內的應用。目前，人臉識別最突出的倫理問題就是不同膚色的識別準確率之間有巨大差異。今年1月，美國公民自由聯盟（ACLU）使用亞馬遜面部分析軟件Rekognition掃描了全部535名美國國會議員的照片，並將它們與25000張警方公開的罪犯面部照片進行了比對，結果系統錯誤地將28名國會議員的照片與罪犯面部照片進行了配對，錯誤率高達5.2%。更令人震驚的是，所有錯誤配對中有色人種識別錯誤率高達39.3%（11人）1。總體而言，目前全球範圍內的人臉識別技術對於女性和膚色較深人群仍不夠精確。技術的發展和鞏固具有奠基性的重要意義，而關於人臉識別的法律和道德機制的完善與落實也刻不容緩。兩者缺一不可，否則人臉識別技術的大規模投放應用只會進一步加劇少數人群的邊緣化。

市場推廣度

主持人| 當下人臉識別在大眾市場上的推廣接受度是怎麼樣的？

Shawn | 我覺得當下人臉識別的推廣帶有一定的強制性，用戶並沒有過多的選擇權。比如上海站安檢進站時就一定需要通過人臉識別驗證，許多生活類（尤其是支付類）軟件也要求用戶進行人臉識別後才可使用。在我看來，至少在目前，人臉識別似乎是被強加於用戶身上的一種限制，然而人臉識別的推廣一旦開始，除非全面停止，否則很難逆轉。如果說政府無可避免地需要收集市民信息的話，一些商家的強制措施又是基於什麼理由呢？我覺得許多用戶並不完全理解個人信息的價值，對於TA們的信息將被以何種目的用於何處也一概不知，而商家們恰恰利用這一點大規模地收集了用戶的個人信息，而對於信息收集的合理性和用途、使用期限、保護方法等都沒有明確告知。人臉識別的推廣面臨障礙也許正是來自一些敏感用戶對於商家的不信任和個人隱私的重視，與人臉識別相關的立法也應該盡快出現、落實。

Ella | 人臉識別技術的優點在於方便，而方便的代價是它阻斷了我們的被遺忘權——我們無法被數據“遺忘”。記憶成了常態，我們和這個社會都無法自然更新。因此人臉識別技術推廣的最大障礙是劃分隱私和便捷的邊緣以及如何在兩者中找到最好平衡。

Yufeng |一項技術的推行與它目標範圍的特性息息相關。 2019年5月4日，舊金山城市監督委員會的官員以8票對1票通過一項法令，禁止政府機構購買和使用人臉識別技術2。有趣的是，舊金山是全球對科技包容性最高和科技最發達的區域之一，但同時也是美國犯罪率較高的城市之一。警方在刑事案件中的使用、私人以及企業使用都被排除在這項禁令之外，似乎又證實了這條法令不過是人臉識別的浪潮奔湧向前時的一次小小停頓。

2019年5月4日，舊金山城市監督委員會針對政府禁用人臉識別技術法令的投票前辯論

擔憂和恐懼

主持人| 包括對於隱私的擔憂在內，人們對於人臉識別的擔憂和恐懼是否存在誤區？

Shawn | 我覺得對人臉識別不確定的擔憂有一定道理，而觀察不同國家對於人臉識別技術的接納程度也很有意思。在科技發達的舊金山人們選擇了與人臉識別保持距離，但在中國反對人臉識別的聲音似乎就沒有那麼強烈。這種現像也許可以用文化和社會差異差異來解釋——人們對於個人隱私的定義和重視程度不同、社會群體對於某些官方決定的本能反應不同、人們對於新科技應用的主動性和敏感度不同等。

Yufeng | 上一次對於信息技術革新的集體性擔憂可以追溯到移動支付的興起，然而時至今日，身邊有多少人不依賴於移動支付，又有多少人不收益於移動支付？我們且撇開技術本身的隱患不談，畢竟真正能深諳技術原理的人並不佔社會群體的大多數，公眾對於新事物的擔憂和恐懼往往是出自對未知世界的迷茫，移動支付如此，人臉識別亦如此。科技向來都是一把雙刃劍，而不是一架天平，不能去衡量利與弊，只能把好的壞的都展現出來。所以我認為，與其說人們對於人臉識別的擔憂存在誤區，更準確的表述應當是，人們對於新事物的恐懼加劇了他們對於人臉識別的擔憂。戴著這樣一副有色眼鏡來看人臉識別，不可避免地會給它增加一層灰度。然而這副眼鏡是難摘的，只有人們在親身實踐之後，或者說新事物隨著時間的推移變得不那麼新的時候，那些被視為洪水猛獸的技術才會逐漸被正視。但這確實也是新事物日臻成熟的一個發展過程，開發者也往往可以將人們的恐懼與擔憂中的合理部分化作技術進步的一個個小目標。

校園應用？

主持人| 國內某高校教室使用人臉識別技術，全程監查“翹課，發呆，玩手機”的現象成為熱門話題。你如何看待人臉識別技術在校園領域的這一應用？

Wenxin & Cecilia | 人在接受教育時期恰也處於觀念意識培養的最佳時期，學生們開始邁入意義和心靈秩序的重新構建，也開始探索自身與世界的融合方式。除了課堂教授的內容以外，獲取知識的形式也越來越向“遊於藝”、“遊於敞開”拓展，教育的方式也正不斷向此方向貼合。在這樣的大背景下，上課對學生一舉一動的監視無疑是一大諷刺性的倒退。除去對學生隱私的侵犯，從生理學上來講，人本身也很難做到一直保持專注聽講的狀態，“被監控”的不適感人人皆有，強烈的壓抑感和禁錮感反而會打壓積極性，與提升課堂效率的初衷背道而馳。

Shawn & Honglin | 在教室內使用人臉識別技術監督學生是令人無法接受的。在我看來這是運用科技強化校園中本就存在的某種等級觀念——“學生是需要被監控的”。這意味著學生是需要被某種高於他們的“權威”所馴化的，這種觀念本身就體現了學生與學校的不平等關係。學校，理應是一個相對自由的學習知識的地方，而不是一所處處充滿監視、毫無隱私的監獄。人臉識別用於學校的行為監察，無疑是一種變相的強權控制，僭越了科學技術的道德底線。技術無好壞，應用之人卻有。科學技術服務於人，而不是限制人。

Ella | 我關注的點在於為什麼這樣的碰撞總是發生在中國。與其責怪科技公司的無良貪婪或者學校領導的迂腐刻板，我們更應該反思一下自己對於隱私的漠視。 “方便大於隱私，群體大於個體”對我們來說已經是潛意識當中就認可的定式。人臉識別在校園當中的應用鬧得沸沸揚揚，那校園當中教室、走廊、操場等無處不在的監控又該如何處置呢？本質問題不出在人臉識別，而在於我們對讓渡隱私權習以為常。人臉識別只是一下子把所有校園監控的弊端推到了風口浪尖。然而如何監管？如何保存保管信息？如何應用信息？這些問題，我們早該解決了。

資料來源：
[1] 馮海洋. “亞馬遜Rekognition被質疑有種族歧視.” 中關村在線. 2019年1月28日，取自：http://www.elecfans.com/d/718483.html
[2] 機器之心. “舊金山，全球首個禁用人臉識別的城市舊金山，全球首個禁用人臉識別的城市.” IT時報. 2019年5月15日，取自：http://www.it-times.com.cn/a/it/2019/0515/27777.html