“簡單”的對抗攻擊

近年來，以深度學習為核心的人工智能技術發展迅速，視覺識別技術最為大眾所熟知，應用也最為廣泛。無論是互聯網大公司、傳統安防公司以及新興的人工智能技術公司都在這一領域大舉投入。

而其中的人臉識別技術在智能手機上更已經是標配，今天的我們刷臉解鎖、刷臉支付就像吃飯喝水一樣自然。雖然手機廠商往往會在發布手機的時候宣稱「破解人臉識別的幾率低至百萬分之一」，但雙胞胎解鎖對方手機的事情仍然偶爾會上新聞。

來自清華的 RealAI（瑞萊智慧）向我們展示了一項更為簡單的攻擊技術。在一副眼鏡的攻擊下，19款國產智能手機，不管是低端機，還是售價4000以上的高端手機，全都是秒級解鎖。

測試者只需佩戴一副含有對抗樣本圖案的眼鏡就可以，而制作這副眼鏡的成本就是借用一臺打印機和一張A4紙。

最終，除了一臺 iPhone11，其余安卓機型全部解鎖成功，完成整個破解過程只花了15分鐘。攻擊測試人員成功解鎖手機后，任意翻閱機主的微信、信息、照片等個人隱私信息，甚至還可以通過手機銀行等個人應用APP的線上身份認證完成開戶。

為了進一步驗證，隨后清華大學的研究機構又重新測試，將不同的人、不同的國產手機、不同的主人，都重新做了測試。幾乎所有的測試，國產手機都是破解無壓力！包括手機里的圖片、視頻、APP應用、甚至手機銀行，全都能自由使用！

其實，對抗攻擊技術算不上新穎。2023年8月份，AI算法就在現實世界中首次實現攻擊。來自莫斯科國立大學、華為研究者們曾發布，在腦門上貼一張對抗樣本圖案，能讓公開的 Face ID系統識別出錯。

去年7月，微軟曠視開發了一套算法，只在照片上做了小改動，就有如穿上“隱身衣”，導致人臉識別系統無法破解。但這些攻擊，僅僅只是讓識別系統識別不出目標，并沒有完成破解。

如今，RealAI團隊真正實現了破解過程，且整個操作時長不到15分鐘，這證實了對抗樣本攻擊在現實生活中能夠帶來安全威脅。這一漏洞涉及所有搭載人臉識別功能的應用和設備，一旦被黑客利用，隱私安全與財產安全都將受到威脅。

被“濫用”的人臉識別

人臉識別，最初在機場、高鐵站以及酒店等場景使用這項技術對個人身份進行驗證，隨后商業銀行也開始采用人臉識別實現遠程開戶。再之后，刷臉支付、刷臉門禁也相繼出現，人臉識別逐漸從少數有限場景滲透到人們的日常生活之中。而今年以來新冠疫情，使得人臉識別的應用加速發展起來。

不可否認，人臉識別系統，在某一些方面確實很便利，如今人們大概已經對商場、辦公樓等場所入口處的測溫設備更是習以為常。這類設備融合了人臉檢測與紅外測溫技術，能夠實現“非接觸式測溫”，在疫情防控中被廣泛鋪開。

而人臉識別帶來便利的同時，隨之而來的是它的“濫用”。睜眼的也采集，閉眼的瞬間也采集。個人信息安全層面和人臉識別技術在某些場景的應用侵犯個人隱私的情況都值得大家警惕起來。

比如，在沒有任何告知的情況下，直接就“人臉識別”掌握我們的隱私信息時。甚至，就連路邊一個小小的火鍋店、餐廳也能隨便安裝幾十個、上百個攝像頭，正大光明地拍照、記錄人們的信息。

一項萬人參與的調查顯示，有超過六成以上的受訪者認為人臉識別技術存在濫用趨勢。其中，在交通安檢、實名登記、開戶銷戶、支付轉賬和門禁考勤等場景中存在突出的“強制使用”問題。甚至你戴口罩也沒用，現在的人臉識別技術已經先進到即使你戴著口罩，也能輕易識別的夸張地步。

如果，隨便來一個人都能使用人臉識別，對你隨便攝像。那我們這些路人在人臉識別的控制之下，人人都成為了“皇帝的新衣”。然而可怕的是，誰掌握了你的臉，誰就掌握了你的身份標識。

現在很多場合過分強調這項技術的便利性，卻對人臉數據泄露可能產生的后果考慮不足。比如人臉原始信息是否會被收集方保留以及會被如何處理？還有數據收集方采取何種技術和管理措施來保證收集的人臉信息安全，以及人臉信息目前被應用在什么場景，是否變更了使用目的等問題，目前也都沒有相關的法律法規進行規范。

雖然一些技術較為領先的公司會提取面部的特征值來替代原始照片，這些特征值是匿名性數據，經過加密處理后即使被泄露也無法重新定位至某個具體的人。采用這種方式雖然能夠在一定程度上對個人信息進行保護。但現實情況是，當大公司們將深度學習算法框架開源之后，人臉識別技術的門檻已經大大降低。很多技術實力一般的公司通過開源平臺擁有了算法能力，但在數據的收集和存儲環節卻無法保證同樣的安全性。這些公司的做法往往是直接收集和存儲原始的面部信息。

期望更安全、更可靠

有人問你要銀行卡密碼，你肯定特別警惕。但如果要人臉信息，好像很多人就覺得沒什么，但實際這兩者在很多情況下是一樣的。人臉識別與個人隱私、個人身份、個人財產等等因素都息息相關，這個口子一旦被撕開，就可能會失控，這是大家都不想看到的。

在人臉識別技術的可靠程度方面，信息安全的本質是攻防，AI安全領域也是如此。科學家們通過不斷開展新的攻擊嘗試來試探對抗樣本攻擊的能力邊界。但人臉識別技術引發的擔憂遠不止于此，除了技術側的解決方案之外，最終填補漏洞還需要依賴社會對于人工智能安全問題的意識提升。

人臉識別在國內快速且廣泛的應用，背后既有政府部門對于維護公共安全的訴求，也有商業機構應用新技術提效降本的需求，更有人工智能技術公司尋求業務增長的沖動。我國目前雖然沒有出臺專門針對人臉識別技術的法律規范，但《民法典》已規定，采集個人信息，必須符合必要性、合法性、正當性三原則，同時要征得信息主體的明確同意。

關于“人臉識別”的未來，我們期望可以看到有更具體明確的法律法規來進行規范。期望官方嚴格把控人臉識別設備生產、使用門檻等條件。在人臉識別遍地開花的社會，我們至少應該擁有選擇的權利，去選擇使用或者不使用，去選擇如何使用。

也期望有更可靠安全的識別技術被大家所熟知和應用，畢竟我們一直在用智慧和進步證明著科技改變生活這句話，不是嗎？

人工智能是柄雙刃劍，只有合理利用，趨利避害，才能更好地促進行業發展。專注于人工智能領域的鈦靈AI算法市場已于2023年5月18日上線，至今已經有超過58家AI算法企業合作入駐，累計提供算法種類超過1000種，讓千行百業的客戶可以快速、放心、安心得獲得和使用各種智能算法。