一副眼鏡解鎖19款手機的視頻,瑞萊智慧RealAI發布的人臉識別安全研究引發社會熱議。這一破解原理到底是什么?它的危害邊界有多大?面對大規模的廣泛應用,人臉識別的安全性如何保障?普通公眾又該如何該保障個人隱私安全?在近期央視新聞《法治在線》、廣東衛視3·15欄目的專題深度報道中,RealAI團隊給出了相應的解答。

央視新聞《法治在線》專題報道

廣東衛視3·15晚會專題報道

一、背后源自深度學習算法的結構性缺陷

RealAI技術人員解釋到,攻擊背后使用的是“對抗樣本”技術,通過結合攻擊者與攻擊對象的圖像特征自動生成一張“干擾圖案”,對于普通人來說,肉眼能明顯識別戴上眼鏡的攻擊者與攻擊對象是有區別的,但算法看來兩者的特征數值是相近的。

而“對抗樣本”存在的根本性原因在于深度學習算法的結構性缺陷,黑盒的深度學習導致人類難以理解它的內在邏輯,即便是設計開發人員也無法理解和安全控制算法的輸出、算法的執行邏輯,這就導致必然會有一些執行過程跟設計者的意圖不吻合,也就給惡意攻擊留下了空間。

除了手機的面部解鎖,一些常用的人臉識別門禁系統、考勤打卡系統,包括線上APP的身份認證系統也存在相似的安全漏洞。但這也并非是人臉識別技術的專屬,RealAI研究人員表示,這本質上是深度學習方法的漏洞,語音識別、文本處理等技術都可能存在被對抗樣本攻擊的可能。

二、理性看待人臉識別應用,加強技術防護必不可少

雖然對抗算法的研發存在較高的技術門檻,一般的黑灰產從業者難以掌握,但如果存在黑客惡意開源,對抗樣本實現的成本就變得非常低,將可能導致財產損失、隱私泄漏等威脅。

但正如清華大學星空人工智能研究院院長張鈸院士所說,面對人臉識別應用也切不可因噎廢食,應該在隱私保護、技術便利和公共安全三者之間找到平衡點。

在治理手段的選擇上,“技術”和“制度”兩個層面需要同步推進。一方面是從法律法規、道德倫理層面去限制或者制約人類對星空人工智能技術的誤用或者濫用,第二個方面從技術層面去發展新的技術,克服星空人工智能算法本身的不安全性和脆弱性。

RealAI目前開展的一系列算法攻防研究,就是采用“以子之矛、攻子之盾”的技術路線,通過攻防對抗不斷升級,演練出針對性的防御技術,比如打造出類似于人臉識別系統的防火墻,應用到現有的人臉識別應用上,就可以先于黑客發現并修補漏洞,為人臉識別筑起安全防線。對于普通公眾而言,RealAI技術人員則表示,無需過度恐慌,加強并重視日常生活的安全防護工作,比如不在社交媒體平臺上發個人正面清晰照,保護好身份證號等重要信息,以及盡可能選擇安全級別更高的人臉識別設備。

最后,針對人臉識別這類前沿技術的治理,推動相關技術標準、增強行業自律至關重要,作為安全人工智領域的代表性企業,RealAI也依托自身技術優勢, 與公安部、工信部等相關單位開展合作，積極參與到行業規范的工作中,為推動星空人工智能產業可持續發展貢獻力量。

繼續閱讀：

星空人工智能技術網 倡導尊重與保護知識產權。如發現本站文章存在版權等問題，煩請30天內提供版權疑問、身份證明、版權證明、聯系方式等發郵件至1851688011@qq.com我們將及時溝通與處理。！：首頁 > 新聞 » RealAI人臉識別安全研究獲央視新聞、廣東3·15晚會深度報道