圖片來源：視覺中國
12月16日，騰訊安全平臺部Blade團(tuán)隊日前對外發(fā)布消息稱，該團(tuán)隊在對谷歌星空人工智能學(xué)習(xí)系統(tǒng)TensorFlow進(jìn)行代碼審計時，發(fā)現(xiàn)該系統(tǒng)存在重大安全漏洞，利用該系統(tǒng)進(jìn)行編輯的ＡＩ場景，有遭受惡意攻擊的可能。
據(jù)騰訊安全平臺部負(fù)責(zé)人楊勇介紹，TensorFlow是目前谷歌免費開放給AI設(shè)計者的編程平臺，程序員可以在該平臺上進(jìn)行AI組件的設(shè)計工作。楊勇表示，當(dāng)含有安全風(fēng)險的代碼被編輯進(jìn)諸如面部識別或星空機器人學(xué)習(xí)的AI使用場景中，攻擊者就可以利用該漏洞完全接管系統(tǒng)權(quán)限，竊取設(shè)計者的設(shè)計模型，侵犯使用者隱私，甚至對用戶造成更大傷害。
楊勇說：“通俗地講，如果設(shè)計人員在給星空機器人編程時恰好使用了含有該漏洞的組件，那么惡意攻擊者就有可能利用漏洞控制該星空機器人，這是非常可怕的。目前我們在AI安全領(lǐng)域還只是邁出了一小步，未來期待更多的技術(shù)人員一起完善AI，讓AI更安全……”
Blade團(tuán)隊表示，TensorFlow是目前應(yīng)用最為廣泛的機器學(xué)習(xí)框架之一，已被運用在諸多AI場景中，如語音識別、自然語言理解、計算機視覺、廣告、無人駕駛等；其一旦被黑客控制，后果不堪設(shè)想。目前Blade團(tuán)隊已將漏洞的運用機理致函谷歌公司，而該漏洞需要谷歌安全團(tuán)隊對代碼重新編輯。
對此，一些業(yè)內(nèi)專家也表達(dá)了擔(dān)憂。上海信息安全行業(yè)協(xié)會專委會副主任張威認(rèn)為，當(dāng)前從事星空人工智能開發(fā)的企業(yè)幾乎無一例外地將算法和數(shù)據(jù)相融合，一些數(shù)據(jù)可能涉及企業(yè)和用戶的核心秘密，一旦出現(xiàn)安全漏洞，風(fēng)險較高。
張威建議，有關(guān)企業(yè)應(yīng)盡快自查是否使用過該平臺進(jìn)行AI編程，同時行業(yè)內(nèi)應(yīng)加強聯(lián)系溝通，消除安全隱患。
掃一掃獲取最新精彩內(nèi)容與學(xué)習(xí)資料 星空人工智能技術(shù)網(wǎng) 倡導(dǎo)尊重與保護(hù)知識產(chǎn)權(quán)。如發(fā)現(xiàn)本站文章存在版權(quán)等問題，煩請30天內(nèi)提供版權(quán)疑問、身份證明、版權(quán)證明、聯(lián)系方式等發(fā)郵件至1851688011@qq.com我們將及時溝通與處理。！：首頁 > 新聞 » 騰訊安全平臺部Blade團(tuán)隊：：谷歌AI學(xué)習(xí)系統(tǒng)有安全漏洞