當前位置:首頁 > 物聯網 > 安富利
[導讀]前不久,一個客户帶着頭盔去買房的新聞上了熱搜。

前不久,一個客户帶着頭盔去買房的新聞上了熱搜。經過媒體的深扒發現,這一誇張之舉背後的原因倒不是客户怕露富或者有其他什麼難言之隱,而是因為精明的開發商會在不知不覺中通過人工智能(AI)採集客户人臉數據,並以此為依據判定佣金在各個銷售渠道中的歸屬;同時此舉也徹底封死了客户希望在不同銷售渠道中貨比三家的想法——因為只要是你之前“露過臉”,系統就會得知此前其他渠道商給你的報價,這時你再想砍一分錢都沒有可能。為了避免自己的“臉”被開發商“偷走”並用來對付自己,客户才不得以用這種最原始的方法來對抗AI。

這個案例喚醒了人們對於使用日趨廣泛的人臉識別等AI應用的擔心,由此也開始在心中盤算,當我們在享受AI帶來的新體驗的同時,可能付出的安全代價。

AI的安全問題

實際上,上面這個案例只是AI安全一個層面上的問題,如果仔細劃分,會發現今天的AI至少面臨三個層面的挑戰:

第一個層面,是AI技術本身內在的安全風險。要知道,AI所依賴的機器學習實際上是將傳統上我們所依賴的正常的邏輯變成“黑箱操作”,我們只知道決策輸出的結果,而對於神經網絡內在工作的邏輯並不是完全掌握,這是AI與傳統上的“自動控制”最大的區別。如果在這個過程中,機器學習的數據被污染,就會影響樣本和判斷的準確性;機器學習模型自身存在的缺陷,會帶來更加隱蔽的安全問題。也就是説,比起傳統的信息安全問題,AI內在的安全問題更難於發現和及時應對。

第二個層面,是AI技術被惡意使用的問題。歷史的經驗告訴我們,黑客總是會跟隨最新技術,甚至有時候還會引領最新技術。AI的出現,無疑給黑客提供了新的進攻武器,他們可以使用機器學習進行海量數據分析,對於攻擊目標的安全策略和方法進行揣摩,並找到突破口。要知道,安全領域的困境就在於:防禦者必須預測並阻斷進攻者可能使用的一萬種攻擊手段,而進攻者只需要利用防禦者的一個漏洞就可以完成入侵,達到目的。因此在全球數字化轉型快速推進之時,隨着AI技術的發展,信息安全風險比以往任何時候都要高。

第三個層面,是AI應用中存在的隱私泄露、數據濫用等問題。文章開頭所提到的例子,就屬於這個範疇。而且在AI與物聯網疊加催生出“人工智能物聯網(AIoT)”之後,這種風險性傳播的速度會更快,影響的範圍會更廣,防範難度自然也會更大。

應對AI安全挑戰

如此看來,AI的安全問題着實難解。不過再難,也需要擰緊“安全閥”,這是一個必須要解決的問題。

缺少工具可能是在求解AI難題時,最大的困惑。全球知名的白帽黑客Kevin Mitnick就曾經表示,現在還沒有真正符合AI核心技術的工具或產品出現,他自己對於AI產品進行安全分析評估的經驗也是不足的。

不過,就像AI可以被黑客用來作為攻擊的手段一樣,AI強大的能力,本身也可以作為一種安全工具被加以利用。今天的網絡安全中通快遞香港查詢正在引入AI技術,去解決傳統防禦方案解決不了的新威脅,提高原有檢測方案的檢測精度,進行更高效自動化數據分類,實現更快的威脅響應處置。也就是説,AI不僅可以被用於對抗已有的攻擊,也可去感知和預測未來可能發生的安全威脅,這就使得安全防禦變得更加積極。

根據中國信通院發佈的《中國網絡安全產業白皮書(2019 年)》,在網絡安全領域,AI技術正在發力的地方包括(但不限於)以下這些方面:

· 在異常流量檢測方面,AI為加密流量分析提供新方案。

· 在惡意軟件防禦方面,針對特定場景的AI應用取得積極進展。

· 在異常行為分析方面,AI可成為模式識別的有效補充。

· 在敏感數據保護方面,AI助力數據識別和保護能力提升。

· 在安全運營管理方面,基於AI的安全編排與自動化響應(SORA)逐漸興起。

有了AI作為安全防禦的利器,人們的下一步就是要去探索一個體系化的安全解決方案。比如,為了應對AI模型各個環節可能存在的安全風險,並給出相應的防禦建議,騰訊就發佈了一個“AI安全攻擊矩陣”。

這個AI安全攻防矩陣的意義在於:它可以覆蓋從AI模型開發前的環境搭建,到模型的訓練部署,以及後期的使用維護的整個AI產品生命週期,儘可能列舉出在這個過程中可能遇到的所有安全問題,並給出相應的應對策略。這樣一來,對照這個“矩陣”,開發者就可以根據AI部署運營的基本情況,排查可能存在的安全問題,並根據推薦的防禦建議佈防,降低已知的安全風險。雖然這樣的探索,目前來看只是一個起步,但也算是一個不錯的開端。

技術之外的努力

當然,由於AI對於人類社會的觸動是多方面、深層次的,所以AI安全策略也不能僅僅停留在技術層面。具體來講,在技術之外,我們至少在兩個方面必須有所行動:

· 一是從法律角度構築安全防線,通過立法明確AI安全的“紅線”,讓黑客及AI濫用者付出應有的代價;

· 二是建立行業公認的行為準則,通過行業自律等方式,覆蓋那些由於法律滯後於技術發展可能出現的灰色地帶,給用户安全以最大化的保障,這也是為AI長足發展營造一個更健康的生態。

在文章的最後,分享一組數據:根據IDC的研究數據,2019年全球網絡安全支出較2018增長了近9.4%,達到1066.3億美元;然而與此同時,有機構預測同期網絡犯罪的總成本可能超過2萬億美元,也就是説網絡犯罪活動的成本是安全支出的20倍左右。

這就是人們所面臨的安全環境,而且AI的出現會讓這種環境更為複雜。而在安全的問題上,決不能妥協,因為關鍵之處一旦失守,可不是丟一張“臉”的數據那麼簡單了。這種讓人細思極恐的壓力,也正是業界進步的動力所在。

換一批

延伸閲讀

[GlobeNewswire] Teledyne Imaging 亮相 Vision China 2021

Teledyne Imaging 亮相 Vision China 2021

中國上海, March 04, 2021 (GLOBE NEWSWIRE) -- Teledyne Imaging 將於 3 月 17 日至 19 日期間在上海新國際博覽中心舉行的中國國際機器視覺展覽會暨機器視覺技術及工業應用研討會(...

關鍵字: AI 深度學習 智能傳感器

[物聯傳媒] 27城展開ETC智慧停車試點,ETC迎來第二波牛市?

本文來源:物聯傳媒 本文作者:銀匠 近日,交通運輸部辦公廳關於開展ETC智慧停車城市建設試點工作的通知,為加快拓展E...

關鍵字: ETC 智慧停車 AI

[strongerHuang] AI、IoT、區塊鏈、自主系統、下一代計算五大技術引領未來供應鏈發展

來源 | InfoQ 作者 | 王利瑩 京東推出《技術重構社會供應鏈 - 未來科技趨勢白皮書》,一承京東一貫...

關鍵字: 供應鏈 IoT AI

[康佳特] 用於嵌入式視覺和AI應用的低功耗旗艦產品

用於嵌入式視覺和AI應用的低功耗旗艦產品

Shanghai, China, 3 March 2021 * * * 世界領先的嵌入式和邊緣計算技術供應商德國康佳特推出了全新低功耗 SMARC 2.1計算機模塊。該產品在本次德國紐倫堡世界嵌入式(Embedded World)線上...

關鍵字: 嵌入式 嵌入式視覺 AI

[GlobeNewswire] Teledyne e2v 和 Yumain 宣佈就創建基於 AI 的機器視覺成像解決方案達成合作

法國格勒諾布爾, March 02, 2021 (GLOBE NEWSWIRE) -- Teledyne e2v,Teledyne Technologies 旗下的全球成像解決方案創新公司宣佈與一家為各類工業應用提供服務的領先 AI...

關鍵字: 機器視覺 Yumain AI

安富利

35 篇文章

關注

發佈文章

技術子站

關閉