本文來自微信公眾號“安全牛”。
自動駕駛技術、智能助理、人臉識別、智能工廠、智慧城市等人工智能技術現(xiàn)已廣泛落地，這些令人難以置信的技術正在快速改變我們的生活。但相關領域安全事件也在快速增加，這使得研究人員和使用者對人工智能的安全性擔憂不斷提高。人工智能應用帶來的紅利和其引發(fā)的安全隱患，猶如一個硬幣的兩面，需要全行業(yè)高度關注并找到有效的應對方法。
日前，安全研究人員梳理總結了目前人工智能技術在實踐應用中經(jīng)常要面對的7個數(shù)據(jù)安全威脅。
威脅1
模型中毒
模型中毒（Model poisoning）是一種對抗性攻擊形式，旨在操縱機器學習模型的結果。威脅行為者可以嘗試向模型中注入惡意數(shù)據(jù)，進而導致模型對數(shù)據(jù)進行錯誤分類并做出錯誤的決策。例如，工程圖像可以欺騙機器學習模型，將它們分類到與人類最初分類不同的類別中（例如，將貓的圖像標記為老鼠）。研究發(fā)現(xiàn)，這是一種欺騙AI系統(tǒng)的有效方法，因為在輸出之前，不可能判斷特定的輸入是否會導致錯誤的預測。
為了防止惡意行為者篡改模型輸入，企業(yè)組織應該實施嚴格的訪問管理策略來限制對訓練數(shù)據(jù)的訪問。
威脅2
隱私泄露
隱私保護是一個敏感的問題，需要額外的關注和重視，尤其是AI模型中包含有未成年人的數(shù)據(jù)時，問題就更復雜了。例如，針對青少年的一些借記卡選項，銀行必須確保其安全標準符合監(jiān)管合規(guī)要求。所有以任何形式或途徑收集客戶信息的公司都需要制定數(shù)據(jù)保護政策。這樣，客戶就可以知道組織如何處理他們的數(shù)據(jù)。然而，用戶如何知道他們的數(shù)據(jù)是否流入了人工智能算法的應用中？很少（或者可以說幾乎沒有）隱私策略包含這些信息。
我們正在步入人工智能驅動的時代，對于個人來說，了解企業(yè)如何使用人工智能、人工智能的功能及其對數(shù)據(jù)的影響將變得非常重要。同樣地，攻擊者可能會試圖使用惡意軟件竊取包含信用卡號碼或社會安全號碼等個人信息的敏感數(shù)據(jù)集。企業(yè)組織必須定期進行安全審計，并在人工智能開發(fā)的所有階段實施強有力的數(shù)據(jù)保護實踐。隱私風險可能發(fā)生在數(shù)據(jù)生命周期的任何階段，因此為所有利益相關者制定統(tǒng)一的隱私安全策略非常重要。
威脅3
數(shù)據(jù)篡改
數(shù)據(jù)操縱、暴露和篡改所帶來的風險，在AI規(guī)模化應用背景下正在被不斷放大，因為這些系統(tǒng)需要基于大量數(shù)據(jù)進行分析決策，而這些數(shù)據(jù)很容易被惡意行為者操縱或篡改。此外，算法偏見是人工智能規(guī)模化應用中所面臨的另一個主要問題。人工智能算法和機器學習程序應該是客觀和公正的，但事實卻并非如此。
人工智能算法的數(shù)據(jù)篡改威脅是一個巨大的問題，這沒有簡單的解決方案，但它需要引起重視。如何確保輸入算法的數(shù)據(jù)是準確、可靠且不被篡改的？如何確保數(shù)據(jù)不會以令人討厭的方式使用？所有這些問題都是非常現(xiàn)實的問題，但目前行業(yè)還沒有找到明確的答案。
威脅4
內部威脅
就數(shù)據(jù)安全而言，來自內部威脅無疑是最危險的一種，也是代價最高昂的一種類型。根據(jù)最新的《內部威脅成本：全球報告》顯示，在過去兩年中，內部威脅事件的數(shù)量上升了44%，每起事件的平均損失成本為1538萬美元。
內部威脅之所以如此危險，是因為他們的動機不一定是金錢，還可能是出于報復、好奇心或人為錯誤等其他因素。正因如此，它們比外部的攻擊者更難預測和阻止。
對于那些涉及公民健康的公司來說，內部威脅無疑是更有害的。以醫(yī)療保健服務商HelloRache為例，該公司使用了AI模式的虛擬記錄員（virtual scribes，協(xié)助醫(yī)生處理計算機相關任務的助手）工具，因此他們可以遠程協(xié)助醫(yī)生護理病人，做病情記錄工作。但如果內部人員找到了方法，可能會導致系統(tǒng)被錯誤連接，甚至可以監(jiān)控獲取患者的醫(yī)療信息。
威脅5
針對性蓄意攻擊
一項研究數(shù)據(jù)顯示，86%的企業(yè)組織開始將人工智能作為未來數(shù)字化發(fā)展的“主流”技術，并加大投資各種數(shù)據(jù)驅動的AI技術，以幫助企業(yè)做出更好的決策、改善客戶服務并降低成本。但有一個問題：對人工智能系統(tǒng)的蓄意攻擊正在增加，如果沒有適當?shù)目刂拼胧?，它們可能會為組織帶來超百萬美元的損失。
“蓄意攻擊”是指有目的地通過侵入人工智能系統(tǒng)來破壞一個組織的業(yè)務運作，目的是獲取領先于對手的競爭優(yōu)勢。在蓄意攻擊場景中，對AI和ML的數(shù)據(jù)安全威脅可能尤其具有破壞性。因為這些系統(tǒng)中使用的數(shù)據(jù)通常是專有的，具有很高的價值。當人工智能系統(tǒng)遭到針對性的蓄意攻擊時，其后果不僅僅是數(shù)據(jù)被竊取，而是公司的競爭能力被破壞。
威脅6
大規(guī)模采用
人工智能是正在快速增長的行業(yè)，這意味著它們仍然很脆弱。隨著AI應用越來越受歡迎，并在世界范圍內被采用，黑客將會找到新的方法來干擾這些程序的輸入和輸出。AI通常是一套復雜的系統(tǒng)，以至于開發(fā)人員很難知道他們的代碼在各種應用情況下會如何表現(xiàn)。當無法預測會發(fā)生什么時，就很難阻止它的發(fā)生。
保護企業(yè)免受大規(guī)模應用威脅的最佳方法是結合良好的編碼實踐、測試流程，并在發(fā)現(xiàn)新漏洞時及時更新。當然，不要放棄傳統(tǒng)形式的網(wǎng)絡安全預防措施，例如使用托管數(shù)據(jù)中心來保護服務器免受惡意攻擊和外部威脅。
威脅7
AI驅動的攻擊
研究人員發(fā)現(xiàn)，惡意攻擊者正在將人工智能武器化，幫助他們設計和實施攻擊。在這種情況下，“設計攻擊”指的是選擇一個目標，確定他們試圖竊取或破壞什么數(shù)據(jù)，然后決定一種傳輸方法。非法攻擊者可以使用機器學習算法尋找繞過安全控制的方法來進行攻擊，或者使用深度學習算法，根據(jù)真實世界的樣本創(chuàng)建新的惡意軟件。安全專家必須不斷防御愈發(fā)智能的機器人，因為一旦他們阻止了一種攻擊，另一種新的攻擊就會出現(xiàn)。簡而言之，人工智能使攻擊者在當前安全保障措施中尋找漏洞變得更容易。
