針對(duì)使用AI和機(jī)器學(xué)習(xí)(ML)的安全軟件的數(shù)據(jù)中毒可能是下一個(gè)重大的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。根據(jù)SANS技術(shù)研究所研究主任 Johannes Ullrich在RSA 2021的主題演講中，這是一個(gè)大家都應(yīng)該關(guān)注的威脅。

Ullrich在 RSA 說(shuō)“在機(jī)器學(xué)習(xí)方面，最基本的威脅之一是攻擊者實(shí)際上能夠影響我們用來(lái)訓(xùn)練模型的樣本”

伴隨這種新威脅的迅速出現(xiàn)，防御者必須學(xué)習(xí)如何發(fā)現(xiàn)數(shù)據(jù)中毒攻擊以及如何預(yù)防它們。否則，將根據(jù)錯(cuò)誤數(shù)據(jù)做出業(yè)務(wù)和網(wǎng)絡(luò)安全決策。

什么是數(shù)據(jù)中毒?

當(dāng)攻擊者篡改用于訓(xùn)練AI模型的數(shù)據(jù)時(shí)，實(shí)際上會(huì)“中毒”。因?yàn)锳I依賴于這些數(shù)據(jù)來(lái)學(xué)習(xí)如何做出準(zhǔn)確的預(yù)測(cè)，所以算法生成的預(yù)測(cè)將是不正確的。

威脅行為者現(xiàn)在正在以可用于網(wǎng)絡(luò)攻擊的方式處理數(shù)據(jù)。比如，他們可以通過(guò)更改推薦引擎的數(shù)據(jù)來(lái)做很多事兒。從那里，他們可以讓某人下載惡意軟件應(yīng)用程序或單擊受感染的鏈接。

數(shù)據(jù)中毒是如此危險(xiǎn)，因?yàn)樗褂肁I來(lái)對(duì)付我們。我們愈來(lái)愈相信AI對(duì)我們個(gè)人生活和工作的許多方面的預(yù)測(cè)。從幫助我們選擇要觀看的電影到告訴我們哪些客戶可能會(huì)取消他們的服務(wù)，它無(wú)所不能。

伴隨COVID-19的數(shù)字化轉(zhuǎn)型加速，AI變得更加普遍。數(shù)字交易和連接是常態(tài)而不是例外。

數(shù)據(jù)中毒和網(wǎng)絡(luò)安全工具

威脅行為者也在使用數(shù)據(jù)中毒來(lái)滲透防御者用來(lái)發(fā)現(xiàn)威脅的工具。首先，他們可以更改數(shù)據(jù)或添加數(shù)據(jù)以生成不正確的分類。另外，攻擊者還利用數(shù)據(jù)中毒來(lái)生成后門。

對(duì)AI工具的數(shù)據(jù)中毒攻擊的增加意味著企業(yè)和機(jī)構(gòu)可能會(huì)猶豫轉(zhuǎn)向這些工具。它還使防御者知道要信任哪些數(shù)據(jù)變得更具挑戰(zhàn)性。

在主題演講中，Ullrich 表示，解決方案首先要全面了解AI網(wǎng)絡(luò)安全工具使用的模型。如果您不了解是什么保護(hù)了您的數(shù)據(jù)，則很難判斷這些技術(shù)和工具是否準(zhǔn)確。

識(shí)別數(shù)據(jù)中毒攻擊

發(fā)現(xiàn)數(shù)據(jù)中毒攻擊具有挑戰(zhàn)性且耗時(shí)。所以，受害者往往發(fā)現(xiàn)，當(dāng)他們發(fā)現(xiàn)問(wèn)題時(shí)，損害已經(jīng)很大了。

另外，他們不知道哪些數(shù)據(jù)是真實(shí)的，哪些數(shù)據(jù)被操縱過(guò)。數(shù)據(jù)中毒攻擊通常是內(nèi)部工作，并且以非常緩慢的速度進(jìn)行。兩者都使數(shù)據(jù)中的更改容易遺漏。

在 RSA 會(huì)議“規(guī)避、中毒、提取和推理：防御和評(píng)估的工具”期間，IBM 研究院的 Abigail Goldsteen 建議網(wǎng)絡(luò)安全專業(yè)人士使用Adversarial Robustness 360 Toolbox (ART)來(lái)識(shí)別、阻止和預(yù)防數(shù)據(jù)中毒攻擊。這個(gè)開源工具包可以讓開發(fā)者快速創(chuàng)建、分析和攻擊，然后快速為機(jī)器學(xué)習(xí)模型選擇正確的防御方法。

使用我們擁有的工具

那么，你不應(yīng)該使用AI嗎?在這一點(diǎn)上，完全放棄它是不切實(shí)際的。這樣做將導(dǎo)致威脅行為者簡(jiǎn)單地使用AI和 ML來(lái)創(chuàng)建我們無(wú)法防御的攻擊。

相反，作為捍衛(wèi)者不能盲目相信擁有的工具和數(shù)據(jù)。應(yīng)更加了解算法的工作原理并定期檢查異常數(shù)據(jù)將有助于我們提前防范攻擊。