隨著ChatGPT等各類AI產(chǎn)品逐漸融入大眾的工作，甚至日常生活，AI似乎以極大的便利性和廣泛的運用掩蓋了自身的危險性。AI正在以不道德的方式協(xié)助網(wǎng)絡(luò)攻擊者加速并升級其攻擊方式。與之相伴的還有當(dāng)前環(huán)境下的其他威脅，包括網(wǎng)絡(luò)犯罪分子與高級持續(xù)威脅 (APT) 團伙之間的界限正在變得模糊，事故對目標(biāo)企業(yè)產(chǎn)生的影響更廣泛，檢測和緩解攻擊需要多種防御途徑。AI時代下，企業(yè)正在面臨著更加嚴(yán)峻的網(wǎng)絡(luò)安全環(huán)境。

AI催生新威脅

對于網(wǎng)絡(luò)攻擊者而言，AI的利用可以分成三大類，第一類是用AI寫木馬程序，并利用木馬程序進入被攻擊者的環(huán)境中；第二是利用AI寫釣魚郵件；第三，攻擊者會利用AI使原本的攻擊更快速、簡單。

以生成式AI為例，網(wǎng)絡(luò)攻擊者已經(jīng)研發(fā)出了像是WormGTP、FraudGPT這樣的AI程序，作為ChatGPT的一個衍生，它可以讓攻擊者很容易地寫出木馬程序或釣魚郵件。此前，當(dāng)人們收到釣魚郵件時，由于詞匯不通順，或者用錯詞語，會很快被識破。但運用AI去驅(qū)動這一類型的工具時，寫出來的文字就會變得更加準(zhǔn)確，釣魚郵件的辨認(rèn)也就變得更加困難。

當(dāng)企業(yè)運用像Copilot這樣的ChatGPT類AI工具時，相當(dāng)于為攻擊者開辟了端口。所以任何企業(yè)使用AI時都要慎之又慎。并且，生成式AI后端是語言模型，而此類語言模型背后有很多開源程序會在例如GitHub一類的平臺上分享。攻擊者可以利用這一類型的開源訓(xùn)練自己的AI模型。開放的網(wǎng)絡(luò)環(huán)境也會讓不同攻擊者更輕易地分享自己的成功經(jīng)驗和故事。

與此同時，勒索軟件會變得更加泛濫。在AI的助力下，勒索變得更加難以辨認(rèn)，且危害性更高。比如，勒索者會利用AI換臉軟件制作勒索視頻。個人在社交媒體分享的照片和視頻都有可能變成犯罪分子的勒索素材。而現(xiàn)在越來越普遍的人臉識別登錄和付款也可能蘊藏著被利用的風(fēng)險。

AI構(gòu)筑新防御

面對AI環(huán)境中“道高一尺，魔高一丈”的網(wǎng)絡(luò)攻擊，用AI對抗AI是唯一的途徑。Palo Alto Networks（派拓網(wǎng)絡(luò)）Unit42咨詢總監(jiān)Terence Lau 認(rèn)為： “我們無法僅憑人力去阻擋AI攻擊，而是應(yīng)該用AI去對抗AI。我們之前所熟知的一些防御模式和方法需要改變，因為AI讓我們看到了更快、更強、更精準(zhǔn)的攻擊模式。”

作為全球網(wǎng)絡(luò)安全領(lǐng)導(dǎo)者之一，派拓網(wǎng)絡(luò)會一直跟蹤AI演進的過程、利用方式和攻擊者的新手段。派拓網(wǎng)絡(luò)Unit42 是世界一流的威脅研究機構(gòu)和事件響應(yīng)團隊之一，對于精準(zhǔn)AI頗有經(jīng)驗，會利用各種數(shù)據(jù)和機器學(xué)習(xí)，并通過一些模式來研究目前威脅信息方面的整體現(xiàn)狀。同時，信息和研究成果會以開放、免費的形式公布在網(wǎng)站和論壇與大眾共享。派拓網(wǎng)絡(luò)始終希望能夠?qū)σ粋€企業(yè)所運營的網(wǎng)絡(luò)生態(tài)系統(tǒng)實現(xiàn)整體保護，并最終保護整個生態(tài)系統(tǒng)。

除了針對AI的持續(xù)跟蹤，對于企業(yè)，派拓網(wǎng)絡(luò)還有一些重點建議：首先是要改變對成功防御的看法，企業(yè)不僅要預(yù)防，更要懂得響應(yīng)。其次是優(yōu)先考慮限制攻擊者，并為防御者提供回旋的空間和時間，做到精簡防御，實現(xiàn)可重復(fù)性和自動化。企業(yè)還需要注意24/7全天候監(jiān)控，以增加攻擊者的時間壓力。除此之外，努力過渡到零信任企業(yè)、增強安全措施、測量并減少外部攻擊面也是面對AI時代網(wǎng)絡(luò)攻擊的必要防御手段之一。