隨著ChatGPT等各類AI產品逐漸融入大眾的工作，甚至日常生活，AI似乎以極大的便利性和廣泛的運用掩蓋了自身的危險性。AI正在以不道德的方式協助網絡攻擊者加速并升級其攻擊方式。與之相伴的還有當前環境下的其他威脅，包括網絡犯罪分子與高級持續威脅 (APT) 團伙之間的界限正在變得模糊，事故對目標企業產生的影響更廣泛，檢測和緩解攻擊需要多種防御途徑。AI時代下，企業正在面臨著更加嚴峻的網絡安全環境。
AI催生新威脅
對于網絡攻擊者而言，AI的利用可以分成三大類，第一類是用AI寫木馬程序，并利用木馬程序進入被攻擊者的環境中；第二是利用AI寫釣魚郵件；第三，攻擊者會利用AI使原本的攻擊更快速、簡單。
以生成式AI為例，網絡攻擊者已經研發出了像是WormGTP、FraudGPT這樣的AI程序，作為ChatGPT的一個衍生，它可以讓攻擊者很容易地寫出木馬程序或釣魚郵件。此前，當人們收到釣魚郵件時，由于詞匯不通順，或者用錯詞語，會很快被識破。但運用AI去驅動這一類型的工具時，寫出來的文字就會變得更加準確，釣魚郵件的辨認也就變得更加困難。
當企業運用像Copilot這樣的ChatGPT類AI工具時，相當于為攻擊者開辟了端口。所以任何企業使用AI時都要慎之又慎。并且，生成式AI后端是語言模型，而此類語言模型背后有很多開源程序會在例如GitHub一類的平臺上分享。攻擊者可以利用這一類型的開源訓練自己的AI模型。開放的網絡環境也會讓不同攻擊者更輕易地分享自己的成功經驗和故事。
與此同時，勒索軟件會變得更加泛濫。在AI的助力下，勒索變得更加難以辨認，且危害性更高。比如，勒索者會利用AI換臉軟件制作勒索視頻。個人在社交媒體分享的照片和視頻都有可能變成犯罪分子的勒索素材。而現在越來越普遍的人臉識別登錄和付款也可能蘊藏著被利用的風險。
AI構筑新防御
面對AI環境中“道高一尺，魔高一丈”的網絡攻擊，用AI對抗AI是唯一的途徑。Palo Alto Networks（派拓網絡）Unit 42咨詢總監Terence Lau 認為： “我們無法僅憑人力去阻擋AI攻擊，而是應該用AI去對抗AI。我們之前所熟知的一些防御模式和方法需要改變，因為AI讓我們看到了更快、更強、更精準的攻擊模式。”
作為全球網絡安全領導者之一，派拓網絡會一直跟蹤AI演進的過程、利用方式和攻擊者的新手段。派拓網絡Unit 42 是世界一流的威脅研究機構和事件響應團隊之一，對于精準AI頗有經驗，會利用各種數據和機器學習，并通過一些模式來研究目前威脅信息方面的整體現狀。同時，信息和研究成果會以開放、免費的形式公布在網站和論壇與大眾共享。派拓網絡始終希望能夠對一個企業所運營的網絡生態系統實現整體保護，并最終保護整個生態系統。
除了針對AI的持續跟蹤，對于企業，派拓網絡還有一些重點建議：首先是要改變對成功防御的看法，企業不僅要預防，更要懂得響應。其次是優先考慮限制攻擊者，并為防御者提供回旋的空間和時間，做到精簡防御，實現可重復性和自動化。企業還需要注意24/7全天候監控，以增加攻擊者的時間壓力。除此之外，努力過渡到零信任企業、增強安全措施、測量并減少外部攻擊面也是面對AI時代網絡攻擊的必要防御手段之一。
