AI時代下的黑客攻擊會以一種系統設計者無法預料甚至難以想象的方式襲來，破壞整體系統或者沖擊其中的一組特定規則。

　　這將極大提高風險檢測的難度。即使及時發現，我們也很難理解黑客AI是怎樣展開攻勢的。

　　哈佛大學肯尼迪分校安全技術專家、研究員兼講師布魯斯·施奈爾（Bruce Schneier）表示，目前正如火如荼發展的人工智能技術既給全社會帶來巨大收益，也有可能引發新一輪安全沖擊。

　　在5月17日舉行的2021年RSA大會主題演講當中，施奈爾重點介紹了AI風險議題。在施奈爾看來，AI時代下的黑客攻擊不再需要預先定義；相反，它會以一種系統設計者無法預料甚至難以想象的方式襲來，破壞整體系統或者沖擊其中的一組特定規則。

　　施奈爾解釋道，“一切規則系統都可能遭到入侵。無論我們在設計階段多么深思熟慮的規劃，任何規則集中都必然存在不完整性或不一致性，這就是設計者意想不到、或者無法明確定義的部分。而這些小小的缺口，終將被黑客所利用并引發系統的全面崩潰。”

　　黑客AI與可解釋性問題

　　施奈爾認為，未來的黑客攻擊很可能會由某種形式的AI主動發起，這將極大提高風險檢測的難度。而且即使及時發現，我們也很難理解黑客AI是怎樣展開攻勢的。

　　這里涉及的就是經典的“可解釋性”問題，熱門科幻小說《銀河系漫游指南》中對此有過獨特的描述。在書中，一群超智能泛維生物打造出全宇宙最強大的計算機，并將其命名為“深思”（ Deep Thought），希望由它回答關于生命、宇宙以及萬物的終極問題。而計算機給出的答案是42。

　　施奈爾表示，“深思無法解釋這個答案，甚至無法解釋它是如何理解這個問題的，這就是典型的「可解釋性」問題。現代AI的本質是個暗箱：一頭輸入數據，一頭輸出答案。”

　　施奈爾指出，研究人員正在努力開發可解釋AI，但出于多個現實原因，他認為短期之內AI領域還實現不了實質性的成果。在他看來，AI工作原理的可解釋性問題，根源在于如何以符合人類認知、記憶與判斷習慣的形式表達數學計算。

　　他提到，“強迫AI做出人類可以理解的解釋，這本身就是給AI戴上了一副鐐銬，而且很可能影響到AI的決策質量。當然，在不久的未來，AI會變得越來越不透明、越來越難以解釋。”

　　雖然黑客AI仍只是科幻小說中的題材，但也確有可能出現在現實世界當中。

　　Bruce Schneier

　　即將現身的AI黑客

　　目前，施奈爾倒是還沒看到AI在大規模黑客入侵活動中得到成熟應用。但無論如何，這種未來很可能出現，組織也必須提前為此做好準備。

　　施奈爾提到，“雖然黑客AI仍只是科幻小說中的題材，但也確有可能出現在現實世界當中。”

　　迄今為止，施奈爾觀察到的黑客攻擊仍然是由人為操縱，對于攻擊一方的專業知識、創造力、時間乃至運氣都有很高的要求。但他警告稱，一旦AI系統獲得了執行黑客攻擊的能力，其運行速度與運行規模都將遠超人類的想象。

　　他強調，“隨著AI系統越來越強大，人類社會一定會把愈發重要的決策交給它們處理。而針對這類系統的黑客攻擊，也必然引發更大的破壞。到那時，攻擊活動本身也將由AI技術負責支持及實現。”

　　抵御AI黑客

　　施奈爾在演講的前半部分中著重強調了AI黑客風險的嚴重性與迫切性，但在后一部分內容中，他也向聽眾們介紹了網絡安全領域的潛在提升空間。

　　施奈爾表示，“如果未來的AI能夠發現計算機代碼中的新漏洞時，那么它一方面是黑客手中的強大攻擊武器，另一方面也會成為防御一方的護身神盾。”

　　軟件供應商未來可能會部署更多AI工具，由其自主查找代碼漏洞并提供修復程序。施奈爾還樂觀地提到，如果能夠實現，這類工具將消除我們今天已知的一切軟件漏洞。

　　施奈爾最后總結道，“在技術的推動下被動走向未來確實更輕松，但只有整個人類社會主動決定技術在未來時代下所應扮演的角色，我們才能真正享受技術發展帶來的福祉。因此在AI全面普及并覆蓋我們的整個世界之前，人類必須先用清醒的頭腦做出審視與預判。”