本文為深度編譯，僅供交流學習，不代表日新說觀點；今日頭條獨家發布，謝絕轉載
一名「伊斯蘭國」組織成員在拉卡揮舞該恐怖組織旗幟。
反恐機構正竭力保持優勢並阻止襲擊，因為獲取數字工具的難度不斷降低
多年來，反恐當局一直將與恐怖組織及其利用數字工具和社交媒體應用程序的鬥爭，比作一場永無止境的「打地鼠」遊戲。
從「伊斯蘭國」及其前身「基地」組織等聖戰恐怖團體，到新納粹組織等，都已熟練運用數字工具進行招募、通過加密貨幣秘密融資、下載3D列印武器，並向追隨者傳播恐怖主義技巧。在此過程中，執法和情報機構始終處於被動追趕狀態，疲於應對。
隨著時間推移，挫敗襲擊並保持對這類恐怖組織技術優勢的策略不斷演變，因為越來越多的開源資源變得可用。如今，隨著人工智慧——既作為一項快速發展的前沿技術，又以免費、易於獲取的應用程序形式存在——的普及，相關機構正面臨前所未有的嚴峻挑戰。
熟悉美國政府反恐努力的消息人士向《衛報》透露，多家安全機構對人工智慧如何使敵對組織在規劃和行動中更加高效表示高度擔憂。聯邦調查局（FBI）拒絕就此事置評。
「我們的研究準確預測了當前觀察到的現象：恐怖分子正利用人工智慧加速現有活動，而非徹底革新其運營能力，」反恐技術監督組織「反恐技術」（Tech Against Terrorism）創始人兼執行主任亞當·哈德利表示。該組織由聯合國反恐執行局（CTED）提供支持。
「未來風險包括恐怖分子利用人工智慧進行快速應用和網站開發，但根本上，生成式人工智慧會放大現有技術帶來的威脅，而非創造全新的威脅類別。」
目前，「伊斯蘭國」（IS）及其他相關組織已開始利用人工智慧，特別是OpenAI的聊天機器人ChatGPT，以全新且更廣泛的方式在多媒體平台放大招募宣傳。與人工智慧對顛覆數十個行業現代勞動力所構成的迫在眉睫的威脅類似，人工智慧還將加劇新的公共安全問題。
「你拿一份『伊斯蘭國』新聞簡報，現在可以將其轉化為音頻內容，」戰略對話研究所非洲、中東和亞洲執行主任穆斯塔法·阿亞德表示。「我們已經看到支持者和支持團體這樣做，以及他們中央製作的照片集。」阿亞德繼續說道，呼應哈德利的觀點：「人工智慧正在做的大部分事情都是賦能現有能力。它還支持他們在宣傳和傳播方面的能力——這是關鍵部分。」
「伊斯蘭國」並未掩飾對人工智慧的興趣，並已公開承認利用當前人工智慧技術所帶來的機遇，甚至通過加密渠道向支持者提供了一份《人工智慧工具與風險指南》。在其最新宣傳雜誌中，「伊斯蘭國」概述了人工智慧的未來，並強調該組織需將其納入日常運營。
「對於每個人來說，無論其領域或專長如何，掌握人工智慧的細微差別都已成為不可或缺的技能，」該雜誌的一篇文章寫道。「人工智慧不僅僅是一項技術，它正在成為塑造戰爭的力量。」在同一雜誌中，一名「伊斯蘭國」作者解釋稱，人工智慧服務可以成為任何成員的「數字顧問」和「研究助手」。
在「伊斯蘭國」用於與追隨者和招募人員溝通的活躍聊天群組中，用戶開始討論人工智慧的多種應用方式，但部分人持謹慎態度。一名用戶詢問是否可以使用ChatGPT來查找「如何製造爆炸物」的相關信息，但不確定相關機構是否在監控該平台——這已成為該聊天機器人自推出以來引發的更廣泛隱私擔憂之一。
「還有其他選擇嗎？」同一聊天室中一名「伊斯蘭國」支持者問道，「安全的。」
但另一名用戶發現了一種更隱蔽的繞過監控的方法：直接發布「根據ChatGPT創建的遠程車輛原型簡單藍圖」的示意圖和製作說明。卡車衝撞已成為「伊斯蘭國」近期襲擊中，無論是追隨者還是行動人員，都青睞的襲擊方式。今年三月，一個與「伊斯蘭國」相關的賬戶還發布了一段由AI生成的炸彈製作視頻，配有虛擬角色，展示了如何用家用物品製作炸彈。
極右翼團體也對AI表現出興趣，其中一個團體建議追隨者如何製作虛假信息模因（meme），而另一些則利用AI來製作阿道夫·希特勒的圖形和宣傳材料。
阿亞德表示，其中一些人工智慧驅動的工具也為恐怖組織及其運營安全帶來了「福音」——例如加密語音調製器，可掩蓋音頻，從而「幫助他們進一步隱藏行蹤並提升運營安全」，以及日常情報工作技巧。
恐怖組織一直處於利用數字空間實現擴張的前沿，人工智慧只是最新例證。在2014年6月，當時尚未進入全球公眾視野的「伊斯蘭國」（IS），在攻佔摩蘇爾時通過推特直播了處決超過1000名男子的畫面和信息，導致伊拉克軍隊士兵因恐懼而逃離。在所謂「哈里發國」建立並擴大網路行動後，政府與矽谷展開了聯合行動，對所有IS在線賬戶進行打擊。此後，西方情報機構將加密貨幣、加密通訊應用、3D列印槍支相關網站等列為重點監控和調查對象。
然而，全球各國政府對反恐行動的預算削減，包括美國的一些舉措，已使相關努力受到削弱。
「更迫切的脆弱性在於反恐基礎設施的惡化，」哈德利表示。「隨著平台和政府對這一領域關注度下降，標準已顯著降低。」
哈德利解釋稱，這種惡化正與「人工智慧驅動的內容複雜化」同步發生，他敦促Meta和OpenAI等公司「強化現有機制，包括哈希值共享和傳統檢測能力」，並致力於開發更多圍繞人工智慧的「內容審核」措施。
「我們的脆弱性並非源於新的人工智慧能力，而是我們應對現有在線恐怖活動的能力已顯著削弱，」他補充道。
作者：本·馬克奇。
