本文为深度编译，仅供交流学习，不代表日新说观点；今日头条独家发布，谢绝转载
一名“伊斯兰国”组织成员在拉卡挥舞该恐怖组织旗帜。
反恐机构正竭力保持优势并阻止袭击，因为获取数字工具的难度不断降低
多年来，反恐当局一直将与恐怖组织及其利用数字工具和社交媒体应用程序的斗争，比作一场永无止境的“打地鼠”游戏。
从“伊斯兰国”及其前身“基地”组织等圣战恐怖团体，到新纳粹组织等，都已熟练运用数字工具进行招募、通过加密货币秘密融资、下载3D打印武器，并向追随者传播恐怖主义技巧。在此过程中，执法和情报机构始终处于被动追赶状态，疲于应对。
随着时间推移，挫败袭击并保持对这类恐怖组织技术优势的策略不断演变，因为越来越多的开源资源变得可用。如今，随着人工智能——既作为一项快速发展的前沿技术，又以免费、易于获取的应用程序形式存在——的普及，相关机构正面临前所未有的严峻挑战。
熟悉美国政府反恐努力的消息人士向《卫报》透露，多家安全机构对人工智能如何使敌对组织在规划和行动中更加高效表示高度担忧。联邦调查局（FBI）拒绝就此事置评。
“我们的研究准确预测了当前观察到的现象：恐怖分子正利用人工智能加速现有活动，而非彻底革新其运营能力，”反恐技术监督组织“反恐技术”（Tech Against Terrorism）创始人兼执行主任亚当·哈德利表示。该组织由联合国反恐执行局（CTED）提供支持。
“未来风险包括恐怖分子利用人工智能进行快速应用和网站开发，但根本上，生成式人工智能会放大现有技术带来的威胁，而非创造全新的威胁类别。”
目前，“伊斯兰国”（IS）及其他相关组织已开始利用人工智能，特别是OpenAI的聊天机器人ChatGPT，以全新且更广泛的方式在多媒体平台放大招募宣传。与人工智能对颠覆数十个行业现代劳动力所构成的迫在眉睫的威胁类似，人工智能还将加剧新的公共安全问题。
“你拿一份‘伊斯兰国’新闻简报，现在可以将其转化为音频内容，”战略对话研究所非洲、中东和亚洲执行主任穆斯塔法·阿亚德表示。“我们已经看到支持者和支持团体这样做，以及他们中央制作的照片集。”阿亚德继续说道，呼应哈德利的观点：“人工智能正在做的大部分事情都是赋能现有能力。它还支持他们在宣传和传播方面的能力——这是关键部分。”
“伊斯兰国”并未掩饰对人工智能的兴趣，并已公开承认利用当前人工智能技术所带来的机遇，甚至通过加密渠道向支持者提供了一份《人工智能工具与风险指南》。在其最新宣传杂志中，“伊斯兰国”概述了人工智能的未来，并强调该组织需将其纳入日常运营。
“对于每个人来说，无论其领域或专长如何，掌握人工智能的细微差别都已成为不可或缺的技能，”该杂志的一篇文章写道。“人工智能不仅仅是一项技术，它正在成为塑造战争的力量。”在同一杂志中，一名“伊斯兰国”作者解释称，人工智能服务可以成为任何成员的“数字顾问”和“研究助手”。
在“伊斯兰国”用于与追随者和招募人员沟通的活跃聊天群组中，用户开始讨论人工智能的多种应用方式，但部分人持谨慎态度。一名用户询问是否可以使用ChatGPT来查找“如何制造爆炸物”的相关信息，但不确定相关机构是否在监控该平台——这已成为该聊天机器人自推出以来引发的更广泛隐私担忧之一。
“还有其他选择吗？”同一聊天室中一名“伊斯兰国”支持者问道，“安全的。”
但另一名用户发现了一种更隐蔽的绕过监控的方法：直接发布“根据ChatGPT创建的远程车辆原型简单蓝图”的示意图和制作说明。卡车冲撞已成为“伊斯兰国”近期袭击中，无论是追随者还是行动人员，都青睐的袭击方式。今年三月，一个与“伊斯兰国”相关的账户还发布了一段由AI生成的炸弹制作视频，配有虚拟角色，展示了如何用家用物品制作炸弹。
极右翼团体也对AI表现出兴趣，其中一个团体建议追随者如何制作虚假信息模因（meme），而另一些则利用AI来制作阿道夫·希特勒的图形和宣传材料。
阿亚德表示，其中一些人工智能驱动的工具也为恐怖组织及其运营安全带来了“福音”——例如加密语音调制器，可掩盖音频，从而“帮助他们进一步隐藏行踪并提升运营安全”，以及日常情报工作技巧。
恐怖组织一直处于利用数字空间实现扩张的前沿，人工智能只是最新例证。在2014年6月，当时尚未进入全球公众视野的“伊斯兰国”（IS），在攻占摩苏尔时通过推特直播了处决超过1000名男子的画面和信息，导致伊拉克军队士兵因恐惧而逃离。在所谓“哈里发国”建立并扩大网络行动后，政府与硅谷展开了联合行动，对所有IS在线账户进行打击。此后，西方情报机构将加密货币、加密通讯应用、3D打印枪支相关网站等列为重点监控和调查对象。
然而，全球各国政府对反恐行动的预算削减，包括美国的一些举措，已使相关努力受到削弱。
“更迫切的脆弱性在于反恐基础设施的恶化，”哈德利表示。“随着平台和政府对这一领域关注度下降，标准已显著降低。”
哈德利解释称，这种恶化正与“人工智能驱动的内容复杂化”同步发生，他敦促Meta和OpenAI等公司“强化现有机制，包括哈希值共享和传统检测能力”，并致力于开发更多围绕人工智能的“内容审核”措施。
“我们的脆弱性并非源于新的人工智能能力，而是我们应对现有在线恐怖活动的能力已显著削弱，”他补充道。
作者：本·马克奇。
