上周，一场自主武器国际会议在奥地利维也纳召开。这次会议讨论了人工智能(ai)与军事技术结合的相关话题，来自100多个国家和地区的官员参加。
随着ai驱动的致命性自主武器系统(laws)投入实战，继火药和核武器之后的“第三次军事革命”将可能发生。事实上，半岛电视台近日就报道称，一项调查揭露，以色列陆军正在加沙实地测试一款名为“薰衣草”的ai作战系统。该系统能快速判断猎杀目标的时间、地点及方式。
无人监管的猎杀
人工只花20秒确认目标为男性
媒体曝光的一份调查显示，以色列军队正在使用名为“薰衣草”的ai辅助定位系统，隔离和识别数千名巴勒斯坦人，作为潜在的轰炸目标。半岛电视台的罗里·查兰兹报道说：“这个数据库负责拟定多达37000个目标的死亡名单。”
6名以色列情报官员曾直接参与使用ai生成暗杀目标。他们说，“薰衣草”在对巴勒斯坦人的轰炸中，发挥了核心作用，特别是在战争的早期阶段。
从形式上说，“薰衣草”是用来标记哈马斯和巴勒斯坦所有可疑人员(包括低级别人员)，以此作为潜在的轰炸目标。
5月4日，在约旦河西岸城市图勒凯尔姆，以军和巴勒斯坦人冲突现场冒起浓烟。
在战争早期，军方普遍批准军官采用“薰衣草”的杀戮名单，没有要求彻底检查机器做出这些选择的原因，也没有检查这些选择所依据的原始情报数据。
一个消息来源指出，人工通常只是机器决策的“橡皮图章”，通常情况下，他们在授权轰炸之前，只会花大约“20秒”在每个目标上——只是为了确保“薰衣草”标记的目标是男性。在实践中，消息人士说，这意味着对于被“薰衣草”标记错误的平民，没有监督机制来发现错误。
军方全面使用
情报人员批准采用ai拟定的杀戮名单
消息人士称，在新一轮巴以冲突爆发大约两周后，以色列情报人员“手动”检查了ai系统随机选择的数百个目标样本的准确性，并批准自动采用“薰衣草”的杀戮名单，该名单以前仅用作辅助。当该样本发现“薰衣草”的结果在确定个人与哈马斯的关系上达到了90%的准确率时，军方批准了该系统的全面使用。
5月6日，在加沙地带南部城市拉法，以军空袭后的废墟。
此外，以色列军队在目标个人在家时(通常是在晚上)，有系统地对他们进行攻击，而不是在军事活动期间。据消息来源说，这是因为，从他们的情报角度来看，在这些人的私人住宅中更容易找到他们。
被允许的滥杀
猎杀一名哈马斯高官允许误杀100个平民
媒体披露，以色列军队知道，没有要求“不出错”的政策。“薰衣草”的出错率约为10%。查兰兹说：“(即使ai存在误差)这并没有阻止以色列利用它来快速识别加沙地带低级别的哈马斯人员，并对他们进行轰炸。”
在新一轮巴以冲突的头几周，以军几乎完全依赖于“薰衣草”，多达37000名巴勒斯坦人被怀疑是武装分子，以军对他们及其住宅进行空袭。
卡塔尔哈马德·本·哈利法大学助理教授马克·欧文·琼斯，在接受半岛电视台采访时表示，越来越明显的是，以色列军队正在“部署未经测试的ai系统……来作出有关平民生死的决定”。
以色列媒体《+972》报道说，这种方法导致加沙成千上万平民死亡。
自去年10月7日新一轮巴以冲突以来，至少有33037名巴勒斯坦人在以色列的袭击中丧生，75668人受伤。
针对越来越多的批评，以色列军方表示，其分析人员必须进行“独立检查”，以核实所确定的目标符合国际法的相关定义，以及以色列军队的规定。
以军否认“薰衣草”是一个“系统”，声称其“只是一个数据库，其目的是交叉引用情报来源，以产生关于恐怖组织军事行动人员的最新信息”。然而事实上，每一个巴勒斯坦武装人员成为预定目标，就有“5到10个平民死亡”，这说明了为什么加沙有这么多的平民死亡。
5月6日，在加沙地带南部城市拉法，一名男孩走过以军空袭后的废墟。
消息人士称，以色列军队在冲突的最初几周决定，“薰衣草”每标记一名哈马斯初级特工，就允许附带杀死15到20名平民。同时，成功猎杀一名哈马斯高级官员，在袭击中附带杀死的平民人数被允许控制在100人以内。
联合国人权和反恐特别报告员本·索尔表示，如果报告中的细节被证明属实，“以色列在加沙的许多袭击，都将构成发动不相称袭击的战争罪。”悉尼新南威尔士大学的ai专家托比·沃尔什教授表示，法律学者可能会认为，使用ai瞄准目标，违反了国际人道主义法。编译、整理/记者梁婷婷综合央视
ai的“奥本海默时刻”
上周，在自主武器国际会议上，美国著名信息物理学家阿吉雷发出警告，当年拉塞尔博士预言的“杀人机器人时代已经到来。”
阿吉雷表示，现在只要有一个3d打印机和基本的编程知识，一名学生便可制作出有能力引起大规模伤亡的无人机。自主武器系统已经永远地改变了国际稳定的概念。ai系统遭黑客攻击，卫星和其他数据丢失，甚至ai本身引起的幻觉，都可能成为ai武器系统潜在的风险。
5月4日，在加沙地带中部迈加齐难民营拍摄的以军空袭后的现场。
奥地利外长沙伦贝格对此发出警告称，“谁生谁死的决定权，必须掌握在人类而不是机器手中。但事实是，科技正在飞速发展，政策却落后了。人类正面临奥本海默时刻。”
电影《奥本海默》的导演克里斯托弗·诺兰曾表示，很多顶级的ai研究者，将当下视为ai的“奥本海默时刻”。这是一种不祥的预感：往日经验永久失效，未知浩劫须臾降临。这一刻，人类及地球的命运，仿佛缩进一只盲盒中。
奥本海默是美国研制原子弹的首席科学家。这一忧虑其实是两个层面，一是ai是否和原子弹一样具有毁灭世界的能力;二是ai领域的科学家是否面临和奥本海默一样的道德困境。
奥地利裁军事务高级别官员、此次自主武器会议的策划者亚历山大·克门特指出，短期内依靠外交途径解决ai武器监管存在较大难度，因为这将是一项巨著式的条约。
如何在ai时代迎接“奥本海默时刻”的到来，需要全球智慧。编译、整理/记者梁婷婷综合央视
延伸
乌克兰战场成为美军“ai武器实验室”
据央视 在曾负责乌克兰战场ai作战测试的美国第18空降军中将多纳休眼中，乌克兰战场已成美军的“ai武器实验室”。
4月23日，由五角大楼主导的“梅文计划”的最新进展被曝光。
据《纽约时报》披露，梅文智能系统正在乌克兰战场得到快速训练和完善。简单来说，该ai系统能够将卫星、雷达、红外设备甚至社交媒体上的影像处理后汇总到一块屏幕上，帮助接入该系统的人员快速识别出打击目标。通过接入战斗机或无人机等武器系统，人类指挥官只需做出确认打击的最终决定。
5月6日，在加沙地带南部城市拉法，人们查看以军空袭后的废墟。组图/新华社
英国前陆军军官迈克·马丁说：“ai在武器系统中的体现之一便是自主化。我们希望武器系统实现自主化的原因是，希望它们(武器)快速做出打击行动。在战争中，如果你能先发制人，那么你就拥有巨大的优势。情报分析是一种有效的识别(打击目标的)方式，而识别某一目标恰恰是ai系统非常擅长的。”
举个例子，只需让ai系统浏览一辆坦克的照片，系统便会定位出它的位置，无人机便可对坦克进行打击。
据英国《每日邮报》报道，在任何时间，俄乌前线上空都飞行着至少10000架无人机，这些无人机的单个成本大都不超过2000美元，但却可以摧毁一台价值数百万美元的主战坦克。
去年10月，据福布斯新闻网报道，乌克兰无人机公司萨克尔声称，它已经部署了一款全自主无人机——“猎隼侦察兵”。在ai的驱动下，它能够自行决定在战场上杀死谁。萨克尔官员宣称，这款无人机已经进行了小规模的自主攻击。
