上周，一場自主武器國際會議在奧地利維也納召開。這次會議討論了人工智能(ai)與軍事技術結合的相關話題，來自100多個國家和地區的官員參加。
隨着ai驅動的致命性自主武器系統(laws)投入實戰，繼火藥和核武器之後的「第三次軍事革命」將可能發生。事實上，半島電視台近日就報道稱，一項調查揭露，以色列陸軍正在加沙實地測試一款名為「薰衣草」的ai作戰系統。該系統能快速判斷獵殺目標的時間、地點及方式。
無人監管的獵殺
人工只花20秒確認目標為男性
媒體曝光的一份調查顯示，以色列軍隊正在使用名為「薰衣草」的ai輔助定位系統，隔離和識別數千名巴勒斯坦人，作為潛在的轟炸目標。半島電視台的羅里·查蘭茲報道說：「這個數據庫負責擬定多達37000個目標的死亡名單。」
6名以色列情報官員曾直接參与使用ai生成暗殺目標。他們說，「薰衣草」在對巴勒斯坦人的轟炸中，發揮了核心作用，特別是在戰爭的早期階段。
從形式上說，「薰衣草」是用來標記哈馬斯和巴勒斯坦所有可疑人員(包括低級別人員)，以此作為潛在的轟炸目標。
5月4日，在約旦河西岸城市圖勒凱爾姆，以軍和巴勒斯坦人衝突現場冒起濃煙。
在戰爭早期，軍方普遍批准軍官採用「薰衣草」的殺戮名單，沒有要求徹底檢查機器做出這些選擇的原因，也沒有檢查這些選擇所依據的原始情報數據。
一個消息來源指出，人工通常只是機器決策的「橡皮圖章」，通常情況下，他們在授權轟炸之前，只會花大約「20秒」在每個目標上——只是為了確保「薰衣草」標記的目標是男性。在實踐中，消息人士說，這意味着對於被「薰衣草」標記錯誤的平民，沒有監督機制來發現錯誤。
軍方全面使用
情報人員批准採用ai擬定的殺戮名單
消息人士稱，在新一輪巴以衝突爆發大約兩周後，以色列情報人員「手動」檢查了ai系統隨機選擇的數百個目標樣本的準確性，並批准自動採用「薰衣草」的殺戮名單，該名單以前僅用作輔助。當該樣本發現「薰衣草」的結果在確定個人與哈馬斯的關係上達到了90%的準確率時，軍方批准了該系統的全面使用。
5月6日，在加沙地帶南部城市拉法，以軍空襲後的廢墟。
此外，以色列軍隊在目標個人在家時(通常是在晚上)，有系統地對他們進行攻擊，而不是在軍事活動期間。據消息來源說，這是因為，從他們的情報角度來看，在這些人的私人住宅中更容易找到他們。
被允許的濫殺
獵殺一名哈馬斯高官允許誤殺100個平民
媒體披露，以色列軍隊知道，沒有要求「不出錯」的政策。「薰衣草」的出錯率約為10%。查蘭茲說：「(即使ai存在誤差)這並沒有阻止以色列利用它來快速識別加沙地帶低級別的哈馬斯人員，並對他們進行轟炸。」
在新一輪巴以衝突的頭幾周，以軍幾乎完全依賴於「薰衣草」，多達37000名巴勒斯坦人被懷疑是武裝分子，以軍對他們及其住宅進行空襲。
卡塔爾哈馬德·本·哈利法大學助理教授馬克·歐文·瓊斯，在接受半島電視台採訪時表示，越來越明顯的是，以色列軍隊正在「部署未經測試的ai系統……來作出有關平民生死的決定」。
以色列媒體《+972》報道說，這種方法導致加沙成千上萬平民死亡。
自去年10月7日新一輪巴以衝突以來，至少有33037名巴勒斯坦人在以色列的襲擊中喪生，75668人受傷。
針對越來越多的批評，以色列軍方表示，其分析人員必須進行「獨立檢查」，以核實所確定的目標符合國際法的相關定義，以及以色列軍隊的規定。
以軍否認「薰衣草」是一個「系統」，聲稱其「只是一個數據庫，其目的是交叉引用情報來源，以產生關於恐怖組織軍事行動人員的最新信息」。然而事實上，每一個巴勒斯坦武裝人員成為預定目標，就有「5到10個平民死亡」，這說明了為什麼加沙有這麼多的平民死亡。
5月6日，在加沙地帶南部城市拉法，一名男孩走過以軍空襲後的廢墟。
消息人士稱，以色列軍隊在衝突的最初幾周決定，「薰衣草」每標記一名哈馬斯初級特工，就允許附帶殺死15到20名平民。同時，成功獵殺一名哈馬斯高級官員，在襲擊中附帶殺死的平民人數被允許控制在100人以內。
聯合國人權和反恐特別報告員本·索爾表示，如果報告中的細節被證明屬實，「以色列在加沙的許多襲擊，都將構成發動不相稱襲擊的戰爭罪。」悉尼新南威爾士大學的ai專家托比·沃爾什教授表示，法律學者可能會認為，使用ai瞄準目標，違反了國際人道主義法。編譯、整理/記者梁婷婷綜合央視
ai的「奧本海默時刻」
上周，在自主武器國際會議上，美國著名信息物理學家阿吉雷發出警告，當年拉塞爾博士預言的「殺人機械人時代已經到來。」
阿吉雷表示，現在只要有一個3d打印機和基本的編程知識，一名學生便可製作出有能力引起大規模傷亡的無人機。自主武器系統已經永遠地改變了國際穩定的概念。ai系統遭黑客攻擊，衛星和其他數據丟失，甚至ai本身引起的幻覺，都可能成為ai武器系統潛在的風險。
5月4日，在加沙地帶中部邁加齊難民營拍攝的以軍空襲後的現場。
奧地利外長沙倫貝格對此發出警告稱，「誰生誰死的決定權，必須掌握在人類而不是機器手中。但事實是，科技正在飛速發展，政策卻落後了。人類正面臨奧本海默時刻。」
電影《奧本海默》的導演克里斯托弗·諾蘭曾表示，很多頂級的ai研究者，將當下視為ai的「奧本海默時刻」。這是一種不祥的預感：往日經驗永久失效，未知浩劫須臾降臨。這一刻，人類及地球的命運，彷彿縮進一隻盲盒中。
奧本海默是美國研製原子彈的首席科學家。這一憂慮其實是兩個層面，一是ai是否和原子彈一樣具有毀滅世界的能力;二是ai領域的科學家是否面臨和奧本海默一樣的道德困境。
奧地利裁軍事務高級別官員、此次自主武器會議的策劃者亞歷山大·克門特指出，短期內依靠外交途徑解決ai武器監管存在較大難度，因為這將是一項巨著式的條約。
如何在ai時代迎接「奧本海默時刻」的到來，需要全球智慧。編譯、整理/記者梁婷婷綜合央視
延伸
烏克蘭戰場成為美軍「ai武器實驗室」
據央視 在曾負責烏克蘭戰場ai作戰測試的美國第18空降軍中將多納休眼中，烏克蘭戰場已成美軍的「ai武器實驗室」。
4月23日，由五角大樓主導的「梅文計劃」的最新進展被曝光。
據《紐約時報》披露，梅文智能系統正在烏克蘭戰場得到快速訓練和完善。簡單來說，該ai系統能夠將衛星、雷達、紅外設備甚至社交媒體上的影像處理後匯總到一塊屏幕上，幫助接入該系統的人員快速識別出打擊目標。通過接入戰鬥機或無人機等武器系統，人類指揮官只需做出確認打擊的最終決定。
5月6日，在加沙地帶南部城市拉法，人們查看以軍空襲後的廢墟。組圖/新華社
英國前陸軍軍官邁克·馬丁說：「ai在武器系統中的體現之一便是自主化。我們希望武器系統實現自主化的原因是，希望它們(武器)快速做出打擊行動。在戰爭中，如果你能先發制人，那麼你就擁有巨大的優勢。情報分析是一種有效的識別(打擊目標的)方式，而識別某一目標恰恰是ai系統非常擅長的。」
舉個例子，只需讓ai系統瀏覽一輛坦克的照片，系統便會定位出它的位置，無人機便可對坦克進行打擊。
據英國《每日郵報》報道，在任何時間，俄烏前線上空都飛行着至少10000架無人機，這些無人機的單個成本大都不超過2000美元，但卻可以摧毀一台價值數百萬美元的主戰坦克。
去年10月，據福布斯新聞網報道，烏克蘭無人機公司薩克爾聲稱，它已經部署了一款全自主無人機——「獵隼偵察兵」。在ai的驅動下，它能夠自行決定在戰場上殺死誰。薩克爾官員宣稱，這款無人機已經進行了小規模的自主攻擊。
