終結者2024—AI人工智慧在加沙的殺戮

終結者2024

在電影《終結者》中，通過時間機器從末世穿越而來的T-800機器人，藉助他那具備AR功能的眼球來識別並追殺高價值的目標——這些目標是在末世中人類抵抗組織的中堅力量。在執行任務的過程中，任何阻礙不論是警察還是路人都會被T-800毫無顧忌和憐憫的殺死。而這一科幻電影中描述殺戮模式幾乎被完整的復刻到加沙地帶，即使以色列人還未研發出那麼高效的人形機器人

終結者里的t800

早在2021 年，一本 名為《人機團隊：如何在人類和人工智慧之間創造協同作用，將徹底改變我們的世界》的書以英文發行，作者筆名是「Y.S.准將」。——以色列精銳情報部門8200的現任指揮官 ——提出了設計一種特殊AI的原理，該AI可以快速處理大量數據，以產生數千個潛在的「目標」，以便在戰爭激烈時進行軍事打擊。他寫道，這種技術將解決他所描述的「人類在定位新目標和批准目標的決策方面的瓶頸」。

六名現役以色列情報官員出於道德的不安，向以色列左翼雜誌《+972 Magazine》 和《 Local Call》泄露以色列軍隊開發了一種名為「薰衣草」的基於人工智慧的程序「薰衣草」。該程序在對巴勒斯坦人的空前轟炸中發揮了核心作用，尤其是在戰爭的早期階段。事實上，據消息人士稱，它對軍方行動的影響如此之大，以至於他們基本上將人工智慧機器的輸出視為「人類決定」

這從一定程度上解釋了，為什麼以色列作為一支現代化的軍隊卻製造了近幾年來平民傷亡比例罕見高的不義戰爭

AI自動生成的殺戮名單

從形式上講，薰衣草系統旨在將哈馬斯和巴勒斯坦伊斯蘭聖戰組織（PIJ）軍事部門的所有可疑人員（包括低級人員）標記為潛在的轟炸目標。消息人士告訴《+972》和《Local Call》，在戰爭的最初幾周，軍隊幾乎完全依賴薰衣草，薰衣草將多達37,000名巴勒斯坦人作為可疑的武裝分子 -——以及他們的家園 ——進行可能的空襲。

在以往的戰爭中，為了授權暗殺單個人類目標，一名軍官必須經歷一個複雜而漫長的「定罪」過程：交叉核對證據，證明此人確實是哈馬斯軍事部門的高級成員，找出他住在哪裡，他的聯繫方式，最後實時知道他什麼時候在家。當目標名單上只有幾十名高級特工時，情報人員可以單獨處理涉及定罪和定位他們的工作。

然而，一旦名單擴大到包括數以萬計的低級成員，以色列軍隊認為它必須依靠自動化軟體和人工智慧。消息來源作證說，結果是，人類人員在將巴勒斯坦人定為軍事人員方面的作用被擱置一旁，而人工智慧則完成了大部分工作。

根據與 +972 和 Local Call 交談的四位消息來源，薰衣草——這是為了在當前戰爭中創造人類目標而開發的——已將大約 37,000 名巴勒斯坦人標記為涉嫌「哈馬斯武裝分子」，其中大多數是低級人員（以色列國防軍發言人在給 +972 和 Local Call 的一份聲明中否認存在這樣的殺戮名單）

消息人士稱，在情報人員「手動」檢查了人工智慧系統選擇的數百個目標的隨機樣本的準確性之後，自動採用薰衣草的殺戮名單的批准在戰爭開始大約兩周後獲得批准，該名單以前衝突中僅用作輔助工具。

在戰爭的早期階段，軍隊全面批准軍官採用薰衣草的殺戮名單，不需要徹底檢查機器做出這些選擇的原因，也不需要檢查它們所依據的原始情報數據。軍隊雖然設立人工核實的程序，但據消息人士解釋，人類核實通常只是機器決策的「橡皮圖章」，並補充說，通常情況下，在授權轟炸之前，他們只會親自為每個目標投入大約「20秒」——只是為了確保薰衣草標記的目標是男性。儘管知道該系統在大約10%的情況下犯了被認為是「錯誤」的東西，並且偶爾會標記與激進組織只有鬆散聯繫或根本沒有聯繫的個人。

和所有的AI的機理一樣，薰衣草軟體通過大規模監控系統分析加沙地帶230萬居民中大多數居民收集的信息，然後評估和排名每個特定人員活躍在哈馬斯或PIJ軍事部門的可能性。據消息人士稱，這台機器幾乎給加沙的每個人打了1到100的分，表達了他們是武裝分子的可能性

通過模型輸入，薰衣草學會了識別已知的哈馬斯和PIJ特工的特徵，他們的信息作為訓練數據輸入機器，然後在普通人群中定位這些相同的特徵 -——也稱為「特徵」。被發現具有幾種不同犯罪特徵的人將達到高評級，從而自動成為暗殺的潛在目標。

在本文開頭引用的《人機團隊》一書中，8200部隊的現任指揮官提倡建立這樣的系統，但沒有提到「薰衣草」的名字。（指揮官本人也沒有透露姓名，但 8200 中的五個消息來源證實指揮官是作者，因為 《國土報》也報道了。指揮官將人類人員描述為限制軍隊在軍事行動中能力的「瓶頸」，他感嘆道：「我們（人類）無法處理這麼多信息。在戰爭期間，你派了多少人來生產目標並不重要——你仍然無法每天生產足夠的目標。

他說，解決這個問題的辦法是人工智慧。這本書提供了一個簡短的指南，介紹了如何基於人工智慧和機器學習演算法構建「目標機器」，其描述類似於薰衣草。本指南中包括幾個可以提高個人評分的「成百上千」功能示例，例如與已知的武裝分子一起加入 Whatsapp 群組、每隔幾個月更換手機以及經常更改地址

「我們不知道誰是初級特工，因為以色列沒有[在戰前]定期跟蹤他們，」高級軍官 B. 向 《+972 》和《 Local Call》 解釋道，闡明了為當前戰爭開發這種特定目標機器背後的原因。「他們想讓我們自動攻擊[初級特工]。這就是聖杯。一旦你實現了自動化，目標生成就會變得瘋狂

「信息越多，種類越多越好，」指揮官寫道。「視覺信息、蜂窩信息、社交媒體連接、戰場信息、電話聯繫人、照片。」指揮官繼續說，雖然人類一開始會選擇這些特徵，但隨著時間的推移，機器會自己識別特徵。他說，這可以使軍隊製造「數以萬計的目標」，而是否攻擊它們的實際決定仍將是人為決定。

8200 部隊秘密數據科學和人工智慧中心指揮官「Yoav 上校」在 2023 年特拉維夫大學人工智慧周上發表的私人演中，談到了以色列軍隊使用的一種新的，複雜的目標機器，該機器根據他們與現有已知武裝分子名單的相似性來檢測「危險人員」。「使用該系統，我們設法確定了哈馬斯導彈班指揮官，」「Yoav」上校在演講中說，他指的是以色列 2021 年 5 月在加沙的軍事行動，當時該機器首次使用。

講座演示幻燈片包含該系統如何工作的插圖：它獲得有關現有哈馬斯特工的數據，它學會注意他們的特徵，然後根據他們與武裝分子的相似程度對其他巴勒斯坦人進行評級。

「我們對結果進行排名並確定[攻擊目標]的閾值，」「Yoav上校」在演講中說，並強調「最終，有血有肉的人做出決定。在國防領域，從道德上講，我們非常重視這一點。這些工具旨在幫助[情報官員]打破障礙。

然而，在實踐中，最近幾個月使用薰衣草的消息人士表示，人類的能動性和精確性被大規模目標的創造和殺傷力所取代。

使用薰衣草的高級軍官 線人（雜誌稱他們為B）在當前的戰爭中，軍官不需要獨立審查 AI 系統的評估，以節省時間並實現人類目標的大規模生產不受阻礙。

「一切都是統計的，一切都很整潔——非常乾燥，」B.說。他指出，儘管即使是內部粗略的評估，薰衣草的計算只有90%的概率被認為是準確——事先知道，所有人都知道殺戮名單上目標中有10%根本不是哈馬斯軍事部門的成員。

例如，「薰衣草」機器有時會錯誤地標記出與已知的哈馬斯或PIJ特工具有相似通信模式的個人，包括警察和民防人員，武裝分子的親屬，碰巧姓名和昵稱與特工相同的居民，以及使用曾經屬於哈馬斯特工的設備的加沙人。

「一個人必須與哈馬斯有多接近才能[被人工智慧機器認為]隸屬於該組織？」一位批評「薰衣草」不準確的消息人士說。「這是一個模糊的界限。一個不從哈馬斯領取薪水但幫助他們做各種事情的人是哈馬斯特工嗎？過去在哈馬斯，但今天不再在那裡的人是哈馬斯特工嗎？這些特徵中的每一個——機器會標記為可疑的特徵——都是不準確的。

目標機器評估被標記為暗殺的個人使用的手機的能力也存在類似的問題。「在戰爭中，巴勒斯坦人一直在更換手機，」B說。「人們與家人失去聯繫，把手機交給朋友或妻子，也許會失去它。沒有辦法100%依賴自動機制來確定哪個[電話號碼]屬於誰。

B.說，這種自動化的原因是不斷推動產生更多的暗殺目標。「在沒有目標（其特徵評級足以授權轟炸）的一天中，我們以較低的閾值進行生成。我們不斷受到壓力：'給我們帶來更多的目標。他們真的對我們大喊大叫。我們很快就完成了[殺死]我們的目標。

他解釋說，當降低薰衣草的評級門檻時，它將標誌著更多的人成為轟炸的目標。「在巔峰時期，該系統設法產生了37,000人作為潛在的人類目標，」B說，「但數字一直在變化，因為這取決於你在哪裡設定哈馬斯特工的標準。有時，哈馬斯特工的定義更廣泛，然後機器開始給我們帶來各種民防人員、警察，在他們身上浪費炸彈是一種恥辱。他們幫助哈馬斯政府，但他們並沒有真正危及士兵。

一位與訓練拉文德的軍事數據科學團隊合作的消息人士說，從哈馬斯管理的國內安全部的員工那裡收集的數據也被輸入了機器，他認為這些人不是武裝分子。「令我感到不安的是，當薰衣草接受訓練時，他們鬆散地使用了'哈馬斯特工'一詞，並將民防人員納入了訓練的數據集，」他說。

消息人士補充說，即使人們認為這些人應該被殺，但根據他們的通信資料訓練系統，使Lavender在將演算法應用於普通人群時更有可能錯誤地選擇平民。「由於它是一個自動系統，不是由人類手動操作的，因此這一決定的意義是戲劇性的：這意味著你將許多具有民用通信資料的人作為潛在目標。

「我們只檢查了目標是否是男性」

以色列軍方斷然拒絕這些說法。以色列國防軍發言的一份聲明中否認使用人工智慧來確定目標，稱這些只是「協助軍官定罪的輔助工具」。聲明繼續說：「無論如何，都需要由[情報]分析員進行獨立檢查，根據以色列國防軍指令和國際法規定的條件，核實已確定的目標是否是合法的攻擊目標。

然而，消息人士稱，在轟炸以薰衣草為標誌的疑似「初級」武裝分子的房屋之前，唯一的人類監督協議是進行單一檢查：確保人工智慧選擇的目標是男性而不是女性。軍隊的假設是，如果目標是女性，那麼機器很可能犯了錯誤，因為哈馬斯和PIJ的軍事部門中沒有女性。

「一個人只需要幾秒鐘（驗證目標），」B.說，並解釋說，在意識到薰衣草系統大部分時間都「做對了」之後，這成為了協議。「起初，我們進行了檢查，以確保機器不會混淆。但在某些時候，我們依靠自動系統，我們只檢查[目標]是一個男人——這就足夠了。不需要很長時間就能分辨出一個人的聲音是男聲還是女聲。

消息人士說，在實踐中，這意味著對於被薰衣草標記為錯誤的平民，沒有適當的監督機制來檢測錯誤。根據B.的說法，「如果[哈馬斯]目標將[他的手機]交給他的兒子，他的哥哥，或者只是一個隨機的人，就會發生一個常見的錯誤。那個人將和他的家人一起在他的房子里被轟炸。這種情況經常發生。這些都是薰衣草造成的大多數錯誤，「B.說。

爸爸去哪兒的模塊造成大量婦女兒童的死亡

以色列軍隊暗殺程序的下一階段是確定在哪裡攻擊薰衣草產生的目標。

以色列國防軍發言聲稱，「哈馬斯將其特工和軍事資產置於平民的心臟地帶，系統地利用平民作為人體盾牌，並在民用建築內進行戰鬥，包括醫院、清真寺、學校和聯合國設施等敏感場所。以色列國防軍受國際法約束並按國際法行事，只針對軍事目標和軍事行動人員進行攻擊。

然而，與以色列軍隊的官方聲明相反，消息人士解釋說，以色列目前的轟炸造成空前死亡人數的一個主要原因是，軍隊會轟炸殺戮名單上的目標的私人住宅——部分原因是從情報角度來看，使用自動化系統標記家庭住宅更容易。

事實上，一些消息來源強調，與哈馬斯特工在平民區從事軍事活動的許多案例相反，在有計劃的暗殺襲擊中，軍隊經常主動選擇在沒有發生軍事活動的平民家庭內轟炸可疑的武裝分子。他們說，這一選擇反映了以色列在加沙的大規模監控系統的設計方式。

消息人士告訴《+972》和《Local Call》，由於加沙的每個人都有可以與之聯繫的私人住宅，軍隊的監視系統可以輕鬆自動地將個人與家庭住宅「聯繫起來」。為了實時識別操作員進入房屋的那一刻，已經開發了各種額外的自動軟體。這些程序同時跟蹤數千人，識別他們何時在家，並向目標官員發送自動警報，然後由目標官員標記房屋進行轟炸。這些跟蹤軟體中首次展示的模塊中有一個叫做「爸爸在哪裡？

「你把數百個[目標]放進系統，等著看你能殺死誰，」一位了解該系統的消息人士說。「這被稱為廣泛搜尋：你從目標系統生成的列表中複製粘貼。

從數據中也可以清楚地看出這一政策的證據：根據聯合國的數據，在戰爭的第一個月，超過一半的死亡人數（6,120人）屬於1,340個家庭，其中許多人在家中被完全消滅。在當前的戰爭中，整個家庭在家中被炸毀的比例遠高於2014年以色列在加沙的行動（這是以色列在加沙地帶最致命的戰爭），進一步表明了這一政策的突出性。

另一位消息人士說，每當暗殺的速度減弱時，就會有更多的目標被添加到像「爸爸在哪裡」這樣的模塊，找到進入其家中並因此可能被轟炸的個人。他說，將誰放入跟蹤系統的決定可以由軍事等級制度中相對較低的軍官做出。

「有一天，我完全是自願的，在[跟蹤]系統中增加了大約1,200個新目標，因為[我們正在進行的]攻擊數量減少了，」消息人士說。「這對我來說很有意義。回想起來，這似乎是我做出的一個嚴肅的決定。而且這樣的決定不是在高層做出的。

消息人士稱，在戰爭的頭兩周，「數千個」目標最初被輸入到定位像「爸爸在哪裡？」這樣的節目中。其中包括哈馬斯精銳特種部隊努赫巴的所有成員，哈馬斯的所有反坦克特工，以及10月7日進入以色列的任何人。但沒過多久，殺戮名單就急劇擴大。

「最後是每個人[以薰衣草為標誌]，」一位消息人士解釋說。「數以萬計。這發生在幾周後，當[以色列]旅進入加沙時，北部地區沒有參與的人（即平民）已經減少了。據該消息來源稱，甚至一些未成年人也被薰衣草標記為轟炸目標。「通常情況下，特工年齡超過17歲，但這不是一個條件。

過將薰衣草生成的列表中的目標添加到「爸爸在哪裡「模塊中，A（另外一位匿名情報軍官，原文用ABCDE來表示）.解釋說，家庭跟蹤系統將被置於持續的監視之下，一旦他們踏入家中，就會受到控制攻擊，使房子里的每個人隨著房子倒塌而死亡。

「假設你計算出[有一個]哈馬斯[特工]加上10個[房子里的平民]，」A.說。「通常，這10人將是婦女和兒童。如此荒謬的是，事實證明，你殺死的大多數人都是婦女和兒童。

低價值的目標只配被低成本不精確的武器攻擊

一旦薰衣草標記了暗殺目標，軍隊人員已經確認他們是男性，跟蹤軟體已經將目標定位在他們的家中，下一階段就是挑選用於轟炸他們的彈藥。

2023年12月，美國有線電視新聞網（CNN）報道稱，根據美國情報部門的估計，以色列空軍在加沙使用的彈藥中約有45%是「啞彈」，眾所周知，這種炸彈比制導炸彈造成的附帶傷害更大。在回應美國有線電視新聞網的報道時，文章中援引一名軍方發言人的話說：「作為一支致力於國際法和道德行為準則的軍隊，我們正在投入大量資源，以盡量減少哈馬斯強迫平民扮演人體盾牌角色的傷害。我們的戰爭是針對哈馬斯的，而不是針對加沙人民的。

然而，三名情報人士告訴《+972》和《Local Call》，以薰衣草為標誌的初級特工只是被暗殺的啞彈，以節省更昂貴的軍備。一位消息人士解釋說，這意味著，如果他們住在高層建築中，軍隊不會打擊初級目標，因為軍隊不想花費更精確和昂貴的「地板炸彈」（附帶效應更有限）來殺死他。但是，如果一個初級目標住在只有幾層樓的建築物中，軍隊就有權用啞彈殺死他和建築物中的每個人。

「所有初級目標都是這樣，」C.作證說，他在當前的戰爭中使用了各種自動化程序。「唯一的問題是，是否有可能在附帶損害方面攻擊建築物？因為我們通常用啞彈進行攻擊，這意味著從字面上摧毀整個房子的居住者。但即使避免了攻擊，你也不在乎——你立即轉向下一個目標。由於系統的存在，目標永無止境。你還有36,000人在等著。

寬泛的附加傷害審核

一位消息人士說，在攻擊初級特工時，包括那些被薰衣草等人工智慧系統標記的特工，在戰爭的最初幾周，他們被允許與每個目標一起殺死的平民人數被固定在20人以內。另一位消息人士稱，固定數字高達15。消息人士稱，軍方稱這些「附帶損害程度」廣泛適用於所有可疑的初級武裝分子，無論他們的軍銜、軍事重要性和年齡如何，也沒有具體的個案審查來權衡暗殺他們的軍事優勢和對平民的預期傷害。

據在當前戰爭中擔任目標作戰室軍官的A.說，軍隊的國際法部門以前從未對如此高的附帶損害程度給予如此「全面批准」。「這不僅僅是你可以殺死任何哈馬斯士兵，這在國際法方面顯然是允許和合法的，」A.說。「但他們直接告訴你：'你可以和許多平民一起殺死他們。

「在過去一兩年里，每個穿著哈馬斯制服的人都可能被轟炸，即使沒有特別許可，也會有20名[平民被殺]作為附帶損害，」A.繼續說道。「在實踐中，相稱性原則並不存在。

根據 A. 的說法，這是他服務的大部分時間的政策。直到後來，軍方才降低了附帶損害程度。「在這個計算中，一個初級特工也可能是 20 個孩子......過去真的不是這樣的，「A.解釋道。當被問及這項政策背後的安全理由時，A回答說：「致命性。

消息人士稱，預定和固定的附帶損害程度有助於加速使用薰衣草機器大規模創建目標，因為它節省了時間。B.聲稱，在戰爭的第一周，他們被允許殺死的平民人數為15人，每個被AI標記的疑似初級武裝分子，但這個數字隨著時間的推移「上下波動」。

「起初，我們幾乎沒有考慮附帶損害，」B.在談到10月7日之後的第一周時說。「在實踐中，你並沒有真正計算[每所被轟炸的房子里]的人，因為你無法真正判斷他們是否在家。一周後，開始限制附帶損害。人數從15人下降到5人，這使得我們很難進攻，因為如果全家人都在家，我們就無法轟炸它。然後他們又提高了這個數字。

現在，部分由於美國的壓力，以色列軍隊不再大規模製造用於轟炸平民住宅的初級人類目標。加沙地帶的大多數房屋已經被摧毀或損壞，幾乎全部人口都流離失所，這一事實也削弱了軍隊依賴情報資料庫和自動房屋定位計劃的能力。

E.聲稱，對初級武裝分子的大規模轟炸僅在戰爭的頭一兩周內發生，然後主要是為了不浪費炸彈而停止。「有彈藥經濟，」E.說。「他們總是擔心在北部戰場（與黎巴嫩真主黨）發生[戰爭]。他們不再攻擊這類[初級]人了。

然而，對哈馬斯高級指揮官的空襲仍在進行中，消息人士稱，對於這些襲擊，軍方授權每個目標殺害「數百名」平民 - 這是以色列的官方政策，甚至在最近的美國軍事行動中都沒有歷史先例。

「在轟炸難民營時，我們知道我們將殺死100多名平民，」B.回憶起12月2日的爆炸事件，以色列國防軍發言人說，這次爆炸事件的目的是暗殺Wisam Farhat。「對我來說，從心理上講，這是不尋常的。超過100名平民 —— 它越過了一些紅線。

來自加沙的年輕巴勒斯坦人阿姆賈德·謝赫（Amjad Al-Sheikh）說，他的許多家人在那次爆炸中喪生。他是加沙城以東Shuja'iya難民營的居民，那天他在當地一家超市聽到五聲爆炸聲，玻璃窗被震碎。

「我跑到我家的房子，但那裡已經沒有建築物了，」Al-Sheikh告訴+972和Local Call。「街上到處都是尖叫聲和煙霧。整個住宅區變成了堆積如山的瓦礫和深坑。人們開始在水泥里用手尋找，我也一樣，尋找我家房子的跡象。

謝赫的妻子和小女兒幸免於難——被一個落在他們身上的壁櫥保護著免受瓦礫的傷害——但他發現他的其他11名家庭成員，其中包括他的姐妹、兄弟和年幼的孩子，都死在了瓦礫下。 據人權組織B'Tselem稱，當天的轟炸摧毀了數十座建築物，造成數十人死亡，數百人被埋在房屋廢墟下。

如此高的「附帶損害」率不僅與以色列軍隊以前認為可以接受的水平相比，而且與美國在伊拉克、敘利亞和阿富汗發動的戰爭相比，也是非同尋常的。

2021 年，在伊拉克和敘利亞打擊伊斯蘭國的行動中負責行動和情報的副司令彼得·格斯滕將軍告訴一家美國國防雜誌，造成 15 名平民附帶傷害的襲擊偏離了程序; 為了執行它，他必須獲得美國中央司令部負責人的特別許可， 勞埃德·奧斯汀將軍，現任國防部長。

「對於奧薩馬·本·拉登，你的NCV（非戰鬥人員傷亡值）為30，但如果你有一個低級指揮官，他的NCV通常為零，」格斯滕說