微軟(Microsoft)首席執行官布拉德•史密斯(Brad Smith)在周末發布警告稱，殺手機器人“勢不可擋”，需要制定新的數字日內瓦公約。
大多數科幻迷聽到機器人殺手時都會想到終結者。經典系列電影《天網》中，一個名為“天網”(Skynet)的流氓軍事AI在向全球數百萬服務器傳播後獲得了自我意識。天網的結論是，人類會試圖關閉它，為了自我保護的利益，試圖滅絕所有的人類。
雖然《終結者》曾經只是一部爆米花電影，但現在它向人們發出了可怕的警告:如果不採取預防措施，可能會發生什麼?
與大多數技術一樣，人工智能將越來越多地用于軍事應用，一般人工智能的最終目標是自學，兩者結合起來，天網就不再像以前那樣戲劇化了。
在接受《每日電訊報》採訪時，史密斯似乎同意這種說法。史密斯指出，美國、中國、英國、俄羅斯、以色列、韓國和其他國家都在發展自主武器系統。
有一天，戰爭將完全由機器人在戰場上進行，這種情況有利有弊。一方面，它降低了人類軍隊的風險。另一方面，它使宣戰變得更容易，並冒着機器出錯的風險。
許多技術專家將人工智能軍事化的競賽比作核軍備競賽。在追求第一和最好的過程中，可能會冒一些危險。
目前還沒有明確的對自主機器造成的傷亡負責的實體——製造商、開發者或監督者，這也是一個關於保險將如何與無人駕駛汽車合作的爭論的主題。
在軍事應用方面，許多技術專家呼籲人工智能永遠不要獨自做出戰鬥決定——尤其是那些會導致死亡的決定。人工智能可以提出建議，但最終的決定必須由人類做出。
防止難以想象的破壞
俄羅斯中校Stanislav Petrov在1983年的故事向我們發出了警告，沒有人類監督的機器可能會造成難以想象的破壞。
彼得羅夫的計算機報告說，美國向蘇聯發射了一枚洲際導彈。在這種情況下，蘇聯的戰略是立即對美國進行強制性的核反擊。佩特羅夫憑直覺認為計算機是錯誤的，決定不發射核導彈，他的決定是正確的。
如果1983年僅僅在計算機上決定是否部署核導彈，那麼一枚導彈就會被發射，並遭到美國及其盟國的報復性發射。
史密斯希望看到一個新的數字日內瓦公約，以便將世界大國聚集在一起，就人工智能可接受的規範達成一致。“今天平民的安全處於危險之中。我們需要更緊急的行動，我們需要以數字日內瓦公約的形式，保護平民和士兵的規則。”
許多公司——包括數千名谷歌員工，在五角大樓為無人機開發人工智能技術的合同遭到強烈反對後——承諾不會開發用於有害用途的人工智能技術。
史密斯出版了一本名為《工具與武器》的新書。在發布會上，史密斯還呼籲對面部識別技術的使用實施更嚴格的規定。“在這個領域需要一部新的法律，我們需要對面部識別領域進行監管，以防止潛在的濫用。”
荷蘭非政府組織PAX的一份報告說，領先的科技公司正把世界置於人工智能殺手的“危險”之中。微軟和亞馬遜被列為風險最高的公司。微軟自己在2月份就曾警告投資者，其人工智能產品可能會損害公司的聲譽。
“為什麼像微軟和亞馬遜這樣的公司不否認他們目前正在開發這些極具爭議的武器，這些武器可以決定在沒有人類直接參与的情況下殺人?”PAX報告的主要作者Frank Slijper說。
一項名為“停止殺人機器人運動”的全球運動目前包括了來自57個國家的113個非政府組織，其規模在過去一年中翻了一番。
