微軟、OpenAI 阻止俄羅斯、朝鮮的黑客使用 AI 大模型|鈦媒體AGI

2024年03月01日13:11:38 科技 4809

微軟、OpenAI 阻止俄羅斯、朝鮮的黑客使用 AI 大模型|鈦媒體AGI - 天天要聞

(圖片來源:the verge)

隨著 ai 技術迅速發展,黑客已經開始使用大模型來升級網路攻擊技術。

鈦媒體app 2月15日消息,美國科技巨頭微軟公司(microsoft)昨夜在官網發布了一篇題為「在人工智慧時代領先於威脅參與者」(staying ahead of threat actors in the age of ai)的研究文章。

微軟聲稱,他們與openai 團隊共同研究發現,俄羅斯、朝鮮、伊朗等多國的黑客組織正使用chatgpt等生成式 ai 工具進行目標研究、改進腳本和幫助構建社交工程技巧,從而改進和完善現有的網路攻擊技術。

「網路犯罪團體、國家威脅行為者和其他對手正在探索和測試不同的 ai 技術,試圖了解它們對操作的潛在價值,以及可能需要規避的安全控制。」微軟在文章中稱。

微軟強調,ai 技術的進步使網路安全和安全措施的需求增加。微軟要持續與openai合作,不斷改進防禦措施,識別、檢測和阻止黑客的潛在惡意使用或濫用,並保護客戶的數據安全。

據悉,自2019年微軟向openai投資數十億美元之後,兩家公司開始密切合作。尤其當chatgpt發布之後,微軟成為新一輪 ai 熱潮的重要受益者,該公司市值已超過蘋果公司,達3.01萬億美元,成為全球市值最高的科技公司。

微軟透露,其與openai對於這項研究的合作目標是確保安全、負責任地使用chatgpt等 ai 技術,堅持道德應用的最高標準,以保護用戶免受潛在的濫用。

微軟、OpenAI 阻止俄羅斯、朝鮮的黑客使用 AI 大模型|鈦媒體AGI - 天天要聞

作為研究的一部分,2023年,微軟研發了一種叫「microsoft 威脅情報」產品,跟蹤300多個網路攻擊行為者,涵蓋160個國家/地區的行動者、50個勒索軟體組織等,每秒收集超過7500億個信號,使用複雜的數據分析和 ai 演算法進行合成,以了解和防範網路威脅和犯罪活動。

同時,截至2023年底,微軟招聘了全球超過10000名安全和威脅情報專家,包括工程師、研究人員、數據科學家、網路安全專家、威脅搜尋者、分析師、調查員和一線響應人員等,有超過1.5萬個合作夥伴提供專業解決方案。在過去的2023年里,微軟威脅情報平均每秒阻止4000個身份信息驗證的黑客入侵威脅,1.35億台託管設備提供安全方法服務反饋。

此次微軟和openai的研究當中,主要提到以下四個黑客組織利用 ai 模型技術對網路攻擊進行改進和升級,認為這有可能會對國家造成一定威脅。

forest blizzard (strontium),這是與gru 26165部隊有聯繫的俄羅斯軍事情報技術(組織),威脅活動涉及國防、運輸/物流、政府、能源、非政府組織 (ngo) 和信息技術等多個領域。研究發現,他們使用大模型(llms)「了解衛星通信協議、雷達成像技術和特定技術參數」。emerald sleet (thallium) ,這是一個來自朝鮮的黑客技術(團體),在2023年一直保持高度活躍。他們使用大模型公開的研究報告漏洞,針對相關信息幫助和起草網路釣魚活動內容,包括冒充知名學術機構和非政府組織引誘受害者回復有關朝鮮外交政策的專家見解和評論等。crimson sandstorm (curium) 是一個來自伊朗的黑客組織,自2017年以來一直活躍在多個領域,涉及包括國防、海運、交通、醫療保健和技術。微軟稱,他們使用大模型生成網路釣魚郵件甚至用於規避防病毒軟體檢測的代碼。charcoal typhoon (chromium) ,其組織也利用模型進行研究、腳本編寫、翻譯和改進現有工具。

具體到案例當中,微軟透露,有些黑客使用「聲音模仿」等方式,讓 ai 進行語音合成,三秒鐘的聲音樣本可以訓練一個聽起來像人的模型,從而攻擊和惡意騙取用戶重要隱私信息,「甚至你的聲音郵件問候語也可以被用來獲取足夠的採樣。」

事實上,隨著chatgpt等多個文字、音視頻等多模態 ai 模型工具的出現,除了幫助更多人提升生產力之外,它還被一些不法分子創建惡意郵件、破解工具,利用 ai 技術進行網路攻擊。美國國家安全局的官員曾警告稱,黑客正在使用 ai 使他們的網路釣魚郵件看起來更可信。

不過,openai 也強調,其發現gpt模型僅為黑客組織提供「有限的增量」功能。微軟則強調,他們尚未檢測到使用大模型進行任何「重大攻擊」的方案。目前,微軟和openai已經將相關黑客團體的賬戶和資產進行了關閉或凍結。

事實上,最近關於 ai 技術的詐騙案例呈現上升趨勢。

今年2月初,香港警方披露當地一公司財務職員遭遇deepfake(深度偽造技術)詐騙,對方聲稱要進行機密交易,邀請參與多人視頻會議,最終接受假冒首席財務官(cfo)指示,當事人分15次匯款了2億港元,轉賬至5個本地賬戶。而當事人5天後向總公司求證,才發現被騙,並向警方報案。

據不完全統計,2020-2022年,國內 ai 詐騙案件數量共計 5 起,2023年全年 ai 詐騙案件增長到 16 起;同時,個案金額方面,用 ai 詐騙的涉案金額從2020年的最少3000元,到2023年達到430萬元。而香港警方此次披露的這起詐騙案,涉案金額提升至2億港元(約合人民幣1.82億元)。

那麼,我們如何防範並解決 ai 詐騙問題?

微軟主要總結了兩個方面:一是該公司使用 ai 來應對 ai 攻擊,比如讓防護牆(網路攻擊)技術更加複雜,用 ai 加強信息保護、檢測和反饋;二是通過「微軟security copilot」等的基於 ai 的網路安全工具,檢測和幫助用戶識別漏洞,最終用軟體方式阻擋黑客攻擊。

多位國內安全方面專家曾總結了四個方法:首先,用戶可以在視頻時可有意識地引導對方做一些動作,如大幅度的搖頭或張嘴,以此發現對方面部邊緣或者牙齒的瑕疵;同時,你可以問幾個只有你們二人知道的私密信息,來核實對方身份;再次,盡量避免在公開平台大量曬自己或家人的照片和視頻,給不法分子提供便利;最後,及時更新和安裝安全軟體,進一步加強源頭的網路安全管控。

「我們認為這是一項重要的研究,以揭露黑客組織試圖通過 ai 進行早期、漸進的行動,並與客戶分享我們如何阻止和反擊他們的網路攻擊。」微軟表示,未來將進一步增強 ai 大模型技術能力,從而幫助他們利用模型收集有關技術和潛在漏洞情報、尋找規避網路攻擊的方法等。

(本文首發鈦媒體app,作者|林志佳)

科技分類資訊推薦

支持華為就是支持祖國,每個有血性的國人都應支持華為,心繫祖國 - 天天要聞

支持華為就是支持祖國,每個有血性的國人都應支持華為,心繫祖國

作為一個有血性的國人,我們應該心繫祖國,支持祖國的發展。而華為作為我國的國家品牌,代表著中國科技的強大實力,也成為了全球通信領域的引領者。因此,支持華為就是支持祖國就是支持自己。首先,支持華為就是支持祖國。華為作為一家中國企業,始終將自的發展與國家發展緊密相連。
世界首塊,太藍新能源推出車規級 720Wh/kg 體型化全固態電池 - 天天要聞

世界首塊,太藍新能源推出車規級 720Wh/kg 體型化全固態電池

IT之家 4 月 3 日消息,太藍新能源宣布在「車規級全固態鋰電池」研發方面取得重大進展,首發車規級 720Wh/kg體型化全固態電池。據介紹,太藍新能源實現了全固態鋰電池的多項關鍵技術突破,包括:超薄緻密複合氧化物固態電解質、高容量先進正負極材料、固態電池一體化成型工藝等等。在此基礎上,太藍新能源成功製備出世界首...
聯想陳振寬:萬全異構智算平台融合五大創新技術 - 天天要聞

聯想陳振寬:萬全異構智算平台融合五大創新技術

北京時間4月18日消息,以「AI for All,讓世界充滿AI」為主題的聯想創新科技大會(2024 Lenovo Tech World)在上海舉辦。聯想集團副總裁、聯想中國基礎設施業務群總經理陳振寬在會上發布了「聯想萬全異構智算平台」。他表示,聯想萬全異構智算平台是AI 2.
電商價格戰:阿里推價格力 抖音也喊低價 京東推京喜直營 - 天天要聞

電商價格戰:阿里推價格力 抖音也喊低價 京東推京喜直營

過去一年,「低價」「平替」成為電商行業的關鍵詞。在消費趨勢猛烈變革的情況下,便宜好貨成為廣大消費者的一致追求。而在電商領域,各平台直播、團購、補貼等促銷手段花樣頻出,力圖搶奪消費者,佔領更多的市場份額。新一輪的電商價格戰雖然沒有官宣,其實已經全面爆發。
日本網友熱議華為Pura 70系列手機 評價普遍讓人意外 - 天天要聞

日本網友熱議華為Pura 70系列手機 評價普遍讓人意外

【CNMO科技消息】4月18日早間,華為Pura 70系列加入先鋒計劃,正式上架開售。雖然這一系列機型暫時沒有登陸海外市場,但CNMO注意到,不少日本網友已經關注到了這一華為最新旗艦。令人意外的是,不少日本網友似乎都對華為手機和這款最新的華為Pura 70非常有好感。