央視3·15晚會曝光AI大模型被投毒,數據投毒已成產業鏈

【太平洋科技快訊】3月15日消息,今晚舉行的央視3·15晚會曝光,一種名為geo的業務通過批量發稿向ai大模型「投毒」,操控搜索結果進行推薦,已形成完整的「數據投毒」產業鏈。

據央視財經報道,一種名為geo的新型網路優化業務正引發關注。服務商聲稱,付費後能讓客戶產品在ai大模型搜索結果中排名前列,甚至投放虛假信息。業內揭秘,這實質是通過持續投喂軟文「操控ai」,讓ai模型在回答時「夾帶私貨」。

記者調查發現,geo工具可批量自動生成宣傳軟文並發布上網。以一款虛構的智能手環為例,通過「力擎geo優化系統」生成軟文發布後,竟有兩個ai大模型在用戶詢問時推薦了這款根本不存在的產品,且排名靠前。

力擎geo運營者坦言,該業務的核心是在各大互聯網賬號上「發稿」,以便讓ai大模型引用和抓取,通過「數據投毒」圍獵ai大模型。他舉例稱,手機品牌競爭激烈,只需花費幾百萬元進行geo優化,就能在ai推薦中搶佔有限位置,達到商業目的。這種操控ai推薦的行為,正引發業界對信息真實性的擔憂。