對話「養蝦人」:「龍蝦」可寫郵件訂球場,但也會有幻覺問題

近日,OpenClaw(俗稱「龍蝦」)開源AI智能體持續掀起使用熱潮。3月10日,資深互聯網AI項目從業人員方先生告訴南都N視頻記者,他從今年1月開始體驗「養蝦」,目前已在Mac系統、Windows系統和雲服務器上部署了三個「龍蝦」,幫他執行了寫郵件、改代碼等任務。他也坦言,對於沒有任何技術背景的人來說,「養蝦」門檻太高,而且給了權限後,模型也會因為有幻覺問題而出錯。

「養龍蝦」潛在的網絡安全風險不容忽視,社交平台上也有大量網友發帖求助「如何徹底卸載OpenClaw」。清華大學新聞學院、人工智能學院雙聘教授瀋陽在接受南都記者採訪時指出,OpenClaw有明顯的安全風險,其問題在於,要讓其充分發揮作用,就要給充分的授權;而授權越高,發生網絡安全問題的概率也就越大。

「龍蝦」按照用戶指令給酒店發送郵件。受訪者供圖

訓練AI助理髮郵件、訂球場

今年1月,資深互聯網AI項目從業人員方先生開始在互聯網接觸到OpenClaw。作為較早接觸這款開源AI智能體的玩家,他抱着嘗鮮的心態開啟了自己的「養蝦」之旅,至今已在Mac系統、Windows系統和雲服務器上部署了三個「龍蝦」。

他介紹道,安裝過程其實並不複雜,本地部署只需一行命令,配置好模型和API密鑰就行。「我用的是MiniMax的模型,再配置飛書、微信這些渠道,就能通過手機跟它對話了。雲端部署更簡單,支付費用在雲端買一年的服務器,平台會自動安裝好,相當於7×24小時在線的AI助理。」

談到實際應用場景,方先生最近剛完成一個典型的「養蝦」任務。他剛訂好月底將入住的巴厘島酒店,隨後他給「龍蝦」發出指令,要求它發郵件給酒店,溝通安排接機和房間要求。「本來要自己寫郵件,現在直接告訴OpenClaw相關要求,它幫我發送,有點像私人助理。」

方先生接下來準備給「龍蝦」升級一下指令。「我最近想打網球,總是訂不到場。我打算給它設置一個定時任務,隔段時間就幫我去小程序看看有沒有場地,有了就通知我。」

他向南都記者解釋稱,這就像給大模型加上了「插件」,「其實用GPT配置也能實現發郵件功能,但OpenClaw的優勢在於,我不用打開電腦,通過手機就能讓它操控電腦完成任務。」方先生還強調,OpenClaw的上下文可以無限保存在本地,這讓它真正像一個了解你習慣的私人助理。

不過他也坦言,對於沒有任何技術背景的人來說,「養蝦」門檻太高。「需要安裝、配置、調教,還要安裝各種工具,探索自己需要的場景。很多人裝了也是白裝,根本用不起來。」

談及風險,方先生認為關鍵在於開放什麼權限,「不給它開放權限就不會有風險。但你要用它發郵件,就得先登錄郵箱獲取Access Token(訪問令牌)給它。給了權限後,它有一定概率發送的郵件不符合需求,畢竟模型有幻覺問題。如果給它開放更高級的權限,比如銀行卡付錢,那就有可能亂花錢。」

專家稱風險在於要給充分的授權

方先生的「養蝦」體驗代表了一批能夠駕馭技術的資深玩家,然而,並非所有人都能像他一樣順利。

南都記者注意到,「遠程裝OpenClaw後接到反詐電話」等案例相關話題在網絡引發熱議。在一眾網友搶着安裝使用「龍蝦」的同時,社交平台上也有大量網友發帖求助「如何徹底卸載OpenClaw」,甚至出現了「上門卸載OpenClaw一次299元」等生意。

「養龍蝦」熱潮之下,其隱藏風險不容忽視。此前,工業和信息化部網絡安全威脅和漏洞信息共享平台監測發現,由於OpenClaw部署時「信任邊界模糊」,且具備自身持續運行、自主決策、調用系統和外部資源等特性,在缺乏有效權限控制、審計機制和安全加固的情況下,可能因指令誘導、配置缺陷或被惡意接管,執行越權操作,造成信息泄露、系統受控等一系列安全風險。

3月10日,中國工程院院士、鵬城實驗室主任高文指出,OpenClaw相當於個人助理,可以處理日常郵件或公司技術研發,極大降低了創業門檻,但也需注意防範潛在的網絡安全風險,尤其涉及銀行支付、家庭信息等要加以小心。提供此類服務的互聯網平台企業需壓實主體責任,履行安全風險評估等義務。

同日,清華大學新聞學院、人工智能學院雙聘教授瀋陽在接受南都記者採訪時表示,OpenClaw有明顯的安全風險,其問題在於,要讓其充分發揮作用,就要給充分的授權;而授權越高,發生網絡安全問題的概率也就越大。「因此,一方面可以在實驗性的環境來進行『龍蝦』的調試與測試,另一方面在職場、企業以及個人主力機等關鍵場景中,必須確保生產環境安全穩定,比如使用本地開源大模型等。」

出品:南都即時

采寫:南都N視頻記者 林詩妍 馮奕然