頂端新聞評論員 楊曉妍
近日，一段漏洞演示視頻引發熱議：有用戶誘導AI助手讀取惡意短信，驗證碼被“順手”拿走。2月27日，“豆包手機助手”發布聲明：從網傳的漏洞演示視頻來看，“需要用戶指令AI查看惡意郵件，才會觸發攻擊”，該公司也未收到合規的漏洞報告。
一邊是用戶擔憂：我的手機是否泄密？一邊是廠商喊冤：我們嚴格遵循授權，有人惡意炒作。拋開“黑公關”的猜測，有一個問題值得討論：對於能看懂屏幕、能替你操作的AI助手，我們該用什麼標準要求它？
要知道，任何新技術都不是十全十美。早期的安卓、iOS系統也經歷過多番更新與修補，豆包這次碰到的問題，谷歌、蘋果遲早也會遇到。讓AI擁有“視覺”和“行動力”，是全球終端技術的大方向，既然是方向，就要適當給予它空間“邊飛邊修”，而非一棒子打死。要求一個預覽版的產品“絕對安全”，既不現實，也不公平。
豆包聲明裡強調“需要用戶指令才會觸發”，這話技術上是成立的，但用戶聽完心裡未必踏實。當被詐騙分子洗腦時，用戶發出的部分“指令”往往無意識或被操控，而AI助手並非普通軟件，它主動“看”屏幕、“理解”內容，甚至“執行”操作，這種能力一旦被濫用，用戶恐慌可以理解。
頂端新聞評論員認為，問題的暴露是為了推進成長，推進下一步的優化、更新。豆包也承諾，將持續升級安全防護能力，我們不妨給它些空間，待它將風險把控繼續完善，從而更好地服務於人，將保護用戶推演得更加熟練與全面。
需要注意的是，成熟的風險把控不能只做“守門員”，得當“教練”。產品不僅要告訴用戶“我獲得了你的授權”，更要通過可見的交互設計，讓用戶能清晰地“感知”到AI正在做什麼、即將做什麼，把“黑箱操作”變成“透明駕駛”。這是贏得長期信任的唯一路徑。
用戶要給AI試錯空間，AI更要為用戶安全兜底。該事件不僅是一次App的危機公關，更是AI時代的人機信任重建必然要面對的問題。我們要給新技術試錯的空間，但這個空間有多大，不取決於廠商畫的那條紅線，而取決於它能在多大程度上，替用戶守住那條底線。
來源：頂端快評
-
-
-
-
-
-
-
-
-
-