頂端新聞評論員 楊曉妍
近日，一段漏洞演示視頻引發熱議：有用戶誘導AI助手讀取惡意短訊，驗證碼被「順手」拿走。2月27日，「豆包手機助手」發佈聲明：從網傳的漏洞演示視頻來看，「需要用戶指令AI查看惡意郵件，才會觸發攻擊」，該公司也未收到合規的漏洞報告。
一邊是用戶擔憂：我的手機是否泄密？一邊是廠商喊冤：我們嚴格遵循授權，有人惡意炒作。拋開「黑公關」的猜測，有一個問題值得討論：對於能看懂屏幕、能替你操作的AI助手，我們該用什麼標準要求它？
要知道，任何新技術都不是十全十美。早期的安卓、iOS系統也經歷過多番更新與修補，豆包這次碰到的問題，谷歌、蘋果遲早也會遇到。讓AI擁有「視覺」和「行動力」，是全球終端技術的大方向，既然是方向，就要適當給予它空間「邊飛邊修」，而非一棒子打死。要求一個預覽版的產品「絕對安全」，既不現實，也不公平。
豆包聲明裡強調「需要用戶指令才會觸發」，這話技術上是成立的，但用戶聽完心裏未必踏實。當被詐騙分子洗腦時，用戶發出的部分「指令」往往無意識或被操控，而AI助手並非普通軟件，它主動「看」屏幕、「理解」內容，甚至「執行」操作，這種能力一旦被濫用，用戶恐慌可以理解。
頂端新聞評論員認為，問題的暴露是為了推進成長，推進下一步的優化、更新。豆包也承諾，將持續升級安全防護能力，我們不妨給它些空間，待它將風險把控繼續完善，從而更好地服務於人，將保護用戶推演得更加熟練與全面。
需要注意的是，成熟的風險把控不能只做「守門員」，得當「教練」。產品不僅要告訴用戶「我獲得了你的授權」，更要通過可見的交互設計，讓用戶能清晰地「感知」到AI正在做什麼、即將做什麼，把「黑箱操作」變成「透明駕駛」。這是贏得長期信任的唯一路徑。
用戶要給AI試錯空間，AI更要為用戶安全兜底。該事件不僅是一次App的危機公關，更是AI時代的人機信任重建必然要面對的問題。我們要給新技術試錯的空間，但這個空間有多大，不取決於廠商畫的那條紅線，而取決於它能在多大程度上，替用戶守住那條底線。
來源：頂端快評
