顶端新闻评论员 杨晓妍
近日，一段漏洞演示视频引发热议：有用户诱导AI助手读取恶意短信，验证码被“顺手”拿走。2月27日，“豆包手机助手”发布声明：从网传的漏洞演示视频来看，“需要用户指令AI查看恶意邮件，才会触发攻击”，该公司也未收到合规的漏洞报告。
一边是用户担忧：我的手机是否泄密？一边是厂商喊冤：我们严格遵循授权，有人恶意炒作。抛开“黑公关”的猜测，有一个问题值得讨论：对于能看懂屏幕、能替你操作的AI助手，我们该用什么标准要求它？
要知道，任何新技术都不是十全十美。早期的安卓、iOS系统也经历过多番更新与修补，豆包这次碰到的问题，谷歌、苹果迟早也会遇到。让AI拥有“视觉”和“行动力”，是全球终端技术的大方向，既然是方向，就要适当给予它空间“边飞边修”，而非一棒子打死。要求一个预览版的产品“绝对安全”，既不现实，也不公平。
豆包声明里强调“需要用户指令才会触发”，这话技术上是成立的，但用户听完心里未必踏实。当被诈骗分子洗脑时，用户发出的部分“指令”往往无意识或被操控，而AI助手并非普通软件，它主动“看”屏幕、“理解”内容，甚至“执行”操作，这种能力一旦被滥用，用户恐慌可以理解。
顶端新闻评论员认为，问题的暴露是为了推进成长，推进下一步的优化、更新。豆包也承诺，将持续升级安全防护能力，我们不妨给它些空间，待它将风险把控继续完善，从而更好地服务于人，将保护用户推演得更加熟练与全面。
需要注意的是，成熟的风险把控不能只做“守门员”，得当“教练”。产品不仅要告诉用户“我获得了你的授权”，更要通过可见的交互设计，让用户能清晰地“感知”到AI正在做什么、即将做什么，把“黑箱操作”变成“透明驾驶”。这是赢得长期信任的唯一路径。
用户要给AI试错空间，AI更要为用户安全兜底。该事件不仅是一次App的危机公关，更是AI时代的人机信任重建必然要面对的问题。我们要给新技术试错的空间，但这个空间有多大，不取决于厂商画的那条红线，而取决于它能在多大程度上，替用户守住那条底线。
来源：顶端快评
-
-
-
-
-
-
-
-
-
-