12 月 5 日豆包手机助手团队称,将规范调整 AI 操作手机能力,包括限制刷分、金融类及部分游戏类应用场景。此前多位用户反馈 「豆包手机」 登录微信账号异常退出,工作人员称已下线操作微信能力,被禁账号会陆续解封。有腾讯人士称或触发微信风控,豆包操作或违反微信协议。此外,手机 AI 助手带来权限扩张、行为主体模糊化两大风险。
每经编辑|杜宇
据豆包手机助手微信公号,豆包手机助手团队 12 月 5 日发布关于调整 AI 操作手机能力的说明:
图片来源:豆包手机助手微信公号
大家好! 豆包手机助手是把 AI 技术和手机系统深度结合的一次全新探索,虽然只是少量搭载技术预览版的工程样机,社会的关注度却远远超过我们的预期,「AI 操作手机」 更是引发了不少讨论。
为了让技术发展、行业接受度和用户体验多方都能形成良性适配,我们计划在接下来的一段时间,在部分场景,对 AI 操作手机的能力做一些规范化调整。这是为了让技术走得更稳、更远的必要铺垫,希望能得到大家的理解。
具体包括,但不限于:
1、限制刷分、刷激励的使用场景:部分 App 厂商推出激励机制的初衷,是鼓励真实用户的主动交互行为,不希望此类设计被 AI 领取。这一诉求我们充分理解,因此会对这部分能力进行限制。
2、进一步限制金融类应用的使用:银行、互联网支付等金融场景,直接关联用户的资金安全,虽然手机助手在敏感操作时都需要用户授权,但审慎起见,豆包手机助手也将暂时下线操作这类 APP 的能力。我们也会积极与相关厂商沟通,希望共同制定清晰、安全的 AI 操作行为准则。
3、限制部分游戏类使用场景:考虑到部分游戏场景涉及到竞技排名,为了保证公平,暂时下线部分游戏场景的 AI 使用能力。
目前,我们也在积极寻求与各应用厂商的深度沟通,希望推动形成更加清晰、可预期的规则,避免用一刀切的方式否定用户合理使用 AI 的权利。
图片来源:视觉中国
据媒体报道,12 月 3 日,多位持有 「豆包手机」 的用户反馈,自 12 月 2 日晚间起,使用该手机登录微信后,微信账号出现异常退出的状况。
据一位获得豆包与中兴合作的努比亚 M153 工程机的用户描述,其在登录微信时,页面跳出提示:「你的微信登录环境存在异常。为了账号安全,请更换设备重新登录」。之后,该用户更换微信账号重新尝试登录,虽登录成功,但在传输聊天记录过程中,又遭遇被动下线问题。还有用户表示,登录 「豆包手机」 上的微信被下线后,同步换 iPhone 登录则显示正常。
对此,豆包手机助手工作人员在用户交流群中回应称,豆包手机助手操作手机/操作手机 pro 模式已经下线操作微信的能力。团队表示,在努比亚 M153 上被禁止登录的微信账号会陆续解封,请用户等待一段时间并尝试重新登录。
另据南方日报报道,有腾讯相关人士表示,「目前了解到没有什么特别的动作,看是不是触发了微信的安全风控措施。」
《腾讯微信软件许可及服务协议》 显示,其明确规定用户不得使用任何第三方工具、脚本、机器人或其他非官方客户端操控微信账号。其中禁止行为类别包括,「通过非腾讯开发、授权的第三方软件、插件、外挂、系统,登录或使用本软件及服务,或者进行自动化操作,或者制作、发布、传播上述工具、方法等」,以及 「自行或者授权他人、第三方软件或系统等对本软件及其组件、模块、数据进行控制、访问、读取或干扰,或者规避、破坏本软件设置的安全保护等技术措施」。
若豆包手机助手的操作被判定为 「非官方客户端操作行为」,则可能违反微信服务协议。依据该协议,腾讯有权限制账号功能、封禁账号、拒绝服务。
豆包手机助手是以豆包 APP 为基础,与手机厂商在操作系统层面合作开发的 AI 助手软件。12 月 1 日,豆包团队发布豆包手机助手技术预览版,而搭载豆包手机助手技术预览版的工程样机努比亚 M153 已少量发售。该机型主要面向开发者和科技爱好者,售价 3499 元。在二手平台,该机溢价 300 元到 3500 元不等。
豆包手机助手深入手机操作系统底层,意味着需要获得大量软件的授权才可直接控制手机进行操作,例如让手机模拟人类自动比价、点外卖等。
此前 OPPO、vivo、荣耀曾有类似的尝试,其通过自研大模型实现 AI 助手的深度嵌入,支持语音直接完成系统设置、应用管理 (卸载、权限调整) 等操作,无需手动点击界面,模拟真人操作逻辑。
有信息安全行业人士认为,手机 AI 助手多是运用了手机的无障碍权限加上 AI 大模型能力运作。该权限开启后,系统可读取屏幕内容、模拟用户操作以及控制其他应用。而无障碍功能更多适用于残障人士。
据北京汉华飞天信安科技有限公司总经理彭根介绍,随着技术迭代,尤其是 API 升级实现图形化界面向结构化界面转型后,无障碍权限从 「能力补全」 升级为 「能力增强」,成为人类的 「自动化助手」——部分手机厂商已推出相关功能,可以自动完成 APP 权限开启、关闭等操作,彭根形象地将这类功能比喻为 「手机自动驾驶」。
不过,彭根强调,这种技术演进带来了两大核心风险:一是权限的无边界扩张,无障碍权限属于系统级全局权限,一旦开放便拥有设备的完全操控权,突破了传统权限的单一性和限定性;二是行为主体的模糊化,AI 成为实际操作主体,用户可能失去对设备的直接控制,且其操作速度远超人类反应,例如短信验证码可在用户未查看前被 AI 捕获。
和通过无障碍服务实现读屏+模拟点击的方式略有不同,豆包 AI 手机的应用权限中体现的注入权限是一项系统级权限,即所谓 「签名权限」。这是安卓系统权限体系中等级最高、管控最严、风险最高的权限之一,其本质是为了确保应用来源合法、完整性未被篡改,以及实现应用身份唯一标识的核心安全机制。
每日经济新闻综合界面新闻、南方日报、豆包手机助手微信公号
封面图片来源:视觉中国
文章转载自 每经网


