当AI拿到“上帝之手”,创新的边界又在哪里?

admin 2025-12-26 01:34:28 网络安全文章 来源:ZONE.CI 全球网 0 阅读模式

文章总结: 文章探讨了豆包AI利用INJECT_EVENTS权限实现跨应用操作引发的争议,指出该权限既是外挂手段也是Agent创新。传统风控难以区分合法AI与黑灰产操作,网易易盾提出通过端云协同、对抗性训练及AI操作模型进行人机对抗检测,强调需建立类似安全带法案的机制,平衡AI技术创新与业务安全合规。 综合评分: 65 文章分类: AI安全,移动安全,软文广告


cover_image

当AI拿到“上帝之手”,创新的边界又在哪里?

网易易盾

2025年12月25日 17:31 浙江

近期,豆包手机助手开启尝鲜推送,并主打语音指挥 AI 跨 App 点外卖、比机票、抢演唱会门票等能力,该功能一经推出,瞬间刷屏小红书。

然而,随后微信安全中心发出的环境异常提示,却把热度按下了暂停键。

随后,淘宝、招行、王者营地等平台相继跟进,弹窗、二次人脸、直接下线等三连击,直接把AI帮你点打成了AI别乱点。

有人甚至把这次交锋比作 Android 权限的“萨拉热窝事件”,而这仅是因为一颗名为“ INJECT_EVENTS ”的上帝权限子弹击穿了 AI 创新与业务风控之间那层本就脆弱的窗户纸。

1

权限的 AB 面:从外挂到Agent

INJECT_EVENTS 并不是新鲜面孔, 2018 年的自动抢红包外挂、 2021 年云手机 farm 刷短视频金币,到如今 AI Agent 便把它包装成了“用户替身”。

尽管官方明确表示,该功能需用户主动授权开启,且已主动限制刷分、金融交易等敏感场景的使用,但仍未能彻底消除市场对其可能带来的安全风险的担忧。

回顾这场“争议”,本质是 AI 自动化操作技术与现有应用安全体系的深度碰撞。

从结果来看,传统的风控手段已经难以精准甄别高度拟人化的 AI 模拟操作,在提供便利的同时,也给黑灰产利用同类技术实施刷量、薅羊毛、恶意注册等违规行为留下了可乘之机。

换一个角度,同一扇门外挂进来是黑产,Agent 进来是创新,如果门后没有安检通道,谁又敢开门营业呢?

因此,如何精准区分合法的技术创新与违规的作弊操作,以应对模拟点击等自动化操作风险,成为了业内首先需要考虑到核心问题。

2

网易易盾:搭了个“安检门”

在传统检测手段上,针对安卓 INJECT_EVENTS 权限索取,网易易盾主要通过自研的风控SDK,对可能存在的模拟点击、内存修改、进程调试等各类作弊行为进行识别,一旦监测到异常操作,就会快速触发响应与处置机制。

但 AI 手机与传统黑产脚本存在显著差异,传统的脚本作弊需要配置作弊环境,再用点击偏移、贝塞尔曲线滑动等深度伪造操作,而 AI 手机则是自带系统级支持,同时依托于 Agent 能力,可以快速完成指定任务的自动化手机操。不需要配置任何环境、不依托于无障碍,adb 和 root 操作上限更高,也更能拟人化。

针对类似 AI 手机的情况,如豆包手机自动化能力,网易易盾安全团队进行了深度分析,制订了一套针对 AI Agent 自动化操作的检测流程,通过端云协同架构、对抗性训练、AI操作模型和分级响应机制,已经可以高效覆盖指定场景的人机对抗。

3

AI手机:需要“安全带法案”

历史总在重复,汽车跑出40km/h时,英国出台了“红旗法案”;互联网普及后DEC开发了“防火墙”;移动互联网崛起催生了“隐私保护条例”。

那么,AI 手机把操作权限从人类手指转移到算法手中,下一条“安全带”又会是什么?

当 Agent 开始帮人“点”世界,世界首先要确认:点下去的那根手指,到底听谁的?

智能体的规模化应用已是行业不可逆的趋势,同样,技术创新与安全合规并非对立关系,给 AI 系上“安全带”,让技术创新回归服务用户价值,才是监管方、技术生产商、APP 运营方协同发力的方向。

关于我们

免费下载干货资料


免责声明:

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。

任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我

本文转载自:网易易盾 《当AI拿到“上帝之手”,创新的边界又在哪里?》

评论:0   参与:  0