智能体要一步步变成熟,ai 手机助手是帮咱们实现想法的工具,它做的事儿不能超出咱们的意图,所以守住

在统筹发展与安全的时候,智能体要一步步变成熟。AI手机助手是帮咱们实现想法的工具,它做的事儿不能超出咱们的意图,所以守住权限的边界是设计的底线。2月27日,豆包手机助手团队回应了“安全漏洞”的说法,说他们目前没接到漏洞报告或者监管通知。网上传的那个漏洞演示视频,得用户自己让AI去看恶意邮件或短信才会出问题。没用户吩咐的话,AI也不会自己去干高风险的操作。为了应对这些风险,豆包已经把防护升级了。2025年12月,字节跳动的豆包团队跟中兴合作搞出了努比亚 M153手机。在这个手机上,豆包用了GUI-Agent技术,让人能像真人一样轻松操作手机。有些公众担心AI助手接管手机后会出安全和隐私的问题。对于外界最担心的GUI-Agent里的系统级INJECT_EVENTS权限,豆包说他们在权限清单里写得明明白白。想让豆包帮你操控手机,得你主动点头授权才行。 中国政法大学的陶乾教授是知识产权创新与竞争研究中心的主任。他觉得没有哪条技术路线是绝对保险的。要是用户故意骗它、操作错了、数据被截获或者模型被改坏了,GUI路线确实会有风险。但不管用啥技术都会有问题,得靠具体的机制去防和处理。陶乾说GUI路线的核心就是靠视觉理解来干活的智能体,它的操作都是在你知情并同意的前提下,由你自己主动发号施令实现的。所以说这过程就是你意志的技术实现。你让手机助手去访问第三方App,这事儿就该算你自己的行为。 按照《个人信息保护法》,屏幕读取和模拟操作得有你明确的同意才行,而且只能用到必须的程度。从披露的信息看,豆包采用了不少安全策略来体现你的意志。比如刚开始用的时候你得同意隐私政策弹窗;想操控手机功能之前也会弹框问你允不允许;锁屏状态下想唤醒它还得用人脸、声纹或者密码来验证。 在做事的过程中它也能感知和控制:操作状态看得见——执行任务时状态栏会实时显示状态;你能随时手动介入——比如双击虚拟屏来结束任务或者修改要求;风险操作会接管——它发现高风险动作时会提醒你接管。做完事后也能管理:任务结束后会给结果,你能随时撤回权限、管理能操作的应用范围或者清除聊天记录。 陶乾认为手机AI助手是能感知环境、干活又能听你意见优化的人工智能系统。其实它本质上就是个工具,是你手的延伸。买了带AI助手的手机后根据选项授权系统去模拟点击这就是用你自己的手机做功能。如果装了第三方App后让助手去访问它,“访问”行为就该算你用它App的行为。只要没破坏人家App的保护措施就不算侵权或者不正当竞争。 总体来讲对企业来说AI手机助手就是你意志的技术实现机制,任务执行不能越界。所以守好权限边界是设计的底线。技术上要把模型搞准点避免理解偏差;机制上高风险场景得多验证几道关设个“安全规则库”,敏感数据得脱敏隔离一下。 陶乾还说新东西出来总是机会和挑战一起到的发展和风险也常在一块儿出现的为了发展就得防着点风险不能怕危险就不搞了不发展才是最不安全的事情呢现在法律那堆规定比如《网络安全法》《数据安全法》《个人信息保护法》这些都为AI发展指路了监管也得统筹发展和安全用技术进步来降风险让新一代智能终端还有智能体这些技术形态越来越成熟。