核心判断:Qwen-UI-Agent 真正值得关注的,不只是手机端跑分,而是它把真实设备、GUI 操作、CLI 执行和长程强化学习放进了同一套 Agent 系统。不过,项目方评测领先不等于已经跨过生产可靠性、安全和维护成本三道门槛。
GUI Agent 为什么难落地
GUI Agent 的目标很诱人:不等软件开放 API,直接像人一样看屏幕、点击按钮、填写表单和跨应用完成任务。
难点也来自同一个地方。真实设备并不是稳定的网页测试环境:应用会改版,网络会波动,权限弹窗和广告会临时出现,登录态、账户和地区还会改变界面。一次点击误差可能让后续十几步全部偏离。
因此,模型在模拟器里“会点按钮”只是起点。要进入真实工作流,还需要环境、执行器、状态验证、失败恢复和人工确认共同组成完整系统。
真实设备环境:不是只在模拟器里刷题
Qwen-UI-Agent 技术报告披露,团队建设了由 100 多台物理手机组成的实时移动环境,覆盖 150 多款应用,用于任务构造、轨迹采集、训练和评测。
团队还构建了 MobileWorld-Real:400 多个任务,覆盖 100 多款真实应用。它试图测试网络、账户状态和应用界面持续变化时,Agent 能否完成端到端任务。
这套环境的意义,不是证明模拟器没有价值。沙箱仍适合大规模并行训练和可复现实验;真实设备则用来暴露模拟器难以还原的分布偏差。Qwen-UI-Agent 的训练同时使用多种沙箱和大规模真机运行时,而不是只依赖其中一种。
GUI + CLI:让 Agent 选择合适的执行通道
纯 GUI 操作通用,但慢且容易受布局变化影响。CLI 和脚本更快、更稳定,却只适用于已经提供命令接口的任务。
Qwen-UI-Agent 把两者放进统一动作空间:模型可以交错生成 GUI 操作与 CLI 命令,也可以在一次决策中批量输出多个动作。项目仓库披露,在 computer-use 任务中,GUI 点击和 CLI 命令是两类主要动作,约 40% 的动作输出采用批量形式。
工程上可以把它理解成三层:
- 规划层判断当前子任务和约束;
- 执行层在 GUI、CLI 或批量动作之间选择;
- 验证层读取执行后的状态,再决定继续、重试还是请求人工介入。
真正重要的是第三层。CLI 也可能运行错误命令,GUI 也可能点到错误目标。执行通道不同,不代表任何一个通道天然可靠。
长程任务如何训练
技术报告称,项目使用在线强化学习训练超过 100 步的轨迹,并通过一万多个并发环境加速 rollout。另一条 AutoResearch 风格的数据飞轮,让 Agent 参与构造任务、环境和验证器,分析失败并规划下一轮迭代。
这反映出 GUI Agent 的训练重心正在变化:不只学习“这个按钮在哪里”,还要学习多步任务中的计划保持、状态判断和错误恢复。
同时也要看到边界。自动生成任务和验证器会降低人工成本,但生成过程本身可能引入偏差。真实可靠性仍需要独立任务集、人工抽查和线上失败数据持续校准。
官方评测应该怎样读
根据技术报告和项目页,Qwen-UI-Agent 的主要成绩包括:
- MobileWorld:82.1%;
- MobileWorld-Real:92.2%;
- AndroidDaily:97.5%;
- OSWorld-Verified:79.5%;
- OSWorld-v2:40.0% partial-progress;
- WebArena:73.6%;
- ScreenSpot-Pro(zoom-in):81.5%。
这些成绩来自作者统一环境中的复现实验。部分 harness、judge、模拟器、运行时或任务子集设置与其他机构的官方评测不同,因此适合用于理解项目方的相对结果,不能直接当成跨平台的绝对排行榜。
结果本身也没有显示“全面领先”。例如项目页中,Claude Opus 4.8 在 OSWorld-Verified 和 OSWorld-v2 上仍高于 Qwen-UI-Agent。更准确的结论是:它在移动端评测上表现突出,在桌面和浏览器任务上具备竞争力。
机场打车演示说明了什么
项目页展示了一个带时间、预算和审批约束的机场打车案例:Agent 需要设置路线和时间,过滤超过 100 元的方案,比较价格与等待时间,并在真正下单前请求用户批准。
这个演示最有价值的部分不是具体价格,而是权限模型:搜索和比较可以自动进行,不可逆交易必须停在审批点。
企业落地时应把动作按风险拆分:
- 查询、浏览和草拟:通常可自动执行;
- 修改文件、发送消息和创建日程:按作用域授权;
- 支付、删除、发布和敏感配置变更:强制人工确认;
- 凭据导出、越权访问等动作:直接禁止。
适合什么场景
更适合优先试验:
- 没有稳定 API 的内部系统;
- 跨多个移动应用的信息收集和填报;
- 移动端、桌面端 UI 回归测试;
- 需要 GUI 与脚本协同的办公和运维流程。
不适合直接自治:
- 支付、身份验证等高风险流程;
- 对毫秒级延迟和确定性有严格要求的调用;
- 缺乏沙箱、审计、回滚和人工接管的生产系统;
- 界面频繁变化但没有持续评测集的业务。
上线前应该测什么
除了任务成功率,至少还要记录:
- 每个任务的平均步骤数和重试数;
- 错误点击与越权动作比例;
- 应用改版后的性能衰减;
- 人工接管频率;
- 单任务耗时和推理成本;
- 最终状态是否经过确定性验证。
GUI Agent 的目标不是把一次演示跑通,而是在环境持续变化时仍能控制失败成本。
结论
Qwen-UI-Agent 展示了一条更接近真实世界的路线:用沙箱扩大训练规模,用真机暴露分布偏差,用 GUI 保持通用性,用 CLI 提高效率,再用长程训练和轻量 harness 组织跨平台流程。
它仍不是“无需 API 的万能自动化”。真正决定能否部署的,是权限边界、状态验证、失败恢复和持续维护,而不只是模型能不能找到按钮。
参考资料与延伸阅读
Benchmark 和训练规模均按项目方技术报告表述,不视为第三方独立验证。资料核验日期:2026-08-23。