AI 会操作电脑以后,为什么还不能放心把工作交给它?

文章目录
让 AI 打开网页、填写表单,再点击提交,已经可以成为一个令人印象深刻的演示。真正使用它的人接下来会问:明天再做一次,还可靠吗?如果按钮换了位置,或者页面卡住,它会怎么办?
a16z 的 Fabrizio Serafini、Seema Amble 和 Eric Zhou 在《Can Agents Use a Computer Yet? We’ve Got the Data》中,把讨论推向这类问题。电脑操作能力进步后,企业还需要一套能承受失败的交付方式。
榜单告诉我们什么,又留下了什么问题 #
原文引用的历史榜单称,OSWorld-Verified 最佳成绩由 42% 提升到 Claude Fable 5 的 85%,超过约 72% 的人类测试者成绩。
这些成绩说明指定评测条件下的能力变化。它们不能直接转换成一家公司的订单处理成功率:任务、权限、界面、重试预算和异常分布都可能不同。
这里还需要分清一个口径。OSWorld 支持不同操作系统环境,并不自动证明某个分数是三个系统的聚合结果。本文没有复现该成绩,也不把它作为所有桌面工作都能可靠自动化的保证。
点击成功,业务可能还没有完成 #
设想一个智能体替员工录入采购订单。它填写供应商、商品和金额,点击提交,页面显示成功。
此时还需要核对:订单是否真正生成,金额是否正确,供应商是否匹配,是否已经重复提交。页面反馈只是证据的一部分。
如果系统超时,智能体重新点击一次,还可能生成两笔订单。一个看似简单的“重试”,在业务系统里会改变状态。因此,恢复之前最好先回读结果,确认上一笔操作究竟发生了什么。
这个假设场景说明,自动化的成功条件应落在业务记录上。执行结束、结果待确认、业务已完成和人工接管,可以有各自清楚的状态。
长流程会放大局部失误 #
单步表现不错,仍然可能在长任务中累积风险。
一个纯数学例子:若十个阶段相互独立,每阶段成功率都是 95%,任何一步失败都导致任务失败,整体成功率约为 59.9%。真实流程中的失败不一定独立,这个数字不是生产预测;它只是解释为什么逐步验证有价值。
检查点可以让系统更早发现偏差,也能缩短恢复路径。填完资料先核对,再提交;提交后确认记录,再通知后续人员。任务一旦越过已知边界,就进入接管队列,往往比继续猜测更有利于控制损失。
流程知识也需要维护 #
人类员工知道哪些步骤可以变通、哪些情况要找主管。智能体要可靠工作,也需要这些知识成为明确的规则。
规则还会变化。审批金额调整、权限撤回、界面更新,都可能让昨天正确的动作在今天出错。系统需要知道流程版本,也需要有人维护它。
这解释了为什么一个能完成演示的模型,还需要上下文、权限、验证和异常处理。它们共同决定智能体是否知道自己正在做什么,以及什么时候应该停止。
自动化是否划算,要把失败算进去 #
一次运行的模型费用很低,任务仍可能很贵。如果每次执行后都要员工从头核验,节省的录入时间可能被复核抵消。
更有用的成本单位,是完成一件合格工作的总成本。它包含执行、失败重跑、人工检查、维护和接管。用同一批真实任务比较自动化前后的这些成本,比只比较 token 单价更接近经营结果。
好的试点可以从一个范围小、结果能回读、错误能恢复的工作开始。团队先积累重复运行的证据,再扩大权限和任务范围。
电脑操作让智能体接近了日常工作。接下来的产品价值,很大一部分来自让这些动作变得可检查、可恢复,也让人能够放心地知道哪些事情已经完成,哪些还需要自己接手。
---
本文结合 Fabrizio Serafini、Seema Amble、Eric Zhou 于 2026 年 8 月 10 日发布的 a16z 原文 展开讲解。基准数字为原文引用的历史成绩,未在本文复现;订单场景及概率计算为解释性示例。评测环境可参考 OSWorld 官方项目 。