在真实工作任务中测试 AI 浏览器智能体

我将真实的工作日任务抛给了两个 AI 智能体。任务:我将真实的工作日任务抛给了两个 AI 智能体。其中一个惨败,这说明了真实世界测试的重要性。我的收件箱里塞满了关于 AI 智能体的推销,信息流里充斥着“AI 智能体元年”的炒作。说实话,这让人精疲力竭。因为直到最近,我还没遇到过真正改变我工作方式的 AI 智能体。大多数智能体感觉像昂贵的数字实习生——承诺很多,需要大量监督,且令人沮丧。然后 Comet 出现了。Comet 的魔力,出人意料地不仅在于其 AI 能力,更在于其用户界面。这听起来可能反直觉——我们不是来关注 AI 的吗?但事实是,优秀的 UI 能将强大的 AI 变成工作流程中无缝的一部分。糟糕的 UI 则会让最聪明的 AI 显得痛苦地不足。让我给点背景。我试过市面上所有的智能体。像 Zapier 和较新的 n8n 这样的工具需要大量设置。它们很有价值,但仅适用于高度特定的任务。它们擅长处理那些你必须做 100 次的事情。试着做点稍微超出该智能体能力范围的事,你会很快发现自己签了一份第二份全职工作:监督那个本该为你节省时间的 AI。还有 OpenAI 的 Operator——一个我真心希望喜欢的工具。愿景很有吸引力:ChatGPT 的全部力量代表我浏览网络。但在实践中,Operator 的 UI 是一场噩梦。一个拥挤、迟缓的浏览器被困在聊天窗口里。基本任务耗时极长。登录 Gmail 是一项赫拉克勒斯式的壮举。这感觉不像协助,更像惩罚。你知道吗?这是在它连接 o3 后变得好 5 倍之后的评估!o3 对 Operator 是巨大改进,但不足以让它成为日常驱动工具。Comet 通过认识到一个基本真理改变了这一切:理想的 AI 助手是隐形的。它完成工作,然后让开。你现在需要看到助手,是因为你不信任它们。Comet 表明,某种有意义的智能体信任时代已经到来(至少在有限的方式上)。今天我在 Substack 上滚动浏览时(显然,爱你们),突然想起一个日程冲突。Comet 毫不费力地从侧边栏重新安排了会议,起草了日历变更,甚至撰写了一封礼貌的跟进邮件——从未强迫我切换标签页。无缝、快速、直观。这不是关于技术基准。这是关于真实世界、杂乱的任务——我们每天处理的那些。寻找一家我不知为何错过的印尼餐厅(是的,真实存在且显然是最高优先级),快速筛选受裁员影响的 LinkedIn 联系人,或从 Amazon 最近的申报文件中提取可操作的见解以指导战略决策。这些任务以前需要多个浏览器窗口、数十次点击和无尽的耐心。这就是为什么我运行了八项残酷诚实的测试。不是净化过的演示,而是真正的日常场景——决定工作日成败的任务。我不是在寻找完美。我是在寻找真正的价值。Comet 做到了,自信地说这感觉非常奇怪。但我必须遵循证据。证据是明确的。这一切之所以重要,是因为我们正处于一个转折点。如果我们每月为工具支付 200 美元,它必须通过节省可衡量的、有价值的时间来证明每一分钱的合理性。炒作与现实之间的区别在于真实世界条件下的严格测试。如果 AI 智能体无法处理你实际、杂乱的工作流程,它就不是助手——只是噪音。不相信我?太好了。太棒了。请别这样。但你可以自由查看我今天运行的八项实际工作流程测试,查看结果和笔记,查看我的 ROI 计算框架,然后在你的真实工作中进行试运行。在这里,我们的座右铭是“自己决定”。我不是在这里说服你花 200 美元,哈哈——我是这里互联网上一个理智的地方,我们像实际工作一样尝试这些东西(而不是模型过拟合的花哨测试),看看它们是否提供实际价值。Comet 做到了。阅读下文了解如何(以及 Operator 的详细并排对比,它接受了完全相同的测试)。订阅者可以获得所有这些部分!收听此集,享受 7 天免费试用订阅 Nate 的 Substack 以收听此帖子并获得 7 天免费访问完整帖子存档。;工具:Perplexity Comet。人工角色:原文未说明人类如何保持参与。;局限:来源为付费新闻通讯摘录,详细的测试结果和 ROI 框架位于付费墙后。文中提到每月 200 美元作为证明价值的门槛,但未确认所有层级的确切价格。关于 Comet 如何处理演示侧边栏功能之外的复杂身份验证或多步骤工作流,存在集成不确定性。任何发送邮件或更改日历的操作都需要隐含的人类批准。。

工具

Perplexity Comet

Agent Work Atlas 发布日期:

概述

我将真实的工作日任务抛给了两个 AI 智能体。

工作流程

我将真实的工作日任务抛给了两个 AI 智能体。其中一个惨败,这说明了真实世界测试的重要性。我的收件箱里塞满了关于 AI 智能体的推销,信息流里充斥着“AI 智能体元年”的炒作。说实话,这让人精疲力竭。因为直到最近,我还没遇到过真正改变我工作方式的 AI 智能体。大多数智能体感觉像昂贵的数字实习生——承诺很多,需要大量监督,且令人沮丧。然后 Comet 出现了。Comet 的魔力,出人意料地不仅在于其 AI 能力,更在于其用户界面。这听起来可能反直觉——我们不是来关注 AI 的吗?但事实是,优秀的 UI 能将强大的 AI 变成工作流程中无缝的一部分。糟糕的 UI 则会让最聪明的 AI 显得痛苦地不足。让我给点背景。我试过市面上所有的智能体。像 Zapier 和较新的 n8n 这样的工具需要大量设置。它们很有价值,但仅适用于高度特定的任务。它们擅长处理那些你必须做 100 次的事情。试着做点稍微超出该智能体能力范围的事,你会很快发现自己签了一份第二份全职工作:监督那个本该为你节省时间的 AI。还有 OpenAI 的 Operator——一个我真心希望喜欢的工具。愿景很有吸引力:ChatGPT 的全部力量代表我浏览网络。但在实践中,Operator 的 UI 是一场噩梦。一个拥挤、迟缓的浏览器被困在聊天窗口里。基本任务耗时极长。登录 Gmail 是一项赫拉克勒斯式的壮举。这感觉不像协助,更像惩罚。你知道吗?这是在它连接 o3 后变得好 5 倍之后的评估!o3 对 Operator 是巨大改进,但不足以让它成为日常驱动工具。Comet 通过认识到一个基本真理改变了这一切:理想的 AI 助手是隐形的。它完成工作,然后让开。你现在需要看到助手,是因为你不信任它们。Comet 表明,某种有意义的智能体信任时代已经到来(至少在有限的方式上)。今天我在 Substack 上滚动浏览时(显然,爱你们),突然想起一个日程冲突。Comet 毫不费力地从侧边栏重新安排了会议,起草了日历变更,甚至撰写了一封礼貌的跟进邮件——从未强迫我切换标签页。无缝、快速、直观。这不是关于技术基准。这是关于真实世界、杂乱的任务——我们每天处理的那些。寻找一家我不知为何错过的印尼餐厅(是的,真实存在且显然是最高优先级),快速筛选受裁员影响的 LinkedIn 联系人,或从 Amazon 最近的申报文件中提取可操作的见解以指导战略决策。这些任务以前需要多个浏览器窗口、数十次点击和无尽的耐心。这就是为什么我运行了八项残酷诚实的测试。不是净化过的演示,而是真正的日常场景——决定工作日成败的任务。我不是在寻找完美。我是在寻找真正的价值。Comet 做到了,自信地说这感觉非常奇怪。但我必须遵循证据。证据是明确的。这一切之所以重要,是因为我们正处于一个转折点。如果我们每月为工具支付 200 美元,它必须通过节省可衡量的、有价值的时间来证明每一分钱的合理性。炒作与现实之间的区别在于真实世界条件下的严格测试。如果 AI 智能体无法处理你实际、杂乱的工作流程,它就不是助手——只是噪音。不相信我?太好了。太棒了。请别这样。但你可以自由查看我今天运行的八项实际工作流程测试,查看结果和笔记,查看我的 ROI 计算框架,然后在你的真实工作中进行试运行。在这里,我们的座右铭是“自己决定”。我不是在这里说服你花 200 美元,哈哈——我是这里互联网上一个理智的地方,我们像实际工作一样尝试这些东西(而不是模型过拟合的花哨测试),看看它们是否提供实际价值。Comet 做到了。阅读下文了解如何(以及 Operator 的详细并排对比,它接受了完全相同的测试)。订阅者可以获得所有这些部分!收听此集,享受 7 天免费试用订阅 Nate 的 Substack 以收听此帖子并获得 7 天免费访问完整帖子存档。

原文报告的结果

作者报告称 Comet 提供了真正的价值并通过了测试,而 Operator 尽管在接入 o3 后有所改进,但未能成为日常驱动工具。文中未提供具体的时间节省或成功率量化指标,仅有“无缝”与“噩梦”般的定性评估。可衡量的验收检查是:在两个工具中完成标准日程冲突解决的时间,并与手动操作时间进行对比。

人工角色

原文未说明人类如何保持参与。

局限

来源为付费新闻通讯摘录,详细的测试结果和 ROI 框架位于付费墙后。文中提到每月 200 美元作为证明价值的门槛,但未确认所有层级的确切价格。关于 Comet 如何处理演示侧边栏功能之外的复杂身份验证或多步骤工作流,存在集成不确定性。任何发送邮件或更改日历的操作都需要隐含的人类批准。

试一试

我需要评估 Perplexity Comet 是否能处理我的日常日程冲突。背景如下:我有一个在 [替换时间] 与 [替换参会者] 的会议,需要改期到 [替换新时间]。请使用 Comet 在我的日历中找到该会议,起草改期请求,并撰写一封礼貌的邮件给参会者。暂时不要发送任何内容。首先,向我展示起草的邮件和拟议的日历变更以供我批准。如果草稿看起来正确,我会在你执行发送前确认。如果 Comet 无法访问日历或起草内容错误,请停止并报告错误。通过检查草稿在发送前是否需要零编辑来衡量成功。

原始来源

来源报告未经独立核验。发布日期为本站案例发布日期,并非原始文章日期。

更多同类案例 · 办公与运营