通过生成的代码和语音指令控制机器人

Gemini 检测物体并编写机器人 API 代码;在上下文中提供 10 个演示后,ALOHA 机器人完成了装箱和连衣裙折叠;语音指令则被转化为机器人行动计划。任务:研究人员向 Gemini 2.5 提供了机器人控制 API(检测、抓取、移动、夹爪操作),使其能零样本生成 Python 行动计划,例如将香蕉放入碗中。对于 ALOHA 装箱和连衣裙折叠等复杂任务,他们在上下文中加入了 10 个推理与动作交错的演示。Live API 被配置为通过函数调用将语音指令转化为可执行的机器人计划。;工具:Gemini。人工角色:原始材料未说明;局限:ALOHA 配置依赖于包含特定示例演示的开源 Colab。访问 Gemini Robotics-ER 需要加入受信任测试者等待列表。Live API 语音控制台已在 GitHub 上发布,但实际部署需要严格的安全验证和人工监督以确保物理机器人动作的安全。。

工具

Gemini

Agent Work Atlas 发布日期:

概述

Gemini 检测物体并编写机器人 API 代码;在上下文中提供 10 个演示后,ALOHA 机器人完成了装箱和连衣裙折叠;语音指令则被转化为机器人行动计划。

工作流程

研究人员向 Gemini 2.5 提供了机器人控制 API(检测、抓取、移动、夹爪操作),使其能零样本生成 Python 行动计划,例如将香蕉放入碗中。对于 ALOHA 装箱和连衣裙折叠等复杂任务,他们在上下文中加入了 10 个推理与动作交错的演示。Live API 被配置为通过函数调用将语音指令转化为可执行的机器人计划。

原文报告的结果

Gemini 生成了两个可行的香蕉搬运计划,其中一个针对右臂的可达范围限制重新规划了动作。ALOHA 机器人利用上下文中的演示成功完成了装箱和连衣裙折叠。语音指令通过 Live API 集成被转化为机器人动作。

人工角色

原始材料未说明

局限

ALOHA 配置依赖于包含特定示例演示的开源 Colab。访问 Gemini Robotics-ER 需要加入受信任测试者等待列表。Live API 语音控制台已在 GitHub 上发布,但实际部署需要严格的安全验证和人工监督以确保物理机器人动作的安全。

试一试

作为机器人开发人员,我需要测试 Gemini 2.5 针对模拟机器人的代码生成能力。 1. 定义一个 Python 类 `SimulatedRobotAPI`,包含方法:`detect_object(obj)`、`get_grasp_pose(obj)`、`move_gripper(pos, ori)`、`open_gripper()`、`close_gripper()`。 2. 提供 API 架构和任务描述:“拿起红色方块并将其放入蓝色箱子中。” 3. 要求 Gemini 生成执行此任务的 Python 代码。 4. 审查生成的代码是否存在语法错误和逻辑安全问题(例如,是否检查了物体检测的成功与否?)。 5. 在本地模拟环境中运行代码。 [可替换输入]: - 任务:[插入具体的抓取放置任务] - API 架构:[插入您机器人的实际 API 定义] - 模拟环境:[插入模拟器路径] 交付物: - 生成的 Python 脚本。 - 模拟执行日志。 - 成功/失败状态。 安全措施: - 切勿在真实硬件上执行。 - 运行前验证所有坐标是否在安全范围内。 - 如果代码失败,分析错误并让 Gemini 结合错误消息重新规划。

原始来源

来源报告未经独立核验。发布日期为本站案例发布日期,并非原始文章日期。

更多同类案例 · 安全与运维