李飞飞团队旨在解决与机器人操作任务相关的挑战，这些任务涉及多个空间关系和时间依赖阶段，需要对复杂的空间和时间关系进行编码。

　　他们希望开发一个广泛适用的框架，能够适应需要多阶段、野外环境、双手操作和反应行为的任务，通过基础模型的进展在获取约束方面具有可扩展性，并能够实时优化以产生复杂的操作行为。

　　现有的使用刚体变换表示操作任务约束的方法缺乏几何细节，要求预定义的物体模型，并且无法处理可变形物体。

　　在视觉空间中直接学习约束的数据驱动方法也在收集训练数据时面临挑战，因为约束的数量在物体和任务方面呈组合增长。

　　ReKep 将操作任务编码为约束，连接机器人与其环境，而无需手动标注。该方法利用 Python 函数将一组语义上有意义的三维关键点映射为数值成本，从而能够表示复杂的空间和时间关系。

　　该框架旨在通过大型视觉模型和视觉 - 语言模型自动生成约束，实现从自然语言指令和 RGB-D 观测中高效地指定任务。

　　实验涉及多个任务，包括倒茶、回收罐、整理书籍、打包盒子、折叠衣物、装鞋盒和协作折叠等。这些任务被设计来测试系统在不同方面的性能，如空间和时间依赖性、对环境的适应性、双手协调和与人类的互动。

　　实验结果显示，ReKep 在多种任务上的成功率较高，证明了其在自动化操控任务中的潜力。成功率根据任务的不同而有所差异，但总体上表现良好。

　　首先，他们定义了单个 ReKep 实例，并且假设已经指定了一组 ? 个关键点。每个关键点 ?? ℝ 3 指的是场景表面上的一个 3D 点，其坐标依赖于任务语义和环境（例如，手柄上的抓取点，壶嘴）。

　　本质上来说，一个 ReKep 实例编码了关键点之间的一个期望的空间关系，这些关系可能属于机器人手臂、物体部分或其他代理。

　　然而，一个操作任务通常涉及多个空间关系，并且可能具有多个时间上依赖的阶段，每个阶段都涉及不同的空间关系。为此宝博体育下载，他们将任务分解为 ? 个阶段，并为每个阶段 ?{1,,?} 使用 ReKep 来指定两类约束：

　　其中 ?sub-goal ( ? ) 编码阶段 ? 结束时需要达到的关键点关系，而 ?path ( ? ) 编码阶段 ? 内部需要满足的关键点关系。

　　阶段 1 的子目标约束拉动末端执行器向茶壶手柄靠近。阶段 2 的子目标约束指定壶嘴需要位于杯口上方，阶段 2 的路径约束确保茶壶直立，以避免倾倒时溢出。最后，阶段 3 的子目标约束指定倾倒角度。

　　他们将末端执行器姿态表示为 e SE（3），将操控任务表述为一个优化问题，目标是找到一系列满足 ReKep 约束的末端执行器（end-effector）姿态，并将控制问题表述如下：

　　为了使系统能够在给定自由形式任务指令的情况下执行野外任务，他们设计了一个使用大型视觉模型和视觉语言模型进行关键点提议和 ReKep 生成的管道宝博体育全站，并分成了两个部分：

　　使用大型视觉模型（LVM），如 DINOv2，来提取场景中的特征，并利用这些特征来识别潜在的关键点。这些关键点通常是场景中具有语义意义的 3D 点，例如物体的边缘、角落或特定物体部分的中心。

　　结合关键点和任务指令，使用视觉 - 语言模型（VLM）来生成 ReKep，这些约束将用于指导机器人的动作规划和执行。这一步骤利用了视觉模型对场景的理解以及语言模型对指令的解释能力。

　　李飞飞博士是斯坦福大学计算机科学系首任红杉教授，也是斯坦福以人为本的人工智能研究所的联席主任，曾担任担任谷歌副总裁和首席科学家，在多家上市公司或公司担任董事会成员或顾问。

　　李飞飞主导的斯坦福 AI 实验室、斯坦福视觉与学习实验室 ( SVL ) 和斯坦福以人为本人工智能研究院涌现出大量优秀人才，包括 OpenAI 联合创始人 Andrej Karpathy、国内内第一个坚探索具身智能的卢策吾、前 Google AI 中国中心总裁李佳、前阿里自动驾驶掌舵人等。

　　她目前的研究兴趣包括认知启发式人工智能、机器学习、深度学习、计算机视觉、机器人学习和人工智能 + 医疗，尤其是用于医疗保健的环境智能系统。

　　Wenlong Huang 是斯坦福大学计算机科学专业的博士生，由李飞飞指导，也是斯坦福视觉与学习实验室 （SVL）的成员。他于 2018 年获得加州大学伯克利分校计算机科学学士学位，指导老师是 Deepak Pathak、Igor Mordatch 和 Pieter Abbeel。

　　他的研究目标是赋予机器人广泛的泛化能力，使其能够执行开放世界操控任务，尤其是在家庭环境中。研究兴趣包括：

　　Chen Wang 是斯坦福计算机科学学院的博士生，导师是李飞飞和 C. Karen Liu。他本科就读于上海交通大学计算机科学专业，是第一批加入卢策吾团队研究机器人具身智能的学生之一。

　　他的研究目标是制造出具有与人类一样的灵活性和处理日常任务能力的机器人，因此专注于机器人学习，以实现灵巧操作、模仿人类动作以及长期规划和控制。

　　Yunzhu Li 现在是哥伦比亚大学计算机科学助理教授，曾是斯坦福视觉与学习实验室 ( SVL）的博士后，与李飞飞、Jiajun Wu 一起工作。北京大学本科毕业后，他在麻省理工学院计算机科学与人工智能实验室（CSAIL）获得博士学位，导师是 Antonio Torralba 和 Russ Tedrake。

　　目前他在机器人感知、交互和学习实验室（RoboPIL）进行机器人技术、计算机视觉和机器学习的交叉研究，专注于机器人学习，特别是直观物理学、具身智能、多模式感知三个方向，旨在显著扩展机器人的感知和物理交互能力。

　　他的长期研究兴趣是以人为本的人工智能：理解人类智能以开发受生物启发的人工智能算法，以及使人工智能与人类更加兼容。最近专注于以人为本的机器人技术：通过数据驱动的方法开发可增强人类福祉的机器人解决方案（系统和算法）。