李飞飞与a16z深度对谈:机器人最难的题,从来不是硬件

2026-07-30100000具身智能

 

Image
 

李飞飞与 SceniX 联合创始人Yunzhu Li 一同现身 a16z 播客

距离 World Labs 宣布收购机器人仿真公司 SceniX 仅过去一周,李飞飞与SceniX 联合创始人Yunzhu Li(李昀烛)一同现身 a16z 播客,与主持人 Martin Casado 展开了一场题为《Solving the Hardest Problem in Robotics》的深度对谈。

同日,World Labs 官网正式发布 Real-to-Sim-to-Real(R2S2R)引擎的首批技术成果,将收购的战略逻辑完整铺到了行业面前。

这场对话没有停留在收购的商业层面,而是直指当前具身智能领域的几个关键判断:

1.机器人落地的最大瓶颈不在硬件,而在于数据的极度稀缺和评测体系的低估。语言模型的数据在网上几乎无限,但机器人缺乏可规模化的数据来源,这正是 scaling law 无法在机器人领域直接生效的根本原因。

2.仿真不是“可选项”,而是“必选项”,因为它提供了真实数据无法替代的反事实推理能力。仿真让机器人提前应对那些尚未发生或难以大量采集的真实场景。Waymo 依赖数十亿小时仿真数据,已证明这一路径在工业级应用中的可行性。

3.World Labs 与 SceniX 的整合,本质上是“生成式3D世界模型”与“real-to-sim-to-real 工程化”的互补。World Labs 的 Marble 基座模型擅长从稀疏输入生成几何一致的3D世界,SceniX 则专精于将真实环境高保真映射到仿真并回迁至现实,两者结合可构建模型无关、本体无关的机器人学习与评测基础设施。

4.机器人基础模型很可能走向“全模态+动作维度”的形态,既能充当仿真器(预测动作后果),也能充当策略模型(输出动作指令)。这类模型可作为通用主干,针对具体机器人任务做微调,既帮助理解环境,也帮助在环境中行动。

5.机器人落地的现实路径需要从结构化环境起步,逐步过渡到半结构化环境,最后才是非结构化环境。当前阶段应优先聚焦仓库、工业产线等可控场景,而非直接挑战家庭。人形躯体是为非结构化环境演化出的通用形态,但商业化更应走专业化路线,用专用形态解决窄任务。

以下是对谈原文:

 

01.

World Labs 在做什么

 

Martin Casado开场:飞飞,先给听众介绍一下World Labs到底是做什么的?

李飞飞: World Labs成立两年了,我们把自己定位成一个前沿模型实验室。我们正在做的,是AI的下一站,我们叫它空间智能。简单说,就是让AI不仅能看、能读,还能生成、理解、推理,并且跟空间发生交互,不管这个空间是物理世界还是虚拟世界。而打造大型世界模型,是我们通往空间智能的核心路径之一。

Image
 

Martin Casado:你一直在讲感知空间、推理空间,但我总以为在空间中行动是很遥远的事。现在直接收购了一家机器人公司,这个时间点是怎么考虑的?

李飞飞: 首先得说清楚,在空间里行动不只有机器人这一种方式。影视特效、游戏开发、工业设计,这些领域大量需求是在虚拟空间里创造和操作。World Labs一直相信,我们生活的世界可以理解成一个多元宇宙,我们要做的是让大家能自由穿梭于不同空间的技术。

不过话说回来,物理世界里的行动能力,确实是未来AI最激动人心、也最具颠覆性的方向之一。机器人恰恰是这件事的终极载体。SceniX团队的加入,跟我们长期以来的愿景完全吻合。

Martin Casado:Yunzhu,该你了。介绍一下你自己的背景,还有SceniX在做什么。

李昀烛: 我是SceniX的联合创始人,同时在哥伦比亚大学当助理教授。博士在MIT读的,之后去斯坦福跟飞飞做博士后。我的目标很简单,就是帮机器人更好地感知物理世界,并在里面真正干成事。我是一个特别务实的人,我要我的机器人在真实的物理环境里能干活。

对SceniX 来说,我们看到的独特机会是,通用机器人的发展现在有很多瓶颈,尤其是训练和评测这两块。所以我们在做的是所谓的 real-to-sim-to-real 流水线。我们想把真实环境映射到数字世界里,并且要跟真实环境有最好的对齐。对齐的意思是,数字世界里发生的事情,在真实环境里也会发生。

 

02.

一场“意外”的收购:从付费客户到合作伙伴

 

Martin Casado:你俩能重新凑到一起,这事儿挺有意思的。

李飞飞: 说起来好笑。你可能以为因为我们之前合作过,他是我最出色的博士后之一,所以很早就开始谈整合了。根本不是这么回事。SceniX最开始是作为客户找上门来的。

去年冬天,大概十一二月吧,我们发布了Marble的第一个版本。SceniX直接注册成了用户。

Martin Casado:不是吧?是以客户身份?

李飞飞: 对。我当时完全没反应过来那是谁。后来一看公司名字,才认出是Yunzhu创办的。我立马给他打了个电话,说"哇,这是你的公司啊?"然后我们一聊才发现,两边要做的事情高度互补。

Image
 

Martin Casado:飞飞,简单说一下Marble是什么?

李飞飞: Marble是World Labs一直在训练的基座模型。目前公开版本的核心能力是:你给它一张图、几张图或者一段文字,它能生成一个几何上保持一致性的3D世界,表现形式可以是高斯泼溅或者网格模型。

而SceniX在解决的,是机器人领域最棘手的数据缺乏问题。训练缺数据,评测也缺数据。这跟大语言模型完全两码事,语言模型的数据在网上要多少有多少。但机器人要真正拍起来,必须想办法解锁 scaling law 的力量,可那个scaling law的燃料从哪来?这是所有机器人团队都在死磕的根源性问题。

Martin Casado:聊聊协同效应吧。你们两边团队都很强,重合度多少,互补性又在哪?

李飞飞: 用一句来说就是高度互补,使命一致。SceniX有三位技术联合创始人,Yunzhu是其中之一。另外两位,一位是哥大教授,仿真领域世界级的技术大牛,同时在维塔数码干过,也在腾讯待过,自己还创过业。还有一位工程负责人特别厉害,早年创立的公司被亚马逊收购了,之后在亚马逊做过多个计算机视觉方向的技术栈。

SceniX的人才结构跟World Labs形成了极佳的补充。首先,他们在机器人方向有深厚的思想领导力和全栈工程能力,从建模到硬件都通。Yunzhu在斯坦福做我博士后的时候其实已经拿到教职了,所以我只留了他一年,他得去干"正事"了。他这个人是从建模到硬件都能搞定的全栈机器人专家。再加上他在SceniX带出来的学生团队,正好填补了World Labs之前没有的一块。

另一个联合创始人那边,有极强的仿真积累。World Labs做的很多事情天然要跟仿真世界对接。而SceniX这边缺的,是生成式模型和3D视觉重建的能力——这正好是World Labs的强项,也是他们需要的。两边一凑,整个技术版图就完整了。

Martin Casado:Yunzhu,从一个创始人视角,决定把公司并入World Labs,这个决策是怎么考虑的?

李昀烛: 最开始我们确实打算自己单干。但跟飞飞深聊之后,发现两边协同效应实在太强了,合在一起明显比各自为战更合理。

SceniX一直在做的real-to-sim-to-real,本质上是对物理环境做重建——包括外观、几何结构、动力学特性,也就是施加动作之后环境会怎么响应。目前这套重建流程还是偏重的。而World Labs在稀疏重建和生成式建模上有很深的技术储备。所以我们看到了巨大的机会,可以借助Marble以及World Labs的其他能力,把环境重建和建模的效率提升一大截。

Image
 

 

03. 

机器人基础模型预测:全模态+动作维度

 

Martin Casado:所以我们可以期待World Labs推出一个机器人基础模型?

李飞飞: World Labs本身就是在做基础模型。现在最让人兴奋的一类基座模型是全模态模型——多模态输入、多模态输出。那机器人领域的基础模型会长什么样?很大概率会引入"动作"这个维度,除了输出世界状态之外,还会输出动作指令。我们不排除这种可能性。

李昀烛: 比如说基础模型,它本质上需要是一个多模态模型,能吃进视频帧、文本、图像、深度图等各种信号,而动作是其中极其关键的一环。

如果把当前帧和动作一起喂给模型,它本质上就是个前向仿真器,它会预测执行某个动作后环境会发生什么变化。反过来,如果把动作当作输出,它就是个策略模型——给定某个目标,预测在真实环境中应该采取什么动作来逼近那个目标。这类全模态模型对整个机器人社区都很有价值,既帮大家理解怎么对环境建模,也帮大家搞清楚怎么在环境里行动。它还可以作为一个通用主干,针对具体的机器人任务做微调,确保达到客户期望的可靠性和效率。

Martin Casado:我见过很多机器人公司,现在流行用视频模型。你们走的是3D加仿真的路线,这条路跟主流有什么不同?

李昀烛: 要打造一个能让机器人学习的数字世界,核心在于抓住问题的本质结构。而这类世界有一个关键前提就是一致性。空间上要一致,时间上要一致,不同视角下要一致,不同类型的交互也要一致。Marble生成的世界,恰好提供了这个世界所需的基础设施。

设想一下,机器人伸手推一个物体,结果物体凭空消失了,这是很多视频预测模型常见的毛病。这种信号根本不足以让机器人学会正确的行为。当然,现在学术界也在努力把视频模型越做越强。我们看到的路径是,先用这套基础设施提供初始动力,形成一个数据飞轮,从偏仿真的模型逐步过渡到策略模型,策略在真实环境中执行、采集新数据,数据再回流过来迭代。最终模型不一定是纯物理驱动,也不一定是纯数据驱动,而是取两者之长——既能抓住问题的本质结构,又能随着数据积累持续进化。

Martin Casado:Yunzhu,飞飞一直有她的北极星,她用不同方式表述过,比如 3D。你有没有类似的哲学层面的指引?

李昀烛: 我的北极星特别简单,让机器人在真实环境里真正干成活。我就是个务实的人。

说件有意思的事,是我在斯坦福跟飞飞合作时做的。我们当时搞了一个基准测试,向公众发问卷,问他们最想让机器人替自己做什么。收上来的一千多个回答里,三分之一都跟清洁有关。大家就是讨厌干那些又脏又累的活儿。

李飞飞: 我特别欣赏SceniX的一点是,现在很多机器人公司都在忙着造模型,而Yunzhu和他的联合创始人对机器人有一种极其务实的落地思路。他们虽然都是从学术界出来的,但第一反应不是写论文,而是去跟真实的产业客户泡在一起,无论是工业实验室、仓库、电子装配线。这种打法在机器人圈子里非常难得。

 

04. 

为什么仿真不是“可选项”而是“必选项”

 

Martin Casado:纯好奇,机器人这件事你得做得相当精确吧?不用完美,但得足够接近。可创意类用例完全不需要那么准,有时候偏差本身就是风格。这两者怎么调和?

李昀烛: 长期来看当然可以调和。对环境的建模本身就不需要做到完美。

Martin Casado:有没有更具体一点的表述?什么叫"不需要完美,但要足够接近"?

李昀烛: 你看,模型在各个机器人应用的发展史上一直是很重要的基石。飞机、无人机、扫地机器人,还有四足和双足机器人。它们能成功从仿真迁移到真实环境,模型都起了关键作用。

但你看那些四足、双足机器人,能在雪地里走,能在灌木丛里穿。你根本不需要一个能把每片雪花、每根树枝都模拟到极致的仿真器。你需要的是抓住问题本质结构的仿真,然后在数字环境里做大量的随机化测试。这就是我们正在做的事。SceniX和World Labs要一起搞清楚的是,建模这些庞大的世界和其中的机器人,到底需要多高的保真度,才能把仿真里训练出来的系统成功迁回真实场景?

Martin Casado:Sergey Levine他们说过,仿真最终总会偏离物理世界,真实数据采集必不可少。你们这套以仿真为主的技术路线,可行性到底在哪?

李昀烛: 这两件事其实不矛盾。仿真本质上是在预测施加动作后环境会怎么变,它本身就是一种世界模型。这个模型不一定要纯物理驱动,可以是物理规律和数据学习相结合。我们也在采真实数据,只是用在数据飞轮的不同阶段。

前期可能更侧重物理规律,来确保正确的一致性和结构。但随着积累的数据越来越多,建模会逐步转向数据驱动。这种过渡和数据流动,让我们能同时享受两边的红利,一边是物理、几何和一致性,另一边是数据和算力的全部魔力。

李飞飞: 我想补充一点,稍微拔高一点说——这不是"用不用仿真"的二选一,而是所有东西放在一起才能让机器人真正跑起来。

想想人类智能。我们大脑里时刻都在做大量"仿真"。为什么?因为仿真扮演了一个真实数据永远替代不了的角色——反事实推理。你在脑子里演练那些还没发生的、甚至根本不可能发生的事,或者你在真实世界里没那么多数据让它发生的事。通过演练,你学会了怎么应对。人类一直在这么干。

我猜你刚去看世界杯了,恭喜西班牙夺冠。我相信每支球队备战的时候都会做仿真,不管是数字化模拟还是在白板上画战术。仿真的本质就是反事实推理。这在机器人领域尤其重要,因为我们根本不可能拥有足够的真实世界数据。

现实里就有现成的例子,自动驾驶行业。Waymo官方说过,他们用了数十亿小时的仿真数据,而且他们其实更依赖仿真而不是真实路测。Martin你也知道,汽车已经是最简单的机器人了。

李昀烛: 我再补充两点具体的。仿真能带来两个核心价值:一是可靠性,二是效率。

可靠性方面,要让机器人在真实环境里稳定工作,你需要数据能系统性覆盖机器人可能遇到的所有状态空间和变化。有了仿真,你可以做系统性的随机化,例如光照、摩擦系数、几何形状、物体类型、物理参数,确保覆盖面足够广。

效率方面,现在很多人做遥操作数据采集。那些外骨骼穿戴设备,你采集数据的速度其实比人自己动手做还慢。但对很多客户来说,人的速度根本不够,他们需要比人更快。想让机器人动作更快,不是简单地把电机转速调高就完事了,重力又不会跟着变。但在仿真里,你可以对机器人的行为做系统性的加速训练,把环境的动力学变化都考虑进去。这就是仿真能给客户带来的效率优势。

Image
 

 

05.

评测才是被低估的那一环

 

Martin Casado:技术和平台层面聊了不少,那具体应用场景有哪些?

李昀烛: 两个核心场景:训练和评测。先说评测,这在机器人领域经常被忽视。但你要调机器人模型,就必须知道它表现到底怎么样,那是你迭代的唯一依据。

Martin Casado:做AI的人天天都在讲eval,但圈外人听起来可能不太一样。你具体解释一下评测指什么?

李昀烛: 评测说白了就是搞清楚某个模型检查点的真实水平——成功率是95%还是99.9%。

行业里一个关键的衡量标准是:你要花多少墙钟时间,才能区分出一个90%的检查点和一个92%的检查点?如果完全在真实环境里做这件事,时间成本高得离谱。现在机器人的真实环境评测,迭代速度比大语言模型慢了不知道多少个数量级。

Martin Casado:因为物理规律得一步步走完嘛。你看那些机器人视频,全都标着8倍速、10倍速,因为实际跑起来太慢了。

李昀烛: 对。而且不光是慢,还危险、还烧钱,速度上又慢了不止一个数量级。

所以我们有些客户特别需要一个数字环境来评测他们的机器人系统。因为我们的数字环境已经验证过跟真实世界是对齐的,仿真里发生的事,真实世界里大概率也会发生。如果某个检查点在仿真里表现更好,在现实里也极有可能更好。这一点我们在博客里也讨论过。这让客户能放心地用数字环境提供的信号,去做规模化、安全、快速的系统评测。

评测之外就是训练。训练的核心在于可控性,你要能控制状态、参数、光照、摩擦、物理参数,还有物体的几何和类型等各种变化,确保覆盖足够多的场景,让机器人变得鲁棒。单靠真实环境做这件事太难了,遥操作采集数据速度慢,还受限于你有多少台机器人、多少套设备,数据运维还有一堆别的麻烦。

但在仿真里,一切尽在掌控、一切系统化,你可以确切知道自己覆盖了什么样的数据分布,并对此做出明确断言。在那个分布范围内,你知道机器人是能工作的。这种确定性、效率和可扩展性,正是客户愿意用我们的数字世界来训练机器人系统的原因。

李飞飞: 还有件挺疯狂的事。在SceniX之前,Marble的意向客户里就已经冒出这种需求了。我们当时根本没能力服务这些客户。但我们接到了大量电话——从早期做模型开发的机器人公司,到非常务实的下游应用方——需求真实存在。

 

06.

我们不造机器人,而是在造一个“环境”

 

Martin Casado:一般人听说你们要做机器人,第一反应是你们要拿3D打印机搞硬件、给机器人装个大脑、塞进壳里。我觉得这跟你们说的不是一回事。能不能讲讲你们在整个机器人制造周期里到底扮演什么角色?

李昀烛: 我们做的是一套基础设施和配套软件,让大家能够构建出让机器人学习和被评测的数字世界。这套基础设施天然是模型无关的,也是本体无关的。

Martin Casado:我想把这一点说透——虽然在你们看来理所当然,但对很多人来说这是个微妙区别:你们不是在造机器人,而是在造一个“环境”,让另一家公司把他们的机器人大脑放进来导航和学习。

李昀烛: 完全正确。我们现在的客户用的机器人各式各样——有单臂的、双臂的、固定基座的、移动底盘的,末端执行器有简单夹爪也有复杂灵巧手。我们的平台天然兼容各种形态,能轻松集成不同的机器人本体,放进我们生成的数字世界里,让它们以高可靠性和高效率在真实环境里完成任务。

我们同样也是模型无关的。我们可以直接用数字世界生成的数据来训练各种模型——从零开始训也好,对现有的视觉语言动作模型或世界动作模型做后训练也好。对我们来说模型具体长什么样不重要,我们只关心基础设施够不够硬、数字世界够不够真,让机器人能稳定可靠地在现实里工作。

 

07.

机器人落地的现实路径需要从结构化环境起步

 

Martin Casado:你之前跟我提过,你觉得现在对人形机器人的预测有点过于乐观了,更可能在仓库这类受限场景先落地。展开说说?

李昀烛: 机器人应用在现实世界的推进路径一直很清晰:从完全结构化的环境,到半结构化环境,再到非结构化环境。

完全结构化环境指你对一切配置都有完整的了解和掌控,比如工厂流水线、汽车制造车间,这些地方几十年前就已经高度自动化了。

半结构化环境是你对环境有一定控制力,比如亚马逊的仓库,或者餐厅、酒店,你可以通过调整环境来降低机器人的任务难度,但还有很多东西是你控制不了的,比如衣服的形状。

至于非结构化环境,比如你家、我家,那才是真正的终极挑战。

李飞飞: 特别是我们家,相信我。三条狗。

李昀烛: 还有一个五岁小孩。鲁棒性来自于对机器人可能遇到的各种场景有足够覆盖。所以至少现阶段,先专注于半结构化环境,再慢慢走向非结构化环境,这条路要容易得多,也靠谱得多。我们最终肯定会往那个方向走,只是想挑一条更可持续、更现实的路径。

李飞飞: 这里我理解他的意思其实是,人形机器人模仿的是人的身体,而进化把人体优化成了适应非结构化环境的形态。我们的手指和腿都不是为了做某一件事而设计的"最优工具"。举个例子,如果人类这个物种的唯一目标是爬树,我们根本不会长成现在这样。人最终演化出的这副躯体非常通用,但做任何一件事都不是最优解,这是为了在非结构化环境里活下来。

但从商业和务实技术的角度来看,非结构化环境加上通用形态,恰恰是最难啃的骨头。甚至可能根本不是解题的正确姿势。更合理的做法是专业化——用更专用的形态去解一个更窄的问题。SceniX面临的挑战在于,它的基础设施必须保持形态无关,才能服务不同的躯体和不同的半结构化场景。

Martin Casado:我们的大脑和身体在三维导航、移动和抓取方面效率极高。你觉得在可预见的未来,我们能造出在琐碎任务上达到人类能效的机器人吗?比方说按最低工资标准算,离这个目标还有多远?五年?还是永远不可能?

李昀烛: 我觉得还要很久。真实环境里每一台能干的机器人都是一个系统工程在运转,你必须非常仔细地考虑各个模块怎么配合——硬件、软件、算法大脑,甚至细到手指的摩擦系数。要让这些东西真正成为现实,要考虑的因素太多了,而且需要反复迭代。

但让我兴奋的是,我一直泡在机器人学习的最前沿,也一直在推动边界。这个领域进化的速度总是比我想象的快。我现在研究的东西跟我刚读博时完全不一样,说明整个生态演进的速度非常惊人。但我们也得对自己的预测保持清醒。我们会看到很多进步,但要达到人类级别的效率和能力,还有很长的路要走。

李飞飞: Martin,今天AI领域最难的事,就是保持恰到好处的、有分寸的乐观。

Martin Casado:说得太对了。

李飞飞: 连大语言模型都达不到人脑的能效,人脑只需要30瓦。所以我们离那个目标还差得远。

Martin Casado:但在性能和功耗的比值上,某些窄任务可能已经接近了,比如写代码或者生成图片。

李飞飞: 对,那些领域我觉得是。但换到机器人,还差得远。

 

07. 

之后的合作怎么走?

 

Martin Casado:这次并购改变了你们战略上的野心吗?还是说跟创业时预期的基本一致?

李昀烛: 确实以很深刻的方式改变了轨迹。我们看到很多新的可能性,能把整个环境建模这件事做得高效得多、可规模化得多。

我还想补充一句。语言模型能力再强,你也不会闭着眼睛让它帮你订机票订酒店——你希望有人复核它的输出。但机器人模型的使用逻辑完全不同——它必须开箱即用,在真实环境里稳定可靠。而我们连数据都没有,连必要的基础设施都还没建好。正因为这样,能打造一个可规模化的数字世界、让机器人在里面学习和被评测,会释放出巨大的潜能。

Martin Casado:我看过很多并购整合,在双方理念高度一致的情况下通常运转得很好。但总有个问题是你们是现在就全面融合,还是保持一定距离,给一个更长期的规划?飞飞,你怎么看?

李飞飞: 我们现在的策略是审慎推进。不急着把代码库和团队全部搅到一起。因为SceniX有一套想得很清楚、相对独立的技术栈,还有自己的客户和产品线。我们会花时间慢慢来。

整合是肯定的,仿真侧,还有基座模型和动作条件模型那边,我们已经开始深度交流了。他们本来就在用Marble。但我们会慢慢融合,不会一上来就把团队搅成一锅沙拉。

Martin Casado:地理上怎么安排?

李飞飞: Yunzhu会搬到旧金山。World Labs现在正式成为横跨东西海岸的公司了,总部在旧金山。我住在帕洛阿托,感觉自己像在另一个州。不过很高兴我们会在纽约设个办公室,这对吸引东海岸的人才很有帮助。我们还讨论过,要确保两边办公室都摆上机器人,这样能把工程栈跑通,能远程操作和调试——服务客户必须具备这个能力。

Martin Casado:说具体点,两年后最理想的成功状态是什么样的?有什么产品?谁在用?怎么用?

李飞飞: 我们会很高兴看到SceniX和World Labs一起,在几个重要的垂直领域里拿到经过验证的标杆客户,我们的系统和基础设施被证明能真正解决他们的自动化需求。这些客户成了我们的灯塔案例,帮我们把生意规模化。

Martin Casado:如果有人现在在经营一家机器人公司,应该在什么阶段来找World Labs?早期?还是中间某个节点?

李昀烛: 我们的平台设计本身就很灵活,取决于客户需要什么。有些客户只需要real-to-sim那部分——把他们关心的任务数字化,在里面做评测。有些客户需要整条real-to-sim-to-real流水线,把策略部署到自己的硬件上。

现在合作的客户大多已经接近部署阶段了,在做非常实际的任务——机器人一旦顶上就能立刻产生价值,而且他们手里至少有几十上百个这样的场景在考虑自动化。我们在博客里展示了一些已经落地的场景,接下来会继续研究怎么满足真实部署中的关键需求。

Martin Casado:对一家机器人公司来说,联系World Labs会不会太早或太晚?

李飞飞: 不会。欢迎大家来找我们,我们想了解你们的用例。

Martin Casado:如果你在听这期节目,而且你正在做机器人项目或者经营机器人公司,请关注World Labs。

李飞飞: 是的,谢谢。