傅盛转述李飞飞:机器人、世界模型与人的自主性 - Digest

一句话总结

机器人能力的短板是可用于交互、预测和纠错的物理数据;世界模型要从“生成画面”跨到“模拟后果并规划动作”,而 AI 的最终目标与价值判断必须由人保留。

8 节点速查表

节点 速记
物理数据 真实操控数据稀缺,且比互联网文本更难规模化获得
具身交互 机器人在移动、接触和失败中获得因果信息
物理反馈 力、摩擦和遮挡等反馈决定动作能否被修正
渲染边界 视觉逼真不等于理解物理规律
世界模拟 预测动作将如何改变环境状态
行动规划 用预测结果决定动作顺序与下一步
闭环学习 行动 -> 反馈 -> 纠错 -> 再学习
人类自主性 人保留目标、价值、风险边界与最终责任

三个关键边界

  1. 数据边界:机器人不能把“更多语料”直接等同于“更会干活”;需要真实交互产生的状态转移数据。
  2. 能力边界:渲染只能说明“画得像”,模拟和规划才让系统能预演后果、选择行动。
  3. 责任边界:AI 可以增强创造力和生产力,不应替人决定想要什么或该承担什么风险。

关联与限制