Optimus机器人:毁灭世界vs拯救世界?

发布于: 修改于: iPhone转发:0回复:8喜欢:11

$特斯拉(TSLA)$ 已经实现了让Optimus人型机器人完成简单的工厂生产工作,并向一家工厂投放了少量几台开始“实地测试”。


马斯克点赞了一条推文,表示未来的optimus可能被用在超充站,为无人车充电并打扫清理车内的卫生。


特斯拉公布的视频可以看出,模型早期训练所需要的数据通过以下方式收集:让人类穿上“动作捕捉”套装,带上VR眼睛,对Optimus机器人进行远程操控。


然而,这个技术让我比较害怕的一点是:如果应用到军事上,这会发生什么?从俄乌之间我们显然可以观察到无人机在战场上的统治力,当无人机变成远程操控的人形机器人呢?


此外,在这个训练过程中,我观察到周围有多台摄影机同时拍摄第三人称视角的视频。我的猜想是:或许可以将“第一人称视觉输入”+“第三人称观察视角”两个视频数据一起作为输入,以远程操控的“动作捕捉”结果作为输出,训练一个可以观察他人行为,并“模仿”他人行为的端到端大模型。要知道FSD就是基于“视频数据”+“导航指引”两者作为输入,并输出控制结果的。Optimus为什么不能用“第一人称视频”+“第三人称教程”作为输入,然后输出控制结果呢?


如果这能够实现,optimus看着你示范一遍,他就能模仿出来,并且千遍万遍的重复。甚至,互联网上所有的视频都将成为人形机器人的“学习材料”——舞蹈、焊接、施工、跑酷、格斗等等,只要看着视频就可以模仿出来。而且,只要按一下按钮,这种新能力就会被推送到百万千万台人型机器人身上去。


在这种情况下,如果给Optimus看战争片又会如何?我们或许需要给它一个非常安全,非常符合人类价值观的本地运行的多模态大语言模型,用来分析一个新的“教程视频”是否合法,是否适合模仿。


然而,未来的黑客仍然有可能用提示词越狱来绕过语言模型的限制,甚至可以命令它将“越狱提示词”传播给下一个它看见的同类。


未来机器人仍然存在很多系统性风险,需要大量的工作来提前预防。如果处理不当,《终结者》离我们或许真的没有那么远。

全部讨论

05-09 14:37

这个训练过程与坦斯福ALOHA极其类似,这里面最核心要建一套机器人的数字孪生,再加上一套光影捕获系统,奥特曼里的场景的感觉有了!

人形机器人迟早会引爆行情,距$机器人ETF(SH562500)$ 起飞只差一个消息

05-06 06:38

放心,FSD+电池+电动车智能生产线+太阳能发电与储能和充电技术+脑机+语言大模型都是为人形机器人做铺垫的最前沿技术,这方面老马都是世界第一。老马最终的目的是实现智能机器在火星落地,所以有了高远的目标自然决定了老马的技术与机器智能的天花板高度都会让对手高不可攀。

05-06 00:38

Elon 在就不用太悲观