Source: The Verge
DeepMind机器人团队发布了三项新进展，声称这将帮助机器人在野外做出更快、更好、更安全的决策。其中一个进展是通过使用“机器人宪法”来收集训练数据，以确保您的机器人办公室助手在获取更多打印纸时不会误伤同事。谷歌的数据收集系统AutoRT可以使用视觉语言模型（VLM）和大型语言模型（LLM）配合工作，了解环境、适应陌生环境，并决定适当的任务。受到艾萨克·阿西莫夫的“三大机器人定律”的启发，这个“机器人宪法”被描述为一系列“以安全为重点的提示”，指导LLM避免选择涉及人类、动物、尖锐物体甚至电器的任务。
为了安全起见，DeepMind将机器人程序化，当其关节的受力超过一定阈值时，机器人会自动停止，并且还提供了人工操作员可以使用的物理关机开关来关闭它们。在七个月的时间里，谷歌将53台AutoRT机器人部署到四栋不同的办公楼，并进行了超过77,000次试验。有些机器人由远程人工操作员控制，而其他机器人则根据脚本或完全自主地使用谷歌的机器人变压器（RT-2）AI学习模型运作。
试验中使用的机器人看起来更实用而不奢华，只配备了摄像头、机器臂和移动底座。谷歌在其博客文章中指出：“对每个机器人，系统使用VLM来了解其环境和视线内的物体。然后，LLM建议机器人可以执行的一系列创造性任务，比如‘将零食放在台面上’，并扮演决策者角色选择一个适当的任务供机器人执行。
DeepMind的另一个新技术是SARA-RT，这是一种神经网络架构，旨在使现有的机器人变压器RT-2更准确和更快。它还宣布了RT-Trajectory，通过添加2D轮廓来帮助机器人更好地执行特定的物理任务，比如擦桌子。虽然离能够自主提供饮料和整理枕头的机器人似乎还有很长的路要走，但当它们可用时，它们可能会通过AutoRT这样的系统进行学习。
人工智能机器人是否能保证遵守‘机器人宪法’，大家有没有想过可能的问题呢？
