推荐大家看这个来自 Google 的 Jesse Berent 的演讲

主题是将数字墨迹与大型视觉/语言模型结合起来🖊️🧠。视频探讨了如何利用这些强大模型来改善在线手写识别功能以及数字笔迹生成。演讲者还讨论了使用多模态方法进行机器学习任务的优势以及处理手写数据的挑战 。总而言之，对于任何对未来手写识别和人机交互感兴趣的人来说，这是一个非常棒的演讲 ✨。（时长 53 分钟） https://youtu.be/JspO32WBluI?si=vxKc9nhrEmaOhjoC
#机器学习 #人工智能

部署中学习：面向通用机器人策略的集群强化学习
Learning while Deploying: Fleet-Scale Reinforcement Learning for Generalist Robot Policies

Yi Wang, Xinchen Li, Pengwei Xie, Pu Yang, Buqing Nie, 等 (+11)
⭐ 8

• 本研究提出“部署中学习”（Learning While Deploying, LWD）框架，旨在通过实际部署，持续改进机器人的视觉-语言-动作（VLA）策略。
• LWD框架采用大规模离线到在线强化学习范式，支持策略在部署过程中不断迭代优化。
• 该框架融合了分布式机器人经验与人工干预，从而高效指导和加速策略的学习。
• 这种边部署边学习的模式为开发能够适应复杂动态环境的通用机器人策略提供了有效途径。

🔗 arXiv · 🤗 HF

#强化学习 #机器人 #通用策略 #多模态 #集群学习 #人机协作

边部署边学习：面向通用机器人的车队级强化学习策略
Learning while Deploying: Fleet-Scale Reinforcement Learning for Generalist Robot Policies
⭐ 8 · arXiv · HF
#强化学习 #具身智能 #机器人控制 #流匹配 #在线学习

MolmoAct2：面向真实世界部署的机器人动作推理模型
MolmoAct2: Action Reasoning Models for Real-world Deployment

Haoquan Fang, Jiafei Duan, Donovan Clay, Sam Wang, Shuo Liu, 等 (+24)
⭐ 13

• MolmoAct2提出了一个用于机器人的开放式动作推理模型，旨在显著超越现有系统。
• 它通过采用专门的视觉-语言模型骨干网络、构建新的数据集以及开发开放权重的动作分词器来增强模型性能。
• 该模型对架构进行了重新设计，以支持连续动作预测，从而提升了在复杂真实世界任务中的精确性。
• MolmoAct2还引入了自适应推理机制，有效降低了系统延迟，使其更适合实际部署应用。

🔗 arXiv · 🤗 HF

#机器人 #动作推理 #视觉语言模型 #实际部署 #连续控制

面向真实世界部署的开源动作推理视觉语言模型
MolmoAct2: Action Reasoning Models for Real-world Deployment
⭐ 68 · arXiv · HF
#具身智能 #多模态模型 #机器人控制 #流匹配 #空间推理

RLDX-1：面向真实世界灵巧操作的多功能视觉语言动作模型
RLDX-1 Technical Report
⭐ 44 · arXiv · HF
#机器人操作 #多模态感知 #动作生成 #强化学习 #视觉语言模型