部署中学习:面向通用机器人策略的集群强化学习
Learning while Deploying: Fleet-Scale Reinforcement Learning for Generalist Robot Policies
Yi Wang, Xinchen Li, Pengwei Xie, Pu Yang, Buqing Nie, 等 (+11)
⭐ 8
• 本研究提出“部署中学习”(Learning While Deploying, LWD)框架,旨在通过实际部署,持续改进机器人的视觉-语言-动作(VLA)策略。
• LWD框架采用大规模离线到在线强化学习范式,支持策略在部署过程中不断迭代优化。
• 该框架融合了分布式机器人经验与人工干预,从而高效指导和加速策略的学习。
• 这种边部署边学习的模式为开发能够适应复杂动态环境的通用机器人策略提供了有效途径。
🔗 arXiv · 🤗 HF
#强化学习 #机器人 #通用策略 #多模态 #集群学习 #人机协作
Learning while Deploying: Fleet-Scale Reinforcement Learning for Generalist Robot Policies
Yi Wang, Xinchen Li, Pengwei Xie, Pu Yang, Buqing Nie, 等 (+11)
⭐ 8
• 本研究提出“部署中学习”(Learning While Deploying, LWD)框架,旨在通过实际部署,持续改进机器人的视觉-语言-动作(VLA)策略。
• LWD框架采用大规模离线到在线强化学习范式,支持策略在部署过程中不断迭代优化。
• 该框架融合了分布式机器人经验与人工干预,从而高效指导和加速策略的学习。
• 这种边部署边学习的模式为开发能够适应复杂动态环境的通用机器人策略提供了有效途径。
🔗 arXiv · 🤗 HF
#强化学习 #机器人 #通用策略 #多模态 #集群学习 #人机协作
Odysseus:强化学习驱动VLM实现百回合游戏长期决策
Odysseus: Scaling VLMs to 100+ Turn Decision-Making in Games via Reinforcement Learning
Chengshuai Shi, Wenzhe Li, Xinran Liang, Yizhou Lu, Wenjia Yang, 等 (+8)
⭐ 2
• 针对VLM在百回合以上长周期游戏决策挑战,本文通过强化学习(RL)训练VLM。
• 提出PPO改进算法,引入轻量评论器,显著提升训练稳定性和样本效率。
• 预训练VLM提供强大动作先验,提高RL效率,减少手动设计。
• 构建Odysseus框架,VLM实现3倍游戏进展,具备良好泛化性,为具身智能体RL提供指导。
🔗 arXiv · 🤗 HF
#视觉语言模型 #强化学习 #长期决策 #游戏AI #具身智能体
Odysseus: Scaling VLMs to 100+ Turn Decision-Making in Games via Reinforcement Learning
Chengshuai Shi, Wenzhe Li, Xinran Liang, Yizhou Lu, Wenjia Yang, 等 (+8)
⭐ 2
• 针对VLM在百回合以上长周期游戏决策挑战,本文通过强化学习(RL)训练VLM。
• 提出PPO改进算法,引入轻量评论器,显著提升训练稳定性和样本效率。
• 预训练VLM提供强大动作先验,提高RL效率,减少手动设计。
• 构建Odysseus框架,VLM实现3倍游戏进展,具备良好泛化性,为具身智能体RL提供指导。
🔗 arXiv · 🤗 HF
#视觉语言模型 #强化学习 #长期决策 #游戏AI #具身智能体
感知流网络:面向视觉接地推理
Perceptual Flow Network for Visually Grounded Reasoning
Yangfu Li, Yuning Gong, Hongjian Zhan, Teng Li, Yuanhuiyi Lyu, 等 (+6)
• 本文提出感知流网络(PFN),旨在克服现有视觉语言模型在处理复杂视觉推理任务时面临的挑战和局限性。
• PFN的核心创新在于将视觉信息中的感知与高级推理过程有效解耦,从而实现更清晰、更结构化的信息处理。
• 该模型采用先进的变分强化学习范式进行训练,使其能够灵活学习并优化推理策略,以适应不同的视觉场景。
• 为进一步提升推理的准确性和鲁棒性,网络引入了多维度奖励机制,显著增强了其视觉接地推理能力。
🔗 arXiv · 🤗 HF
#视觉推理 #强化学习 #感知推理 #视觉语言模型 #解耦学习
Perceptual Flow Network for Visually Grounded Reasoning
Yangfu Li, Yuning Gong, Hongjian Zhan, Teng Li, Yuanhuiyi Lyu, 等 (+6)
• 本文提出感知流网络(PFN),旨在克服现有视觉语言模型在处理复杂视觉推理任务时面临的挑战和局限性。
• PFN的核心创新在于将视觉信息中的感知与高级推理过程有效解耦,从而实现更清晰、更结构化的信息处理。
• 该模型采用先进的变分强化学习范式进行训练,使其能够灵活学习并优化推理策略,以适应不同的视觉场景。
• 为进一步提升推理的准确性和鲁棒性,网络引入了多维度奖励机制,显著增强了其视觉接地推理能力。
🔗 arXiv · 🤗 HF
#视觉推理 #强化学习 #感知推理 #视觉语言模型 #解耦学习
T^2PO:不确定性引导探索控制,提升多轮智能体强化学习稳定性
T^2PO: Uncertainty-Guided Exploration Control for Stable Multi-Turn Agentic Reinforcement Learning
Haixin Wang, Hejie Cui, Chenwei Zhang, Xin Liu, Shuowei Jin, 等 (+5)
• T²PO(Token和Turn级策略优化)是一种新颖方法,旨在解决多轮智能体强化学习中常见的探索不稳定性问题。
• 该方法通过在Token和Turn等细粒度级别上,精确控制智能体的探索行为,从而显著提升学习过程的稳定性。
• 其核心机制在于结合了不确定性监控技术,并辅以动态重采样策略,以有效地引导探索过程,避免智能体陷入次优解或学习崩溃。
🔗 arXiv · 🤗 HF
#强化学习 #智能体 #探索控制 #不确定性 #多轮学习 #策略优化
T^2PO: Uncertainty-Guided Exploration Control for Stable Multi-Turn Agentic Reinforcement Learning
Haixin Wang, Hejie Cui, Chenwei Zhang, Xin Liu, Shuowei Jin, 等 (+5)
• T²PO(Token和Turn级策略优化)是一种新颖方法,旨在解决多轮智能体强化学习中常见的探索不稳定性问题。
• 该方法通过在Token和Turn等细粒度级别上,精确控制智能体的探索行为,从而显著提升学习过程的稳定性。
• 其核心机制在于结合了不确定性监控技术,并辅以动态重采样策略,以有效地引导探索过程,避免智能体陷入次优解或学习崩溃。
🔗 arXiv · 🤗 HF
#强化学习 #智能体 #探索控制 #不确定性 #多轮学习 #策略优化