持续视觉记忆：维持大型视觉语言模型深度生成中的感知
Persistent Visual Memory: Sustaining Perception for Deep Generation in LVLMs

Siyuan Huang, Xiaoye Qu, Yafu Li, Tong Zhu, Zefeng He, 等 (+4)
⭐ 11

• 大型视觉语言模型（LVLMs）在生成长序列时，常常面临视觉信号稀释的问题，导致模型难以有效维持对视觉信息的关注。
• 为解决此问题，本文引入了一个轻量级的持续视觉记忆模块，该模块旨在增强模型在长时间生成过程中的视觉感知能力。
• 该模块的核心机制在于能够有效维持模型对视觉输入的注意力，从而避免视觉信息在长序列生成中被逐步淡化。
• 通过集成此模块，实验结果证明模型的视觉推理性能得到了显著提升，尤其是在需要持续感知力的复杂任务中表现更优。

🔗 arXiv · 🤗 HF

#大视觉语言模型 #视觉记忆 #注意力机制 #长序列生成 #推理

智能体AI系统应被设计为边际Token分配器
Agentic AI Systems Should Be Designed as Marginal Token Allocators
⭐ 1 · arXiv · HF
#智能体系统 #资源分配 #大语言模型 #系统设计 #强化学习 #推理优化