语言模型上下文技能学习：如何实现熟练习得？
From Context to Skills: Can Language Models Learn from Context Skillfully?

Shuzheng Si, Haozhe Zhao, Yu Lei, Qingyi Wang, Dingwei Chen, 等 (+8)
⭐ 2

• 本文提出一个自进化的框架，旨在赋予语言模型自主发现和完善特定上下文技能的能力。
• 框架核心是多智能体自博弈循环，通过挑战者、推理者和评估者三个关键组件之间的交互，持续生成并优化上下文相关的技能。
• 这种无需人工监督的机制，能够有效地提升语言模型在复杂上下文情境下的学习表现和处理能力。
• 实验结果表明，该方法显著改善了模型的上下文学习性能，为语言模型实现更熟练、更自主的技能习得提供了新途径。

🔗 arXiv · 🤗 HF

#大语言模型 #上下文学习 #多智能体 #自主学习 #技能习得

StateSMix：基于Mamba与稀疏N-gram的在线无损压缩
StateSMix: Online Lossless Compression via Mamba State Space Models and Sparse N-gram Context Mixing
⭐ 1 · arXiv · HF
#无损压缩 #状态空间模型 #在线学习 #上下文混合 #序列建模

基于上下文稀疏注意力的极速统一视频编辑框架
Lightning Unified Video Editing via In-Context Sparse Attention
arXiv · HF
#视频编辑 #稀疏注意力 #上下文学习 #扩散模型 #泰勒展开