MASCing：激活转向掩码实现MoE行为可配置
MASCing: Configurable Mixture-of-Experts Behavior via Activation Steering Masks

Jona te Lintelo, Lichao Wu, Marina Krček, Sengim Karayalçin, Stjepan Picek
⭐ 1

• MASCing是一个框架，旨在无需重新训练的情况下，灵活重新配置MoE模型的行为。
• 其核心目标是通过动态调整，提升MoE模型在安全目标方面的可控性。
• 该框架利用激活转向矩阵，精细控制模型激活，改变专家行为表现。
• 同时，它还通过修改路由门机制，有效引导信息流，实现行为定制。
• 这一创新方法极大地降低了实现模型行为调整的成本与复杂性。

🔗 arXiv · 🤗 HF

#混合专家模型 #模型控制 #激活操纵 #路由机制 #模型安全 #高效微调

TTS-STT飞轮：合成实体密集音频提升印度语ASR
The TTS-STT Flywheel: Synthetic Entity-Dense Audio Closes the Indic ASR Gap Where Commercial and Open-Source Systems Fail
⭐ 1 · arXiv · HF
#语音识别 #数据合成 #参数微调 #实体识别 #低资源语言 #模型评估

基于Tsallis损失连续体的推理模型训练与冷启动缓解
How Fast Should a Model Commit to Supervision? Training Reasoning Models on the Tsallis Loss Continuum
arXiv · HF
#大语言模型 #强化学习 #推理模型 #冷启动 #损失函数 #模型微调