#模型工坊

本文提出Diffusion Templates，一个用于可控扩散模型的统一插件框架。
- 该框架将基础模型推理与可控能力注入解耦，提供训练、加载和组合异构控制模块的通用接口。
- 框架包含模板缓存、模板模型和模板管线三个核心组件，支持KV-Cache和LoRA等多种能力载体。
- 基于此设计构建了丰富的模型库，涵盖结构控制、亮度/色彩调整、图像编辑、超分辨率等任务。
- 案例研究表明，Diffusion Templates可统一广泛的可控生成任务，并在快速演进的扩散骨干网络中保持模块化和可组合性。

MASCing：激活转向掩码实现MoE行为可配置
MASCing: Configurable Mixture-of-Experts Behavior via Activation Steering Masks

Jona te Lintelo, Lichao Wu, Marina Krček, Sengim Karayalçin, Stjepan Picek
⭐ 1

• MASCing是一个框架，旨在无需重新训练的情况下，灵活重新配置MoE模型的行为。
• 其核心目标是通过动态调整，提升MoE模型在安全目标方面的可控性。
• 该框架利用激活转向矩阵，精细控制模型激活，改变专家行为表现。
• 同时，它还通过修改路由门机制，有效引导信息流，实现行为定制。
• 这一创新方法极大地降低了实现模型行为调整的成本与复杂性。

🔗 arXiv · 🤗 HF

#混合专家模型 #模型控制 #激活操纵 #路由机制 #模型安全 #高效微调