决策树与扩散模型的统一：树流互转新范式
Trees to Flows and Back: Unifying Decision Trees and Diffusion Models
Sai Niranjan Ramachandran, Suvrit Sra
⭐ 2
• 本研究通过名为“全局轨迹得分匹配”的共享优化原理，在数学上统一了决策树与扩散模型。
• 这一统一框架揭示了两种看似不同模型类型间的深层联系与等价性。
• 该方法不仅为构建高效生成模型提供了新途径，显著提升了生成任务的性能。
• 同时，它也为神经网络蒸馏技术开辟了新的研究方向，促进模型知识的高效迁移与压缩。
🔗 arXiv · 🤗 HF
#决策树 #扩散模型 #模型统一 #生成模型 #模型蒸馏
Trees to Flows and Back: Unifying Decision Trees and Diffusion Models
Sai Niranjan Ramachandran, Suvrit Sra
⭐ 2
• 本研究通过名为“全局轨迹得分匹配”的共享优化原理，在数学上统一了决策树与扩散模型。
• 这一统一框架揭示了两种看似不同模型类型间的深层联系与等价性。
• 该方法不仅为构建高效生成模型提供了新途径，显著提升了生成任务的性能。
• 同时，它也为神经网络蒸馏技术开辟了新的研究方向，促进模型知识的高效迁移与压缩。
🔗 arXiv · 🤗 HF
#决策树 #扩散模型 #模型统一 #生成模型 #模型蒸馏
Stable-GFlowNet：通过对比轨迹平衡实现大模型多样鲁棒红队攻防
Stable-GFlowNet: Toward Diverse and Robust LLM Red-Teaming via Contrastive Trajectory Balance
Minchan Kwon, Sunghyun Baek, Minseo Kim, Jaemyung Yu, Dongyoon Han, 等 (+1)
⭐ 6
• 针对大语言模型（LLM）红队攻防中生成流网络（GFN）存在的训练不稳定和模式崩溃问题，本文提出了Stable-GFlowNet模型。
• 该模型通过消除配分函数，有效解决了GFN训练过程中的不稳定性，提升了学习效率。
• 此外，Stable-GFlowNet引入了鲁棒掩码技术，以缓解模型在生成过程中的模式崩溃现象，增强了样本多样性。
• 整体旨在为LLM红队攻防提供一个更稳定、更具多样性和鲁棒性的攻击样本生成方法。
🔗 arXiv · 🤗 HF
#大语言模型 #红队攻防 #生成流网络 #对比学习 #鲁棒性
Stable-GFlowNet: Toward Diverse and Robust LLM Red-Teaming via Contrastive Trajectory Balance
Minchan Kwon, Sunghyun Baek, Minseo Kim, Jaemyung Yu, Dongyoon Han, 等 (+1)
⭐ 6
• 针对大语言模型（LLM）红队攻防中生成流网络（GFN）存在的训练不稳定和模式崩溃问题，本文提出了Stable-GFlowNet模型。
• 该模型通过消除配分函数，有效解决了GFN训练过程中的不稳定性，提升了学习效率。
• 此外，Stable-GFlowNet引入了鲁棒掩码技术，以缓解模型在生成过程中的模式崩溃现象，增强了样本多样性。
• 整体旨在为LLM红队攻防提供一个更稳定、更具多样性和鲁棒性的攻击样本生成方法。
🔗 arXiv · 🤗 HF
#大语言模型 #红队攻防 #生成流网络 #对比学习 #鲁棒性