互促式双模自演化:加速音视频角色自回归生成
Mutual Forcing: Dual-Mode Self-Evolution for Fast Autoregressive Audio-Video Character Generation
Yupeng Zhou, Lianghua Huang, Zhifan Wu, Jiabao Wang, Yupeng Shi, 等 (+5)
⭐ 16
• 本文提出“互促式”(Mutual Forcing)框架,旨在实现高效的自回归音视频角色生成。
• 该框架通过一个统一模型,巧妙地融合了少步和多步两种训练模式,以优化生成过程。
• 两种训练模式共享参数,这种设计显著提升了模型在生成内容时的一致性。
• 互促式方法有效减少了模型训练和推理的开销,提升了整体效率。
• 最终,该方法能够快速生成高质量的音视频角色内容。
🔗 arXiv · 🤗 HF
#音视频生成 #自回归模型 #角色生成 #高效生成 #双模训练
Mutual Forcing: Dual-Mode Self-Evolution for Fast Autoregressive Audio-Video Character Generation
Yupeng Zhou, Lianghua Huang, Zhifan Wu, Jiabao Wang, Yupeng Shi, 等 (+5)
⭐ 16
• 本文提出“互促式”(Mutual Forcing)框架,旨在实现高效的自回归音视频角色生成。
• 该框架通过一个统一模型,巧妙地融合了少步和多步两种训练模式,以优化生成过程。
• 两种训练模式共享参数,这种设计显著提升了模型在生成内容时的一致性。
• 互促式方法有效减少了模型训练和推理的开销,提升了整体效率。
• 最终,该方法能够快速生成高质量的音视频角色内容。
🔗 arXiv · 🤗 HF
#音视频生成 #自回归模型 #角色生成 #高效生成 #双模训练
Talker-T2AV:基于自回归扩散模型的音视频联合说话人生成
Talker-T2AV: Joint Talking Audio-Video Generation with Autoregressive Diffusion Modeling
Zhen Ye, Xu Tan, Aoxiong Yin, Hongzhan Lin, Guangyan Zhang, 等 (+6)
⭐ 1
• 本文提出Talker-T2AV,一个创新的自回归扩散框架,专门用于生成高度逼真的说话人头像。
• 该框架的核心思想是将高层级的跨模态推理与低层级的模态特定精化过程进行有效解耦,以优化复杂生成任务。
• 这种模块化的设计允许系统在处理不同模态(如音频和视频)时,能更精细地协调它们之间的关系。
• 实验结果表明,Talker-T2AV显著提升了生成说话人头像的唇形同步准确性,使其与输入音频更加匹配。
• 此外,该方法还大幅增强了生成音视频内容间的跨模态一致性,确保了整体的自然流畅度。
🔗 arXiv · 🤗 HF
#说话人合成 #音视频生成 #扩散模型 #自回归模型 #多模态
Talker-T2AV: Joint Talking Audio-Video Generation with Autoregressive Diffusion Modeling
Zhen Ye, Xu Tan, Aoxiong Yin, Hongzhan Lin, Guangyan Zhang, 等 (+6)
⭐ 1
• 本文提出Talker-T2AV,一个创新的自回归扩散框架,专门用于生成高度逼真的说话人头像。
• 该框架的核心思想是将高层级的跨模态推理与低层级的模态特定精化过程进行有效解耦,以优化复杂生成任务。
• 这种模块化的设计允许系统在处理不同模态(如音频和视频)时,能更精细地协调它们之间的关系。
• 实验结果表明,Talker-T2AV显著提升了生成说话人头像的唇形同步准确性,使其与输入音频更加匹配。
• 此外,该方法还大幅增强了生成音视频内容间的跨模态一致性,确保了整体的自然流畅度。
🔗 arXiv · 🤗 HF
#说话人合成 #音视频生成 #扩散模型 #自回归模型 #多模态