Co-Director:智能体驱动的生成式视频故事创作
Co-Director: Agentic Generative Video Storytelling
Yale Song, Yiwen Song, Nick Losier, Nathan Hodson, Ye Jin, 等 (+11)
⭐ 15
• Co-Director提出一个创新的分层多智能体框架,将视频故事创作视为一个复杂的全局优化挑战。
• 该框架巧妙地结合了多臂老虎机算法,以高效探索并决策最佳的叙事路径。
• 引入强大的多模态自优化机制,确保故事内容在视觉和文本维度上都保持高水平的语义一致性与连贯性。
• 实验结果表明,Co-Director显著提升了生成式视频故事的质量,并在语义连贯性方面超越了现有方法。
🔗 arXiv · 🤗 HF
#视频叙事 #多智能体 #故事生成 #多臂老虎机 #多模态
Co-Director: Agentic Generative Video Storytelling
Yale Song, Yiwen Song, Nick Losier, Nathan Hodson, Ye Jin, 等 (+11)
⭐ 15
• Co-Director提出一个创新的分层多智能体框架,将视频故事创作视为一个复杂的全局优化挑战。
• 该框架巧妙地结合了多臂老虎机算法,以高效探索并决策最佳的叙事路径。
• 引入强大的多模态自优化机制,确保故事内容在视觉和文本维度上都保持高水平的语义一致性与连贯性。
• 实验结果表明,Co-Director显著提升了生成式视频故事的质量,并在语义连贯性方面超越了现有方法。
🔗 arXiv · 🤗 HF
#视频叙事 #多智能体 #故事生成 #多臂老虎机 #多模态
UniVidX:扩散先验驱动的统一多模态通用视频生成框架
UniVidX: A Unified Multimodal Framework for Versatile Video Generation via Diffusion Priors
Houyuan Chen, Hong Li, Xianghao Kong, Tianrui Zhu, Shaocong Xu, 等 (+6)
⭐ 63
• UniVidX是一个创新的统一多模态框架,旨在利用视频扩散模型先验实现多样化和多功能的视频生成。
• 该框架引入了随机条件掩码机制,以增强模型对不同输入条件的适应性,提升生成视频的多样性。
• 采用了独特的解耦门控LoRA(低秩适应)技术,有效管理并优化了多模态信息的整合与处理。
• 通过创新的跨模态自注意力机制,UniVidX能够深入理解并融合文本、图像等多种模态信息,从而生成高质量视频。
🔗 arXiv · 🤗 HF
#视频生成 #扩散模型 #多模态 #统一框架
UniVidX: A Unified Multimodal Framework for Versatile Video Generation via Diffusion Priors
Houyuan Chen, Hong Li, Xianghao Kong, Tianrui Zhu, Shaocong Xu, 等 (+6)
⭐ 63
• UniVidX是一个创新的统一多模态框架,旨在利用视频扩散模型先验实现多样化和多功能的视频生成。
• 该框架引入了随机条件掩码机制,以增强模型对不同输入条件的适应性,提升生成视频的多样性。
• 采用了独特的解耦门控LoRA(低秩适应)技术,有效管理并优化了多模态信息的整合与处理。
• 通过创新的跨模态自注意力机制,UniVidX能够深入理解并融合文本、图像等多种模态信息,从而生成高质量视频。
🔗 arXiv · 🤗 HF
#视频生成 #扩散模型 #多模态 #统一框架
❤1
运动感知缓存:高效自回归视频生成框架
Motion-Aware Caching for Efficient Autoregressive Video Generation
Jing Xu, Yuexiao Ma, Songwei Liu, Xuzhe Zheng, Shiwei Liu, 等 (+5)
• 本文介绍了一种名为MotionCache的运动感知缓存框架,旨在大幅提升自回归视频生成的效率。
• 该框架的核心在于其运动感知缓存机制,能根据视频内容的像素级运动特性进行智能判断。
• MotionCache通过动态调整去噪过程中的步长频率,避免对静态区域进行不必要的计算。
• 实验结果表明,该方法在保持高质量视频输出的同时,实现了显著的生成速度提升。
🔗 arXiv · 🤗 HF
#视频生成 #自回归模型 #效率优化 #运动感知 #缓存 #扩散模型
Motion-Aware Caching for Efficient Autoregressive Video Generation
Jing Xu, Yuexiao Ma, Songwei Liu, Xuzhe Zheng, Shiwei Liu, 等 (+5)
• 本文介绍了一种名为MotionCache的运动感知缓存框架,旨在大幅提升自回归视频生成的效率。
• 该框架的核心在于其运动感知缓存机制,能根据视频内容的像素级运动特性进行智能判断。
• MotionCache通过动态调整去噪过程中的步长频率,避免对静态区域进行不必要的计算。
• 实验结果表明,该方法在保持高质量视频输出的同时,实现了显著的生成速度提升。
🔗 arXiv · 🤗 HF
#视频生成 #自回归模型 #效率优化 #运动感知 #缓存 #扩散模型