Apple Machine Learning Research·· 18 小时前精选评分83
The Design Space of Tri-Modal Masked Diffusion Models
摘要
离散扩散模型作为自回归语言模型的有力替代方案,近期工作从文本、图像-文本和音频-文本数据中零初始化并微调基础单模态模型,实现多模态生成。与以往方法不同,我们首次提出三模态掩码扩散模型(MDM),并系统分析多模态缩放规律、模态混合比例、噪声调度、批大小效应,提供优化的推理采样默认值。批大小分析得出新颖的随机微分方程(SDE)...
推荐理由
请对照Apple Machine Learning Research原文,核对完整说明及适用条件。
本站只提供摘要与原文入口。完整内容请阅读原文。
来源:Apple Machine Learning Research · machinelearning.apple.com