The Design Space of Tri-Modal Masked Diffusion Models
离散扩散模型作为自回归语言模型的有力替代方案,近期工作从文本、图像-文本和音频-文本数据中零初始化并微调基础单模态模型,实现多模态生成。与以往方法不同,我们首次提出三模态掩码扩散模型(MDM),并系统分析多模态缩放规律、模态混合比例、噪声调度、批大小效应,提供优化的推理采样默认值。批大小分析得出新颖的随机微分方程(SDE)...
推荐理由:请对照Apple Machine Learning Research原文,核对完整说明及适用条件。