DiffusionGemma 是一个实验性开源权重语言模型,通过离散扩散并行迭代精炼 256 个 token 的块,而非逐 token 解码,从而避免自回归模型的顺序解码瓶颈。
论文
·HuggingFace Daily Papers(社区热门论文)
DiffusionGemma 技术报告:基于离散扩散的高效文本生成模型
— DiffusionGemma Technical Report
— DiffusionGemma Technical Report