锐知 - 全球认知雷达扩散模型为什么可能赢下AI推理：并行、速度与Inception的赌注
自回归推理必须逐词元生成，频繁搬运权重而计算量小，对GPU不友好。扩散推理同时处理多个词元，负载更接近训练时的并行模式。关注推理成本、测试时扩展和强化学习 rollout 效率时，可优先评估并行架构，是否真正省钱省卡需实测验证。
从图像去噪到语言扩散 他是斯坦福长期教授，现为Inception联合创始人兼首席执行官。2014年到斯坦福任助理教授时，他一直做生成模型。当时这还是冷门方向，能生成手写数字的粗糙图像已算成功，发表论文还要解释成先从无标注数据学特征，再帮助监督学习。他更看重世界模型的直觉：人能在心里预演站起来走出门会发生什么，这种预测和决策需要生成能力，但他也没预料到后来大语言模型的能力进展如此之快。 早期图像生成经历了自回归模型的缓慢模糊，再到变分自编码器，随后是生成对抗网络。后者可用但训练
来源：youtube 原始内容