AI热词解释列表,浏览热门 AI 名词解释、使用场景和相关概念延伸内容

面包屑图标 当前位置: 首页
AI热词解释

AI 热词解释

输入一个 AI 名词,快速查看通俗解释和相关概念。

Speculative Decoding(投机解码)是一种加速大语言模型推理的采样方法。它利用一个轻量级的草稿模型快速生成多个候选 token,再用目标模型并行验证这些候选,从而减少目标模型的串行调用次数。该方法无需修改模型结构或重新训练,即可在不改变生成分布的前提下实现 2-3 倍的加速,尤其适合对延迟敏感的实时对话和推理场景。

最新解释

正在生成解释

正在处理 AI 热词,请稍候...