热启动

一句话解释

热启动是指AI模型在已有预训练权重或推理缓存的基础上启动，无需从头加载全部参数或重新计算，从而大幅缩短初始化时间。

为什么会被关注

随着大模型规模增长，冷启动（从零加载完整参数）耗时可达数分钟甚至更长，严重影响用户体验和线上服务可用性。热启动能节省80%以上的启动时间，在多模型切换、容灾恢复等场景中至关重要。

尤其在自动驾驶、实时翻译等低延迟任务中，热启动让模型在极短时间内恢复推理状态，避免因启动卡顿导致服务中断或安全风险。

核心逻辑

热启动的核心是复用已有状态，包括模型权重副本、KV缓存（键值对缓存）、计算图编译结果等。当模型服务重启或切换版本时，直接从内存或本地磁盘加载这些状态，而非通过API重新下载或从零构建。

对于微调场景，热启动意味着用预训练好的权重作为起点，仅更新下游任务参数，避免从头训练导致的数据量过大和收敛缓慢。这本质上是一种迁移学习的实践。

常见场景

大模型的在线推理：当服务因更新或故障需要重启时，热启动能快速恢复对话、生成等能力。例如，大语言模型服务上线时提前加载参数到显存，用户请求到来时直接推理。

模型微调工作流：在迁移学习或 domain adaptation 中，热启动通过加载基座模型权重，使下游任务只需少量训练数据即可快速收敛，常见于自然语言处理（NLP）和计算机视觉（CV）任务。

多模型架构：在集成学习或知识蒸馏过程中，多个子模型共享部分权重，热启动可让后续模型基于前序模型状态启动，减少重复计算。

容易混淆的点

热启动≠缓存预热：缓存预热通常指提前构建查询结果或特征缓存，而热启动更侧重模型参数和内部状态的恢复，二者有重叠但侧重点不同。

热启动≠增量学习：增量学习强调模型持续吸收新数据并更新参数，而热启动只是利用已有状态加速启动，不改变模型本身的训练机制。

热启动≠冷启动：冷启动是从随机初始化或完全空白状态开始，耗时较长；热启动则依赖已有基础，两者在启动时间、资源占用和效果稳定性上有本质差异。