模型监控
模型监控是指持续追踪机器学习模型在生产环境中的预测性能、数据分布、输出偏差等指标，及时预警模型退化或失效的过程，是MLOps和AI治理的核心环节。
一句话解释
模型监控就像给AI模型装上一套“智能体检仪”，持续监测它的预测是否准确、输入数据是否异常、输出是否公平，当模型变“老”或变“偏”时自动报警，让人工智能保持可靠运行。
为什么会被关注
随着AI渗透到贷款审批、疾病诊断等关键决策领域，模型一旦失效会带来巨大损失。许多训练时优秀的模型上线后因为数据分布变化、用户行为迁移，性能会悄悄下滑。模型监控能提前发现这些问题，避免“冷启动好、长期跑偏”的陷阱。
企业需要满足监管合规要求（如欧盟AI法案、金融业模型审计），也要求对模型行为有持续记录和解释。模型监控因此从可有可无的“附加功能”变成AI系统必备的安全组件。
核心逻辑
模型监控主要围绕三个维度：输入监控（数据是否漂移）、输出监控（预测分布是否突变）、性能监控（精度、召回等指标是否下降）。常用统计检验如PSI（群体稳定性指标）、KS检验来量化变化。
监控系统会设置阈值，当指标超过阈值时触发告警，提示模型需要重新训练或人工排查。高级监控还会结合因果分析，找出导致性能变化的根因，而不是简单“变差”就重训。
常见场景
在金融领域，风控模型要监控用户申请数据的分布是否因季节、政策而偏移，防止误拒或误批。推荐系统则关注用户点击率、物品曝光量是否异常下降，及时调整排序策略。
自动驾驶需要监控环境感知模型的置信度变化，避免雨天、隧道场景下识别失效。医疗影像诊断模型会持续追踪不同医院设备采集的图像质量差异，确保诊断一致性。
容易混淆的点
“模型监控”不等于“模型测试”。测试通常在离线阶段用历史数据评估，而监控是针对生产线上实时数据或流数据，关注的是在线表现与离线表现之间的差距。
“数据漂移”与“概念漂移”经常被混用。数据漂移指输入特征分布变化，概念漂移指输入-输出映射关系改变；监控需要同时覆盖二者，并理解不同类型会触发不同的应对策略（重采样vs重训练）。
本文内容用于 AI 热词解释和概念整理，仅供学习和理解参考。若涉及表述偏差或内容修正，欢迎联系站点进行更新。
相关热词MLOps（Machine Learning Operations）是将 DevOps 理念引入机器学习全生命周期的工程方法，涵盖数据管理、模型训练、部署、监控与持续迭代。它解决模型从实验到生产过程中的碎片化、难复现、易衰退等痛点，是企业规模化落地 AI 的关键基础设施。
可观测性（Observability）是一种通过收集和分析指标、日志、链路追踪等数据，让复杂系统的内部状态变得可查询、可理解的能力。它不仅是传统监控的升级，更是现代AI和分布式系统运维的基础。
模型审计是对AI模型（尤其是大语言模型）进行系统性检查的过程，旨在评估其安全性、公平性、隐私保护和合规性，类似软件测试但更关注不可解释的“黑箱”行为。