审计AI推理
“审计AI推理”指的是对AI模型从输入到输出的推理过程进行系统化检查与验证，确保其决策逻辑符合伦理、法律和业务要求。它融合了可解释性技术和传统审计方法，是AI治理的关键环节。
一句话解释
“审计AI推理”就是像审计财务账本一样，对AI模型在给出结果时的思考链条进行复查——看它用了哪些特征、遵循了什么规则、有没有偏见或逻辑漏洞。
为什么会被关注
随着AI深入医疗、金融、司法等高风险领域，模型一旦决策出错，后果严重。监管机构要求企业对AI决策负责，但黑箱模型难以自证清白。审计AI推理能提供可追溯的证据链，帮助企业通过合规审查、降低法律风险，同时赢得用户信任。
核心逻辑
审计AI推理不是事后随机抽查，而是围绕三个层次展开：第一层是功能审计，验证模型是否按预期计算；第二层是行为审计，用测试用例观察模型在不同输入下的响应，寻找异常偏移；第三层是可解释性审计，借助LIME、SHAP等工具生成局部解释，核对推理依据是否合理。
常见场景
银行使用信用评分模型时，审计师需要确认“收入低”是否被机构过度惩罚，避免歧视。医疗影像诊断系统中，审计者会模拟不同病变程度的输入，看模型推理是否稳定且符合临床逻辑。此外，大语言模型的内容审核也需审计推理是否被恶意提示绕过。
容易混淆的点
很多人把“审计AI推理”等同于“模型评估”。模型评估侧重性能指标（准确率、召回率），而审计推理关注决策过程的透明性和合规性。另外，它也不是“数据审计”——数据审计检查训练样本质量，推理审计则聚焦模型在推理时的逻辑链路。
本文内容用于 AI 热词解释和概念整理，仅供学习和理解参考。若涉及表述偏差或内容修正，欢迎联系站点进行更新。
相关热词AI合规是指人工智能系统在开发、部署和使用中遵守法律法规、伦理准则与行业标准，涉及数据隐私、算法公平、透明度与责任归属。本文用通俗语言解释其核心逻辑、受关注原因、常见场景及易混淆点。
AI审计是指利用机器学习、自然语言处理等技术，辅助或替代传统人工完成数据采集、异常识别、风险评估等审计工作的新模式。它通过自动化分析海量交易数据，大幅提升审计覆盖面与准确性，正在成为企业合规与财务监管的核心工具。
AI监管指政府、行业组织和社会为规范人工智能研发与应用而制定的法律、伦理准则和技术标准。它覆盖数据安全、算法透明度、责任归属等关键议题，旨在平衡技术创新与社会风险。当前欧盟《人工智能法案》、中国《生成式人工智能服务管理暂行办法》等法规已落地，全球监管格局正加速形成。
可解释AI是指一系列使机器学习模型的输出和内部机制变得可理解的方法。它帮助用户、开发者和监管者看清AI为何做出某个决策，从而建立信任、诊断错误并满足合规要求。
模型审计是对AI模型（尤其是大语言模型）进行系统性检查的过程，旨在评估其安全性、公平性、隐私保护和合规性，类似软件测试但更关注不可解释的“黑箱”行为。