微软CEO纳德拉警告：企业花钱用的AI可能变成竞争对手

硅谷关于AI安全风险的讨论始终热度不减。然而，真正让AI支持者感到不安的，并非那些质疑声，而是担心大型AI实验室可能借助专有模型实施“特洛伊木马”式的策略。

简而言之，当初创企业和大型企业将敏感数据输入模型后，模型提供商可能逐步掌握客户的业务机密，甚至利用积累的知识拓展同类业务，最终与客户直接竞争。这绝非小事一桩。

当地时间12日，纳德拉在博客中直接指出了这一隐患。他警告称，企业在使用AI时实际上付出了双重代价：一次是明码标价的token费用，另一次则是在不知不觉中交出了极具价值的数据。“你实际上付了两次款，一次用金钱，另一次则用更珍贵的东西——即为了让AI真正发挥作用而必须披露的专有知识。你越希望模型表现得更好，就需要向模型提供更多核心知识！”

这番话听起来有些刺耳，但确实切中要害。企业为了让模型更贴合自身业务需求，实际上正在一步步将经营诀窍传授给模型。“模型会从‘使用痕迹’中学习，包括用户输入的提示词、智能体调用的工具，尤其是模型出错后用户给出的纠正反馈。每一次纠正最终都会转化为企业内部积累的经验。”竞争对手无论投入多少资金，都很难获得同样的经验，而企业却在使用模型的过程中主动将经验拱手相让。

因此，纳德拉主张，既然AI企业可以抓取互联网内容来训练模型，那么企业也有权反向研究并“蒸馏”AI企业的模型。所谓“模型蒸馏”，就是通过分析一个模型给出的答案，揭示其运行机制，进而训练出成本通常更低的新模型。

他的核心观点非常明确：模型提供商不能只允许自己利用别人的数据。模型提供商可以用全球数据训练模型，却禁止他人以类似方式研究其模型，这显然是双重标准。“模型提供商拥有合理使用公共数据训练模型的权利，由此带来的重大创新确实必要，但如今的做法却是反过来限制模型蒸馏，我认为这颇具讽刺意味。”纳德拉尤其警惕模型提供商在服务条款中“保留从客户使用数据和互动数据中学习的权利”。