微软Azure AI上线GPT-4o mini 成本更低速度更快

OpenAI 刚刚正式宣布，全新旗舰级模型 GPT-4o mini 已全面登陆 Azure AI 平台。现阶段率先开放文本处理能力，图像、音频与视频功能将在后续版本中逐步支持。对于开发者而言，这无疑是一项重大利好——毕竟，成本更低、响应更快的智能模型，谁不期待呢？

先来看硬核指标。GPT-4o mini 在大规模多任务语言理解（MMLU）测试中取得了 82% 的分数，而上一代 GPT-3.5 Turbo 仅为 70%。不仅智能水平显著提升，价格反而降低了 60% 以上。这相当于用更少的预算，请到了更出色的助手。该模型还支持 128K 的扩展上下文窗口，并继承了 GPT-4o 改进后的多语言处理能力。如果你迫不及待想体验，Azure OpenAI Studio 的 Playground 已开放免费试用。

微软在 Azure AI 上为 GPT-4o mini 内置了默认安全机制，同时扩展了数据驻留管控与服务可用性。在实际使用中，尤其是在助手、代码解释器以及检索等流式处理场景下，性能和功能表现更为出色。换句话说，那些对实时性要求较高的应用，终于拥有了更趁手的工具。

值得关注的是，Azure AI 此次为 GPT-4o mini 推出了全球随用随付的计费模式，并提供了最高吞吐量限制。客户按实际消耗的资源付费，流量在全球范围内路由以保障更高的吞吐量，同时数据存储位置可静态控制。这个全球随用随付部署选项，每分钟可提供 1500 万个 token（TPM）的吞吐量，并承诺 99.99% 的可用性——与 OpenAI 自身的行业速率保持一致。

GPT-4o mini 本月还将登陆 Azure AI 的 Batch 服务。Batch 利用非高峰容量，以 50% 的折扣在 24 小时内交付高吞吐量作业。这种模式只有微软能在 Azure AI 上实现，因为他们有能力将非高峰容量让利给客户。对于预算敏感且需要大批量推理的场景来说，这简直是福音。

更值得期待的是，本月微软 Azure AI 还将推出 GPT-4o mini 的微调功能。客户可以根据自身具体的用例和场景，进一步定制模型。继上个月改为基于 token 的培训计费之后，微软将托管费用降低了 43%。再加上模型本身低廉的推理价格，Azure OpenAI 服务的微调部署，对于生产工作负载的客户而言，性价比已经达到了最高水平。