AI研报解读：产品落地与构建者实战手册

ICONIQ Capital最新AI报告：从概念到规模化的实战路线图

先说几个核心判断：2025年的AI产品开发，正在从“炫技”走向“赚钱”。ICONIQ Capital最新发布的《The Builder’s Playbook》，聚焦的不是又一个宏大叙事，而是端到端实现构思、交付和规模化AI驱动产品的具体条件——换句话说，就是你手里的那份实操手册。

这份报告基于对300家软件公司高管（CEO、工程负责人、AI负责人、产品负责人）的调研，结合深度访谈，系统梳理了当前AI产品开发的核心趋势、挑战与实践。比起2024年的版本，2025年报告完全转向了“怎么干”，为所有试图把生成式智能从概念变成可靠收入来源的人，提供了一条清晰路径。

报告核心覆盖五大维度：产品路线图与架构、上市策略、人才团队、成本管理与投资回报率、内部生产力与运营。以下就沿着这份骨架，展开聊聊关键发现。

一、数据来源与方法论

数据来自2025年4月对300位北美和欧洲软件公司高管的调查。受访者中，32%属于AI原生型公司（核心产品或商业模式由AI驱动），31%是AI赋能型（为现有产品添加AI功能），37%则是通过创建新的非核心AI产品来探索相邻用例。这种分类为后续分析提供了基准。

AI成熟度：大多数SaaS公司已经逐步增加了新的AI功能和产品，接下来的内容将深入探讨AI赋能型和AI原生型公司如何开展产品开发。传统SaaS围绕核心业务流程构建订阅应用；AI原生型则把模型训练、推理和持续学习作为价值增长的基本驱动力；AI赋能型基本保留底层商业模式，但通过嵌入AI功能提升自动化与个性化。

二、生成式AI产品的构建

主要AI产品的阶段

鲜明对比是：约47%的AI原生型产品已达到关键规模并验证了市场契合度，而AI赋能型公司更多仍处在试验或早期集成阶段。这引发了一个核心问题：AI原生型组织是否在结构上更具优势——通过团队构成、基础设施或融资模式——能更有效地验证产品-市场契合度并实现规模化？或许他们跳过了AI赋能型公司在整合AI到现有工作流时必然经历的试错阶段。

AI产品类型

智能体工作流和应用层是两类公司最常构建的产品类型。尤其值得关注的是，约80%的AI原生型公司目前正在构建智能体工作流——这不再是实验，而是标配。

模型使用情况

大多数AI应用公司依赖第三方AI API，但收入超过1亿美元的后期公司中，开发专有模型的比例更高。高增长公司更倾向于微调现有基础模型或从头开发专有模型。

基础模型的首要考量因素

面向客户使用时，模型准确性是首要因素。但今年一个显著变化是：成本在关键采购考量中的排名大幅上升——这或许反映了DeepSeek等更高效模型出现后，模型层的商品化趋势正在加速。

顶级模型提供商

OpenAI的GPT模型仍然最受欢迎，但公司正在采用多模型方法来应对不同用例。受访者平均使用2.8个模型，根据用例、性能、成本和客户需求动态切换。架构设计已支持快速模型切换，开源模型在成本和推理速度上也有其优势。

模型训练技术

RAG和微调是最常见的技术，高增长公司倾向于使用更多种类的基于提示的技术。相比去年的报告，本年度有更高比例的受访者实际在部署这些技术，而非停留在实验阶段。

AI基础设施

大多数公司选择完全托管的AI解决方案——68%完全在云端运营，64%依赖外部AI API提供商——因为这种方式能最大程度减少前期资本支出和运营复杂性，同时加快上市速度。

模型部署挑战

幻觉、可解释性/信任度以及投资回报率的证明，是模型部署面临的主要挑战。

AI性能监控

随着AI产品规模化，性能监控变得更加重要。规模化产品通常提供更高级的监控能力。

智能体工作流

大量公司正在评估智能体工作流，高增长AI公司更积极地在生产环境中部署AI智能体。

三、上市策略与合规

AI产品路线图

对于AI赋能型公司，其产品路线图中约20-35%聚焦于AI驱动功能，高增长公司的这一比例接近30-45%。AI已经从小众附加功能，变成了一半左右的产品方向。

主要定价模型

混合定价模型成为主流：基于订阅的打包定价，叠加基于使用量或结果的费用。大多数AI赋能型SaaS供应商目前将AI视为差异化因素或追加销售钩子，而非独立的利润中心。把AI捆绑到高级套餐或免费提供，是快速推动采用和抵御对手的最直接方式；但预计未来几年这种模式会转变——随着公司开始收集AI使用和投资回报率的遥测数据，基于使用量的模型或许才是长期解药。

定价变化

40%的公司没有改变定价的计划，但37%的受访者正在探索基于消费、投资回报率和使用等级的新模型。

AI可解释性与透明度

规模化AI产品中，向客户提供详细的模型透明度报告或关于AI如何影响结果的基本见解，变得越来越关键。

AI合规与治理

大多数公司设有围绕AI伦理和治理政策的保障措施，人工介入监督是确保公平性和安全性的主要手段。

四、组织结构

专门的AI/ML领导层

许多公司在收入达到1亿美元时已配备专门的AI领导层——这是由于运营复杂性增加，需要一个集中负责人来制定AI战略。

AI特定角色

大多数公司目前拥有专门的AI/ML工程师、数据科学家和AI产品经理。其中AI/ML工程师的平均招聘时间最长，可见这类人才仍然稀缺。

招聘速度

受访者对招聘速度的看法相对平均。那些认为招聘不够快的，主要将缺乏合格候选人列为主要制约因素。

专注于AI的工程团队占比

平均计划让20-30%的工程团队专注于AI开发，高增长公司的这一比例更高。

五、AI成本

AI开发支出

公司将约10-20%的研发预算分配给AI开发，大多数公司计划在2025年增加AI支出。这不是收索，而是持续加码。

预算分配

随着AI产品规模化，人才成本在总支出中的占比趋于下降；相反，基础设施和计算成本会随产品获得市场认可而增加。这是从人力密集型向资本密集型转变的信号。

基础设施成本

受访者认为API使用费用是最难控制的成本——与外部API消耗相关的可变成本，给公司带来了最大的不确定性。

成本优化

为削减AI基础设施成本，组织正在探索开源模型和优化推理效率的方法。

模型训练

大多数受访者至少每月训练或微调一次模型。根据产品成熟度，估计每月模型训练成本在16万至150万美元之间。

部署成本：推理

推理成本在产品发布后激增。高增长AI公司在正式发布和规模化阶段的推理支出是同行的两倍。

部署成本：数据存储与处理

数据存储和处理成本从正式发布阶段开始急剧上升，高增长AI公司在这方面的支出也高于同行。

六、内部生产力

年度内部生产力预算

所有收入层级的内部AI生产力预算在2025年几乎翻倍，公司的支出占总收入的1-8%。

企业内部生产力预算来源

研发预算仍是主要来源，但人力资源预算也开始挤入这一领域。这意味着AI正在从工程部门的工具，变成全公司的基础设施。

AI获取与使用

约70%的员工可以使用各种AI工具提高内部生产力，但只有约50%持续使用。在成熟企业（收入10亿美元以上），采用率反而更难提升——大企业的免疫系统确实更强。

基础模型的首要考量因素：内部用例

成本是最重要的考量因素，其次是准确性和隐私性——内部部署更注重投资回报率的直接验证。

内部用例的模型部署挑战

组织在部署AI用于内部用例时，面临的最大挑战往往是战略性的——找到合适的用例和证明投资回报率，而非技术实现。

用例数量

公司通常跨多个职能部门探索生成式AI用例。员工采用率高的公司，会在7个以上的用例中使用生成式AI。

顶级用例

研发和销售与营销用例最受欢迎；财务、行政与人力资源用例相对滞后。而在实际影响方面，编码辅助远远超过其他用例——这一点从工具采用数据中也能印证。

对内部AI采用的态度

高增长公司更积极地试验和采用新的AI工具。领先者将AI视为战略杠杆，并更快地将其整合到内部工作流程中。

投资回报率追踪

大多数公司正在衡量内部AI使用带来的生产力提升和成本节约。不再是拍脑袋决策，而是开始用数据说话。

七、AI构建者技术栈【划重点】

模型训练与微调的最常用工具

PyTorch和TensorFlow仍占使用量的一半以上，但与托管平台几乎持平——AWS SageMaker和OpenAI微调服务的普及，表明团队在“自建”和“托管”之间摇摆。HuggingFace生态和Databricks的Mosaic AI训练占据重要位置，提供更高层次的抽象。后期公司（收入5亿美元以上）更倾向Databricks和AnyScale等企业级解决方案。

最广泛使用的工具（按字母顺序）：AWS SageMaker、Databricks、Hugging Face、OpenAI微调服务、PyTorch、TensorFlow。

大语言模型与AI应用开发的最常用工具

LangChain和Hugging Face工具集占据主导，约70%受访者还使用私有或自定义大语言模型API。约30%使用Guardrails执行安全检查，近25%利用Vercel的AI SDK进行快速部署。CrewAI、Modal Labs等新兴参与者使用率仍较低。

最广泛使用的工具（按字母顺序）：Guardrails、Hugging Face、LangChain、OpenAI API、Vercel AI SDK。

监控与可观测性的最常用工具

近一半团队依赖现有的APM/日志堆栈（Datadog、Honeycomb、New Relic等），而不是专用工具。LangSmith和Weights & Biases采用率均约17%，表明市场对交钥匙解决方案有真实需求。10%的受访者不知道他们用的是哪种工具——生成式AI的“可观测性”概念仍处于萌芽阶段。

最广泛使用的工具（按字母顺序）：Datadog、Honeycomb、LangSmith、New Relic、Weights & Biases。

推理优化的最常用工具

NVIDIA的TensorRT和Triton推理服务器合计采用率超60%。ONNX Runtime（18%）是顶级非NVIDIA解决方案，TorchServe（15%）也占一席之地。17%的受访者不知道他们使用哪种优化工具——推理调优明显存在知识盲区。

最广泛使用的工具（按字母顺序）：NVIDIA TensorRT、NVIDIA Triton、ONNX Runtime、TorchServe。

模型托管的最常用工具

直接通过OpenAI、Anthropic等提供商访问模型主机是主流。AWS Bedrock和Google Vertex AI占据相当份额，后期公司更倾向超大规模云厂商的解决方案。Fireworks、Modal、Together.ai等长尾参与者也在探索中。

最广泛使用的工具（按字母顺序）：Anthropic API、AWS Bedrock、Google Vertex AI、OpenAI API。

模型评估的最常用工具

近四分之一团队使用内置评估功能，20%受访者“不知道”用了什么工具——评估领域仍然分散。LangSmith和Langfuse在专用评估工具中领先，HumanLoop和Braintrust也有增长。部分团队选择自建评估管道。

最广泛使用的工具（按字母顺序）：Galileo、HumanLoop、Langfuse、LangSmith、Vertex AI、Weights & Biases。

数据处理与特征工程的最常用工具

Apache Spark（44%）和Kafka（42%）领跑，Pandas（41%）仍不可或缺。仅17%使用专用特征存储——大多数组织尚未在规模化层面将其投入运营。随着成熟度提高，特征存储的排名可能会上升。

最广泛使用的工具（按字母顺序）：Apache Kafka、Apache Spark、Pandas。

向量数据库的最常用工具

Elastic和Pinecone领先采用率。Redis显示出利用现有内存数据存储的优势，Chroma、Wea viate、Qdrant等开源工具正在削弱早期领导者地位，竞争激烈。

最广泛使用的工具（按字母顺序）：Elastic、Pinecone、Redis。

合成数据与数据增强的最常用工具

超过一半团队自建工具（52%），Scale AI是唯一的供应商领导者（21%）。Snorkel AI和Mostly AI等程序化框架正在增长，但远落后于自定义解决方案。

最广泛使用的工具（按字母顺序）：Scale AI。

编码辅助的最常用工具

GitHub Copilot被近四分之三开发团队使用，Curl（50%）紧随其后。长尾中，低代码/无代码方案如Retool、Lovable、Bolt也获得了一定关注。

最广泛使用的工具（按字母顺序）：Cursor、GitHub Copilot。

DevOps和MLOps的最常用工具

MLflow被36%受访者使用，Weights & Biases占20%。16%受访者“不知道”支持工具是什么——DevOps与MLOps的职责划分仍存在混淆。

最广泛使用的工具（按字母顺序）：MLflow、Weights & Biases。

产品与设计的最常用工具

Figma采用率达87%，Miro占37%。AI驱动产品线框图工具如Bolt、Lovable、Vercel V0正在兴起，但设计团队尚未迫切需要AI原生平台。

最广泛使用的工具（按字母顺序）：Figma、Miro。

这份报告的核心价值不在于数据堆砌，而在于它为不同阶段的AI构建者提供了可参照的坐标系：你在哪个阶段、该用什么工具、预算怎么分配、团队怎么搭、定价怎么定——它不再是理论推演，而是一份可以直接拿来用的操作手册。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：AI研报解读：产品落地与构建者实战手册要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题