面包屑图标 当前位置: 首页
AI资讯
热点详情

NVIDIA推出生成式AI微服务,助力开发者在CUDA GPU创建部署AI助手

AI热点日报
AI热点日报时间:2026-06-28
热点解读

今日,NVIDIA正式推出数十项面向企业级场景的生成式AI微服务。对于企业用户而言,这标志着他们能够在自己所处的平台上自主创建和部署定制化应用,同时保有对知识产权的完全掌控——所有权与控制权均归属企业自身。 这一系列云原生微服务均基于NVIDIA CUDA平台构建,其中核心组件NVIDIA NIM微

今日,NVIDIA正式推出数十项面向企业级场景的生成式AI微服务。对于企业用户而言,这标志着他们能够在自己所处的平台上自主创建和部署定制化应用,同时保有对知识产权的完全掌控——所有权与控制权均归属企业自身。

NVIDIA推出生成式AI微服务,供开发者在CUDA GPU系统中创建部署生成式AI助手

这一系列云原生微服务均基于NVIDIA CUDA平台构建,其中核心组件NVIDIA NIM微服务专门针对NVIDIA及其合作伙伴生态中的20多款热门AI模型进行了推理性能优化。此外,用户还可以通过NVIDIA CUDA-X微服务获得一系列加速软件开发套件、库及工具,涵盖检索增强生成(RAG)、护栏机制、数据处理、高性能计算(HPC)等方向。值得一提的是,NVIDIA还特别推出了20余项专注于医疗领域的NIM与CUDA-X微服务。

这些微服务并非简单拼凑,而是为NVIDIA全栈计算平台增添了全新的一层,将模型开发者、平台提供商与企业紧密连接,通过标准化流程运行针对NVIDIA CUDA安装基础(例如云端、数据中心、工作站及个人电脑中数以亿计的GPU)进行优化的定制AI模型。

NVIDIA创始人兼首席执行官黄仁勋表示:“成熟的企业平台坐拥海量数据资产,这些数据能够转化为生成式AI助手。我们与合作伙伴生态系统共同构建的这些容器化AI微服务,正是各行业企业转型为AI公司的核心基石。”

NIM推理微服务:将部署周期从数周缩短至几分钟

NIM微服务提供了基于NVIDIA推理软件的预构建容器,内含Triton推理服务器TensorRT-LLM。借助这些容器,开发者部署AI应用的耗时可从数周迅速缩短至几分钟。

这些微服务为语言处理、语音识别、药物发现等多个领域提供行业标准API,开发者能够利用安全托管于自身基础设施中的专有数据,快速构建AI应用。同时,这些应用可按需扩展——在NVIDIA加速计算平台上运行生产级生成式AI,兼具灵活性与高性能。

面向RAG、数据处理、护栏与HPC的CUDA-X微服务

CUDA-X微服务提供从数据准备、模型定制到训练的全链路构建模块,助力各行各业加速实现生产级AI应用的落地。

为加速AI应用采纳,企业可借助CUDA-X微服务,例如用于定制语音与翻译AI的NVIDIA Riva、用于路径优化的NVIDIA cuOpt,以及用于高分辨率气候与天气模拟的NVIDIA Earth-2

生态系统:生成式AI微服务助力企业平台升级

不仅领先的应用提供商在采用这些微服务,NVIDIA生态系统中的数据、基础设施与计算平台提供商也纷纷使用它们,将生成式AI能力赋能给企业客户。

包括Box、Cloudera、Cohesity、Datastax、Dropbox和NetApp在内的顶级数据平台提供商,正借助NVIDIA微服务帮助客户优化RAG管道,将专有数据集成至生成式AI应用中。而Snowflake则利用NeMo Retriever充分挖掘企业数据价值,构建AI应用。

可用性

开发者可通过ai.nvidia.com免费体验这些NVIDIA微服务。对于希望在生产环境中部署的企业,可在NVIDIA认证系统以及主流云平台上,通过NVIDIA AI Enterprise 5.0使用NIM微服务,从而直接进入生产级部署环节。

热点追踪提示词
你是一名 AI 行业编辑,请围绕下面这条热点输出一份资讯解读:
热点:NVIDIA推出生成式AI微服务,助力开发者在CUDA GPU创建部署AI助手要求:
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
来源:https://m.elecfans.com/article/2546989.html
生成式AI

游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关热点
AI热点2026-07-07 15:23
行业震动:Meta被曝诱导竞品AI测试极端心理敏感话题

人工智能领域的安全边界近期因一则内部消息而引发激烈讨论。据媒体披露,Meta公司此前曾开展了一项代号为“Cannes”的项目,通过雇佣外包人员伪装成未成年人,针对包括ChatGPT、Gemini及Character AI在内的多个主流竞品聊天机器人,进行了一场极具争议的“极限压力测试”。根据Meta

AI热点2026-07-07 15:22
Character AI新手创建教程:从零开始搭建你的专属虚拟伴侣

本教程手把手指导用户完成Character AI账号注册、邮箱验证、角色创建、性格设置及头像上传发布全流程,每步对应真实界面按钮与操作反馈。 ☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜想在Character AI上创建一个只属于你的虚

AI热点2026-07-07 15:19
通义千问怎么写简历_通义千问简历优化提示词写法

通义千问生成专业简历的关键是提供清晰结构化提示词:明确目标岗位及JD要求、提交含时间 公司 角色 结果的个人素材、指令输出格式与STAR法则重构、设定语言避坑与数据校验规则。用通义千问生成一份专业、匹配岗位的简历,关键在于给出清晰、结构化、带上下文的提示词,而不是简单说“帮我写一份简历”。明确简历用

AI热点2026-07-07 15:19
通义千问怎么导出聊天记录_通义千问对话内容保存方法

最稳妥方式是通过网页端最新数据管理模块导出:登录正式→进入账户设置→「数据管理」→点击「导出我的对话记录」→勾选时间范围与关键词→提交申请→24小时内邮箱接收ZIP下载链接,解压后含index html预览页和record json原始数据,支持合规存档与跨设备迁移。你刚和通义千问完成一场关键的技术

延伸阅读