广发证券:AI上游基础设施价值提升,关注产业链核心标的
智通财经APP获悉,广发证券近日发布研究报告指出,AI的记忆能力已成为实现上下文连续性、个性化体验及历史信息复用的核心技术支柱。通过不断扩展模型的能力边界,有望加速推动AI智能体等应用场景的落地进程。AI记忆的价值正从一项“成本项”转变为“资产项”,其上游基础设施的价值量与重要性将持续提升。建议关注产业链中核心受益的相关标的。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈
广发证券的主要观点如下:
英伟达推出AI推理上下文存储平台ICMS
随着用户多轮对话与智能体持续运行带来的KVCache数据不断累积,系统对需长期留存并可随时调取的分层缓存数据产生了刚性需求,推动了上下文数据从HBM存储向DRAM、SSD等分层介质迁移。为此,英伟达推出了上下文记忆存储架构ICMS,面向智能体与多轮推理场景提供“长期上下文记忆层”。该架构一方面能够承载更大规模的KVCache,另一方面能以低延迟将历史对话中的KVCache数据回溯到多个GPU节点,以支持多轮次推理会话。其KV访问模式呈现出类似TFT约束下的高并发、高吞吐随机读取特征。
ICMS平台对SSD使用效果显著
在经济性与扩展性方面,SSD的单位成本显著低于GPU内存,且可按TB、PB级容量灵活扩展,是承载长期上下文数据的天然介质。在可行性方面,据相关行业报告分析,ICMS引入PB级存储层后,其访问延迟仅略高于缓存化的DRAM。在实证方面,WEKA对其增强型内存网格解决方案(AMG)进行了性能评估。AMG是一种与英伟达ICMS兼容的上下文存储方案。测试在解码阶段模拟了持续扩张的用户场景池:初期用户池较小时,KVCache基本驻留在GPU的HBM内,三种方案均能维持较高的Token吞吐量;但随着用户数持续增长,KVCache会外溢至更低层级的内存或存储介质,此时Token吞吐量开始下降。然而,WEKA AMG凭借更高的容量、更强的网络与高并发随机访问能力,能够更快地完成上下文数据的预取与回填,有效减少冷启动与阻塞现象,从而在用户池显著扩大后,仍能保持更高且更稳定的Token吞吐性能。相比其他两种传统方案,其吞吐量提升最高可达4倍,验证了ICMS架构能够有效承接长期上下文并维持系统吞吐稳定性。
ICMS平台打开存储市场空间
参考行业数据,该行对上下文存储空间需求进行了测算。单个Token所需存储空间约为504KB。若每个用户的上下文窗口为64000 Tokens,则对应存储需求约为30GB。考虑到提升用户体验,假设留存倍数为15倍。在上述假设下,支持10万规模用户/智能体的总存储需求约为45PB。这意味着,若要在具备强大对话历史记忆能力的大上下文模型上稳定支持10万量级的并发用户或智能体,所需的上下文存储规模将达到PB级别。
风险提示
AI产业发展以及市场需求不及预期;AI服务器出货量不及预期;国产厂商技术和产品进展不及预期。
游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。
同类文章
微软 Surface Go 3 获推固件更新:增强 Wi-Fi 信号稳定性、改进指南针方向等
微软 Surface Go 3 迎来重要固件更新:全面优化 Wi-Fi 与罗盘性能 近日,微软为其便携设备 Surface Go 3 发布了新一轮固件升级。此次更新聚焦于提升设备的基础使用体验,针对性优化了无线网络连接的稳定性与设备内置电子罗盘的指向精度。同时,更新包还修复了一个涉及英特尔组件的已知
低至 509 元租房也划算:小米 Redmi A32 智能电视买贵双倍赔,可取消开屏广告
509元起租房神器:小米Redmi A32智能电视开机广告可关,买贵赔双倍 对于租房党或小户型用户来说,为临时住所或小空间添置电视机,常常面临预算有限与体验不佳的矛盾。然而,近期市场上出现了一款兼具性价比与实用性的选择——2025款小米Redmi A32智能电视。这款32英寸的小米电视机型,日常售价
vivo X300 Ultra 摄影师套装图赏:用专业相机思路打造的“专业 V 单”
vivo X300 Ultra 摄影师套装深度体验:赋予手机专业相机的灵魂与操控 北京时间3月30日晚19点,vivo年度影像旗舰——被誉为“超能小V单”的X300s与定位“专业V单”的X300 Ultra正式发布。在X300s之外,我们更在发布会前夕,抢先深度体验了这款追求极致的专业影像设备。本文
OPPO K15 Pro系列无缘16GB 产品经理直呼太贵
OPPO K15 Pro系列4月1日发布:存储配置引热议 OPPO官方已正式宣布,K15 Pro系列新品将于4月1日正式发布。值得注意的是,尽管尚未正式亮相,该系列的两款新机目前已在OPPO官方商城开放预约。然而,官网配置信息揭示了一个值得关注的现象:全系列目前仅提供12GB运行内存(RAM)版本,
荣耀MagicBook 14/16及Pro系列笔记本正式开启预约
荣耀MagicBook新品矩阵正式发布,两大产品线精准锁定办公与专业用户群 荣耀MagicBook 2024年全新产品线现已全面启动预售。全新的MagicBook 14 16系列以及定位更高的MagicBook Pro 14 16系列,已在京东、天猫旗舰店及荣耀官方商城同步开启预约通道。即刻参与预约
- 日榜
- 周榜
- 月榜
相关攻略
2015-03-10 11:25
2015-03-10 11:05
2021-08-04 13:30
2015-03-10 11:22
2015-03-10 12:39
2022-05-16 18:57
2025-05-23 13:43
2025-05-23 14:01
热门教程
- 游戏攻略
- 安卓教程
- 苹果教程
- 电脑教程

