AI大模型推动存储需求爆发
创始人
2025-10-15 13:45:06
0

据闪德资讯获悉,AI大语言模型的推理应用全面扩张,全球存储器市场正进入前所未有的爆发阶段。

报告显示,以OpenAI的GPT-5模型为例,推理过程对HBM、DRAM和NAND产生的需求,将足以推动一波存储器超级周期。

AI应用正从训练阶段向推理阶段转变,改变了存储器的使用结构。

AI服务器通常采用三层存储器架构,HBM直接集成在GPU封装内部,主要负责实时高速的数据交换。

DRAM承担模型加载、临时存储及缓存扩展的任务。

NAND Flash主要用于模型权重加载、键值(KV)缓存溢出处理及检索式生成查询。

报告强调,AI推理过程中,对存储器的高带宽和大容量形成了双重压力。

按照全球用户每秒共生成2400万个tokens计算,仅GPT-5的需求,就相当于全球DRAM供应量25%、NAND供应量22%。

若2026年tokens生成量进一步翻倍,需求占比将分别提升至43%和39%,意味着AI推理产生的流量,足以消化全球存储器的新增产能。

受推理大模型推动,存储器需求年增长率超过100%,市场会出现明显的供需缺口。

闪德资讯,一个聚焦关注存储产业供应链和趋势变化的垂直媒体。

相关内容

最新资讯

一快递驿站:取件未出库者,罚款... 日前,四川一高校菜鸟驿站对取件未出库者罚款100元的事件引发关注。 据悉,该高校内菜鸟驿站温馨提示称...
创业板指全天大涨2.4%,重回... 截至收盘,创业板指数上涨2.4%,创业板成长指数上涨2.3%,创业板中盘200指数上涨1.9%,创业...
新任云南省委常委赵月霞出任省委... 据微信公众号“云南发布”消息,10月15日下午,省委组织部召开干部大会,省委书记王宁主持会议并宣读中...
签约秒递交?别被速度迷惑,英国... “我们当天签约、当天递交!”——这样的宣传语在留学圈并不少见,看似高效率,其实暗藏隐患。申请速度确实...
谭松韵仙侠剧《逍遥》央视播出,... 在各个年龄圈层的女演员里,总有那么一个平时不显山不露水,一出手就是爆款剧!这就比如说是85花里的赵丽...
老城镇中心校组织开展“班主任讲... 为全面提升班主任队伍的专业素养和管理能力,推动班级建设高质量发展,10月15日,老城镇中心校组织开展...
《一笑随歌》原来慕容曜所谓的背... 忠肝义胆的贤臣,戎马一生的将军,却养出了一个叛国谋反的儿子。但令人难过的是,无论慕容仲对儿子有多失望...
史上最大规模,美司法部没收柬埔... 拥有英国和柬埔寨双重国籍的商业巨头、“太子集团”创始人陈志,因涉嫌策划一场涉及强迫劳动的跨国“杀猪盘...
冷空气将带来换季式降温 北方寒... 今天一大早,“下雪”就冲上了微博热搜榜第一,大家都被纷纷扬扬的雪花迷住了。 实况监测显示,今天新疆天...
AI手机混战,为什么最先跑出来... 点开任意一场手机发布会,走进任意一个手机卖场,你都很难不注意到「AI」这两个字母的存在感。从智能修图...