高通发布 AI200 和 AI250 人工智能芯片挑战英伟达,股价涨超 20%
创始人
2025-10-27 23:14:02
0

IT之家 10 月 27 日消息,高通公司今日发布其新一代数据中心 AI 推理优化解决方案:基于高通 AI200 和 AI250 芯片的加速卡和机架

高通 AI200 推出一款专为机架级 AI 推理设计的解决方案,旨在提供低拥有总成本(TCO)和优化的性能,用于大型语言和多模态模型(LLM、LMM)推理和其他 AI 工作负载。每张卡支持 768GB 的 LPDDR 内存,以实现更高的内存容量和更低的成本。

高通 AI250 解决方案将采用基于近内存计算(near-memory computing)的创新内存架构,通过提供超过 10 倍的内存带宽提升和降低功耗,为 AI 推理工作负载带来更高的效率与性能。

这两种机架解决方案均采用直接液冷技术以提高散热效率,支持 PCIe 扩展、以太网扩展、机密计算以保障 AI 工作负载安全,以及 160 kW 的机架级功耗。

高通的超大规模 AI 软件栈,从应用层到系统软件层覆盖端到端,专为 AI 推理进行了优化。该栈支持领先的机器学习(ML)框架、推理引擎、生成式 AI 框架,以及 LLM / LMM 推理优化技术(如解耦合服务)。开发者可借助高通技术的 Efficient Transformers Library 和高通 AI 推理套件,实现模型的平滑上载和 Hugging Face 模型的一键部署。高通的软件提供即用型 AI 应用和代理、全面的工具、库、API 和服务,用于 AI 的运营。

高通 AI200 和 AI250 预计分别于 2026 年和 2027 年商用

截至IT之家发文,高通公司股价大涨 20%。

相关内容

最新资讯

“十五五”规划建议:继续划转国... 财联社10月28日电,中共中央关于制定国民经济和社会发展第十五个五年规划的建议发布。其中指出,健全社...
“十五五”规划建议:推动量子科... 财联社10月28日电,中共中央关于制定国民经济和社会发展第十五个五年规划的建议发布。其中指出,培育壮...
禾元生物登陆科创板,湖北A股上... 禾元生物登陆科创板湖北日报讯(记者刘洁、通讯员王琼、田瑶林)10月28日上午,武汉禾元生物科技股份有...
专升本机构的选择对考试成绩有多... “身边报班的同学都上岸了,我要不要也跟风?”“自学半年没头绪,是不是选个机构就能救?”每年专升本备考...
“十五五”规划建议:推进人民币... 财联社10月28日电,中共中央关于制定国民经济和社会发展第十五个五年规划的建议发布。其中指出,积极扩...
“十五五”规划建议:全面实施“... 财联社10月28日电,中共中央关于制定国民经济和社会发展第十五个五年规划的建议发布。其中指出,深入推...
四川自考最小考生仅9岁,考试院... 10月28日,网友发帖称,在2025年下半年四川省高等教育自学考试中,最年轻的考生仅9岁,最年长的高...
今日油价下调! 记者27日从国家发展改革委了解到,受国际油价下跌影响,国内汽、柴油价格10月28日0时下调,每吨分别...
教育厅公示,宝鸡文理学院更名陕... 10月28日,陕西省教育厅发布关于拟申报高等学校设置事项的公示。根据《中华人民共和国高等教育法》《普...
真佩服这位老师的好心态!一节数... 上周五,我有幸走进了一所农村中学,聆听了一节数学课。当踏入那间略显陈旧的教室时,眼前的景象让我心中微...