消息称英伟达 H200 芯片 2024Q3 大规模交付,B100 明年上半年出货

zz17361

时间 2024年7月3日 预览 0

转载:https://ai.zol.com.cn/881/8815493.html

2024-07-03 17:44:56·[??中关村在线 原创??]·作者:一便士的月亮

据台湾《工商时报》报道,英伟达的H200上流芯片在今年二季度下旬进入量产期,并预计将在三季度开始大规模交付。此前,黄仁勋亲自出席了旧金山的一场研讨会,共同宣布交付第一台Nvidia DGX H200。

H200是H100的升级产品,基于Hopper架构,并首次采用了HBM3e高带宽内存技术,实现了更快的数据传输速度和更大的内存容量,在处理大型语言模型应用时表现出显著优势。根据英伟达官方发布的数据,在处理像Meta公司Llama2这样的复杂大语言模型时,H200相较于H100在生成式AI输出响应速度上的最高提升达到了45%。

目前,待出货的客户端订单仍多集中于HGx架构的H100,而采用配货制销售方式的H200销量有限。由于其采用液冷散热技术,因此各家终端系统合作伙伴在出货主力GPU方面仍然倾向于使用更高性能、更高效的H100 GPU,而不是采用价格更高的H200。

此外,消息人士还透露,B100将于明年上半年出货。英伟达CEO黄仁勋曾表示,从B100开始,未来所有产品的散热技术都将由风冷转为液冷。考虑到B100的TDP可能达到900W,传统的风冷散热技术已经无法满足芯片在工作过程中对散热的需求,因此全面向液冷技术革新是必然趋势。

本文属于原创文章,如若转载,请注明来源:消息称英伟达 H200 芯片 2024Q3 大规模交付,B100 明年上半年出货https://ai.zol.com.cn/881/8815493.html

Copyright2023小老板科技