英伟达宣布新一代AI解决器H200 性能较H100提升60%至90% （）11月14日 音讯:昨日晚间

（）11月14日 音讯:昨日晚间，英伟英伟达Nvidia 推出了 H200
 ，达宣代这是布新一款专为训练和部署天生式野生智能模子的图形解决单元（GPU） 。

它鉴于 NVIDIA Hopper 架构，解决器烟台国际出国劳务公司怎么样拥有先进的升至内存和解决威力，可解决海量的英伟出国劳务咨询电话数据用于天生式 AI 和高性能算计职责负载 。H200是达宣代第一款拥有 HBM3e 内存的 GPU，提供了141GB 的布新内存和4.8TB/s 的内存带宽，险些是解决器 NVIDIA H100Tensor Core GPU 容量的两倍 ，内存带宽也增长了1.4倍 。升至

在 AI 畛域，英伟营业需要运用庞大语言模子来知足种种推理需要。达宣代H200在解决相似 Llama2这样的日本打工布新韩国出国劳务咨询庞大语言模子时 ，相比 H100GPU 的解决器推理速率提升了2倍。看待高性能算计运用 ，升至内存带宽看待提升数据传输速率 、增加解决瓶颈至关主要。H200的更高内存带宽确保高效地走访和支配数据，使得与 CPU 相比，解决时刻快了110倍
。

另外，H200的能效和总拥有利润也有所下降
。这项前沿手艺不只提供了卓著的性能
，而且功耗与 H100相同 。

展望 H200将在2024年第二季度最先发货 。

Nvidia 意味，H200将兼容 H100
，这意味着已经在运用先前模子停止训练的野生智能公司无需修改其效劳器系统或软件就可运用新版本 。