2023/11/14

12:37【输出速度约是H100两倍！英伟达推出H200，明年二季度出货】芯片巨头英伟达在2023年全球超算大会（SC2023）上推出了一款最新的AI芯片H200，用于AI大模型的训练。H200是英伟达H100人工智能芯片的升级版，与H100都是基于英伟达的Hopper架构。H200的关键升级包括141GB的下一代HBM3内存，更多的内存有助于AI大模型实现推理功能，可执行包括生成文本、图像或预测的任务。

英伟达称，H200将与H100兼容，这意味着已经使用先前模型进行训练的AI公司将无需更改其服务器系统或软件即可使用新版本。而基于Meta的Llama 2大模型的测试表明，H200的输出速度大约是H100的两倍。H200预计将于2024年第二季度出货。AMD此前推出一款MI300X GPU，目标是与H100的下一代产品竞争。MI300X较其上一代产品拥有更多内存。