盟!英特推新Gaudi 3架伺服器 用小型、精密型AI模型
根外媒的消息,英特(Intel)推出一款全新的Gaudi 3架伺服器,用自家Gaudi 3 AI晶片(NVIDIA)的Blackwell B200 GPU,整合在同一架中售。
根外媒的消息,英特(Intel)推出一款全新的Gaudi 3架伺服器,用自家Gaudi 3 AI晶片(NVIDIA)的Blackwell B200 GPU,整合在同一架中售。
[caption id="attachment_196010" align="aligncenter" width="2184"]
英特Gaudi 3架伺服器性能解析介。(/SemiAnalysis)[/caption]
英特Gaudi 3攻解,B200前填算
Blackwell B200 GPU由於具高效能特性,最合理算需求更密集的「前填」(Prefill)算段,特是在全容(Full Context)下行大模矩乘法算。
Gaudi 3 AI晶片被定位理後「」(Decode)部分的算引擎,利用在和乙太路中心的向展(Scale-Out)方面的。,架模的合在理小型、高密集AI模型,填充效能比用B200的基配置快上1.7倍,但尚未第三方。做法英特得以Gaudi平台作生系中的高性比解引擎行捆售,有效地其商化。
英特Gaudi AI平台成熟度不足以市
Gaudi 3架伺服器在路架方面,用Broadcom Tomahawk 5 51.2 Tb/s 交器,以保系所有之的全接。每算托(Compute Tray)配Xeon CPU、四Gaudi 3 AI晶片,利用 NVIDIA ConnectX-7 400 GbE卡(NICs)行高速互,同配有一NVIDIA BlueField-3 DPU,整架共有十六算托。
然而,管硬配置,指出Gaudi AI平台的堆成熟度仍不足,可能限制被用的。由於Gaudi架在未月逐步退,界於套架模解方案能否得主流用,仍持保留度。
[embed]https://twitter.com/SemiAnalysis_/status/1979347047401533748[/embed]
料源:wccftech
篇文章 盟!英特推新Gaudi 3架伺服器 用小型、精密型AI模型 最早出於 科技-掌握科技新、科技最新。
- 者:敬
- 更多科技新 »