NVIDIA的新一代Blackwell架构服务器已经开始批量出货，并在OCP Summit 2024峰会上进行公开展示。值得注意的是，展示中的服务器直接将芯片裸露在外，供人们观看。
这款服务器搭载了八颗B200芯片，这些芯片采用4NP工艺制造，集成了高达2080亿个晶体管。同时，它还配备了192GB的HBM3E内存，性能卓越。
然而，这款服务器的功耗也相当惊人，高达1000W。八颗B200芯片的总功耗更是达到了恐怖的8000W，即一个小时消耗8度电。
与前代服务器相比，NVIDIA对这款新服务器进行了一些关键调整。其中，NVLink互联控制芯片的位置发生了显著变化，不再位于服务器边缘，而是被巧妙地转移到了中心，被八颗B200芯片所环绕。这样的设计有助于缩短GPU之间的距离，提升数据传输效率。
此外，我们还可以在这款服务器中看到多颗由Astera Labs提供的PCIe Retimer芯片。这些芯片在数据传输过程中发挥着重要作用，进一步优化了服务器的性能。
据此前爆料的消息，NVIDIA称得益于Blackwell强大的AI性能，在部分测试中只要64块Blackwell就可以实现256块Hopper GPU的AI水平，而在Llama 2 70B的测试中，Blackwell性能提升了2.2倍，GPT-3性能提升了2倍。
