世界热点评!Supermicro携手英伟达为AI加速,搭载Grace CPU超级芯片的服务器上市在即
2023-05-30 23:22:04 |来源:IT时报
作者:孙妍 来源:IT时报
【资料图】
横空出世的ChatGPT,在全球掀起生成式人工智能热潮,“大模型+大算力”让AI实现范式突破,也让算力成为抢手资源。而在算力的背后,是数据中心和“电老虎”的竞赛。
5月29日,在COMPUTEX2023(中国台北国际计算机展)上,IT解决方案提供商Supermicro提出了两个关键词:加速和降耗。Supermicro采用Server Building Block Solutions服务器构建方法,整合Intel、AMD和NVIDIA的最新CPU及GPU技术,设计和制造服务器和存储系统,以应对AI、云计算、5G以及从数据中心到边缘计算的大量需求。
“我们的机架级液冷方案可以将数据中心的电力支出降低40%,并能加快上市时间,每月向全球发运4000机架,预计到年底将提高到5000以上。” Supermicro总裁兼首席执行官梁见后(Charles Liang)表示。
Supermicro已有产品组合可为人工智能工作负载和其他垂直领域提供支持。基于第四代Intel Xeon可扩展处理器和第四代AMD EPYC 处理器的单插槽和双插槽机架安装系统,提供1U、2U、4U、5U和8U规格,并支持1到10 GPU。此外还包括在8U机箱中支持20个NVIDIA H100 GPU的密度优化型SuperBlade系统,以及专门针对物联网和边缘环境设计的SuperEdge系统。最新发布的E3.S Petascale存储系统在利用超大规模的人工智能数据集进行训练时,其性能、容量、吞吐量、耐用性以及能效表现都较好。
在英伟达发布超大规模生成式AI加速平台这一算力“杀器”的同一时间,Supermicro宣布,基于NVIDIA Grace CPU超级芯片的新产品系列将很快上市。这些新服务器均包含144个核心,双CPU及900 GB/s 一致性接口,可运行高响应度的人工智能应用程序和需要极低延迟响应的应用程序。此外,CPU以500W TDP的速度运行,该系统将为云原生工作负载和下一代人工智能应用降低能耗。
NVIDIA超大规模和高性能计算副总裁Ian Buck表示:“面对严苛的客户需求,NVIDIA与Supermicro快速为新的服务器设计带来创新。随着Supermicro采用Grace CPU 超级芯片的服务器上市在即,以及H100 GPU在全球范围的使用普及,我们正在共同努力,将人工智能带到广泛的市场和应用中。”
生成式AI给算力带来了巨大的挑战,Supermicro的应对方案是GPU服务器集成双CPU和多达8个NVIDIA HGX H100 GPU,并用液体冷却降低运营成本。此外,Supermicro正在支持新的NVIDIA MGX参考架构,该架构将为一系列人工智能、高性能计算和Omniverse应用提供超过100种服务器配置。这种模块化的参考架构包括CPU、GPU和DPU,适用于多代处理器。
Supermicro还将在广泛的解决方案中纳入最新的NVIDIA Spectrum-X网络平台。该平台是第一个专门为提高基于以太网的AI云的性能和效率而设计的平台。Spectrum-X建立在由NVIDIA Spectrum-4以太网交换机与NVIDIA BlueField-3数据处理单元(DPU)紧密耦合的网络创新之上。这项突破性技术实现了1.7倍的整体人工智能性能和能源效率提升,同时在多租户环境中实现了一致、可预测的性能。
目前,数据中心消耗的电力占到了全球电力需求的1%至1.5%,因此绿色计算对于数据中心至关重要。Supermicro机架级液冷解决方案可以大幅降低对传统冷却方法的需求。通过冗余和热插拔电源和泵,机架上的所有高性能AI和HPC优化服务器都能够得到有效冷却,不用担心电源或泵发生任何故障。该解决方案还为CPU和GPU量身定制了水冷板,相较于传统设计能够更有效地去除热量。如果数据中心利用Supermicro技术将其PUE降低至近1.0,能节省高达100亿美元的能源成本,相当于减少建造30座化石燃料发电厂。
机架级集成是数据中心运营商所需的另一项核心竞争力。要想给生产效率加速,就必须将随时可用的全部机架及时交付给数据中心。Supermicro的 L11和L12服务器集群已通过全面测试并且进行适当配置,可以在必要时实现大规模液体冷却。
关键词:
标签阅读
-
世界热点评!Supermicro携手英伟达为AI加速,搭载Grace CPU...
2023-05-30 -
今日热闻!美格智能:公司产品目前在AI零售、云服务器、VR眼镜...
2023-05-30 -
神舟十六号载人飞船发射取得圆满成功_当前快报
2023-05-30 -
十铨科技618大促滿額返利,超值享折扣! 今日要闻
2023-05-30 -
科技力量助推国家战略 海信激光电视研发带头人获评最美科技...
2023-05-30 -
焦点观察:石家庄市新华区:巾帼家政基地带动千名妇女上岗就业
2023-05-30 -
万通发展控股股东嘉华控股约5亿转让1.05亿股 占总股本5.12%-滚动
2023-05-30 -
AI热潮下高速互联芯片受捧 国数集联获数千万元天使轮融资 新视野
2023-05-30 -
全球今头条!景旺电子:与英伟达在算力、自动驾驶、显卡等领...
2023-05-30 -
产品评测|养老金又现黑马?君龙人寿龙抬头收益到底有多高?
2023-05-30 -
市州观察丨新赛道上“争进位” 乐山现场推进重大项目建设 热点评
2023-05-30 -
卡兹克皮肤哪个好
2023-05-30 -
学思想 建新功|中国红十字基金会携手强生消费者健康中国启...
2023-05-30 -
【天天新视野】康圣环球(09960)3月30日斥资4.05万港元回购2.1万股
2023-05-30 -
低压95高压135危害大吗三十多岁_低压95高压135危害大吗 环球微速讯
2023-05-30 -
TVB识货将开启618期间第二场直播 邀请港姐直播带货
2023-05-30 -
双杰电气于内蒙古新设子公司,注册资本1亿元_焦点报道
2023-05-30 -
今日热门!欧洲迎食品价格暴涨潮?牛奶上涨25%,糖价飙升54.9%
2023-05-30 -
俄罗斯海运原油出口量仍处高位 减产承诺遭质疑 世界热议
2023-05-30 -
热点聚焦:一本书收入40万,番茄小说女作者的网文逆袭路
2023-05-30