将用于自动驾驶！腾讯云发布国内“最牛”大模型算力集群
文/羊城晚报全媒体记者 王丹阳图/受访者提供
国内性能最强的大模型计算集群，来了！
4月14日，腾讯云正式发布新一代HCC（High-Performance Computing Cluster）高性能计算集群。该集群采用腾讯云星星海自研服务器，搭载英伟达最新代次H800 GPU，服务器之间采用业界最高的3.2T超高互联带宽，为大模型训练、自动驾驶、科学计算等提供高性能、高带宽和低延迟的集群算力。
实测显示，腾讯云新一代集群的算力性能较前代提升高达3倍，是国内性能最强的大模型计算集群。
2022年10月，腾讯完成首个万亿参数的AI大模型——混元NLP大模型训练。在同等数据集下，将训练时间由50天缩短到11天。如果基于新一代集群，训练时间将进一步缩短至4天。
此外，腾讯多款自研芯片已经量产。其中，用于AI推理的紫霄芯片、用于视频转码的沧海芯片已在腾讯内部交付使用。紫霄已经在腾讯头部业务规模部署，提供高达3倍的计算加速性能，和超过45%的整体成本节省。
未来，新一代集群不仅能服务于大模型训练，还将在自动驾驶、科学计算、自然语言处理等场景中应用。
本文来自投稿，不代表长河网立场,转载请注明出处： http://www.changhe99.com/a/j36EvWJOre.html
