聊一聊:腾讯发布高性能算力集群:专为AI大模型训练准备|每日速读

猿大侠 2023-04-16 06:03:48

4月14日,腾讯云宣布发布面向大模型训练的新一代HCC(High-Performance Computing Cluster)高性能计算集群。

该计算集群的整体性能比过去提升了3倍,堪称国内目前性能最强的大模型计算集群。

据悉,该计算集群搭载NVIDIA H800 Tensor Core GPU,能够提供高性能、高带宽、低延迟的算力支撑。


(资料图片仅供参考)

而针对大模型训练,计算集群有着训练框架AngelPTM,该框架对内支持了腾讯混元大模型的训练,并在去年10的的万亿参数大模型训练中,成功将时间缩短了80%。

此外,腾讯用于AI推理的自研芯片紫霄已经完成量产,它采用自研存算架构与加速模块,能够提供高达3倍的计算加速性能,以及超过45%的整体成本节省。

而腾讯云提供的大模型能力与工具箱,也能够帮助企业根据具体需求和场景精调训练,从而进一步提升效率,实现AI应用的快速部署。

根据腾讯云官方的数据,新的HCC计算集群能够将大模型的训练时间从上一代的11天压缩至4天,有效节省了大量时间。

来源:快科技

AI不会让你失业,会用AI的人才会让你失业。ChatGPT不会淘汰你,能驾驭ChatGPT的人会淘汰你。带领一小部分人先驾驭ChatGPT。

我的“ChatGPT星球”,3月31日上午9点开放,已经超过4000人加入,很快到5000人又要涨价了!

目前早鸟价249,额外给了50元优惠券(200张,有效期明天中午12点哈-),到手199,早就是优势,建议大家尽早以便宜的价格加入!

扫码查看预览页面,有介绍说明~
加入就送ChatGPT账号及副业精华电子书
5月1日前加入,送价值3000元视频课(5选2),等于社群白嫖

优惠券名额有限,先到先得

标签:

广告

Copyright ?   2015-2022 现在商场网版权所有  备案号:粤ICP备18023326号-5   联系邮箱:855 729 8@qq.com