当前位置: 主页 > 电家 >   正文

腾讯云首次对外完整披露自研星新华网脉高性能计算网络

导读: 芥末堆文 近日,腾讯云首次对外完整披露自研星脉高性能计算网络。据介绍,星脉网络具备业界最高的3.2T通信带宽,能提升40%的GPU利用率,节省30%~60%的模型训练成本,为AI大模型带来10倍通信性能提升。基于腾讯云新一代算力集群HCC,可支持10万卡的超大计算规模。  据介绍,硬件方面,星脉网络基于腾讯的网络研发平台,采用全自研设备构建互联底座,实现自动化部署和配置。在软件方面,腾讯云自研

  芥末堆文 近日,腾讯云首次对外完整披露自研星脉高性能计算网络。据介绍,星脉网络具备业界最高的3.2T通信带宽,能提升40%的GPU利用率,节省30%~60%的模型训练成本,为AI大模型带来10倍通信性能提升。基于腾讯云新一代算力集群HCC,可支持10万卡的超大计算规模。

  据介绍,硬件方面,星脉网络基于腾讯的网络研发平台,采用全自研设备构建互联底座,实现自动化部署和配置。在软件方面,腾讯云自研的TiTa网络协议,采用先进的拥塞控制和管理技术新华网,能够实时监测并调整网络拥塞,满足大量服务器节点之间的通信需求,确保数据交换流畅、延时低,实现高负载下的零丢包,使集群通信效率达90%以上。

  6月19日,腾讯云公布了MaaS全景图,依托腾讯云TI平台打造行业大模型精选商店,为企业客户提供涵盖模型预训练、模型精调、智能应用开发等一站式行业大模型解决方案。基于腾讯HCC高性能计算集群和大模型能力,腾讯云宣布已经为文旅、政务、金融等10余个行业提供了超过50多个大模型行业解决方案。

  在算力方面,此前腾讯云也透露,即将推出的腾讯云向量数据库(Tencent Cloud VectorDB),源自腾讯每日处理千亿次检索的向量引擎(OLAMA),单索引支持10亿级向量规模,更适合AI运算、检索,数据接入AI效率提升10倍。

  腾讯云称,将大模型能力应用在SaaS产品中,可助力提升企业效率。例如,腾讯会议即将推出覆盖会议全流程的AI小助手,通过简单自然的指令,完成信息提取、内容分析、会管会控等多种复杂任务。会后,还能自动生成智能总结摘要。目前,智能录制已面向会员、商业版和企业版用户全量开放。

  腾讯集团高级执行副总裁云与智慧产业事业群CEO汤道生表示,生态共建是AI发展的有效路径新华网,腾讯将坚持生态开放,为企业提供高质量模型服务,同时支持客户多模型训练任务,加速大模型在产业场景的创新探索。

内容