暴雨液冷服务器硬刚液冷放量元年

news/2024/9/18 11:34:28/ 标签: 人工智能

AI(人工智能)不断向前,作为AI三驾马车之一,算力需求始终如影随形。

近日,财经记者走访了河南郑州多家服务器厂商、大模型公司和算力中心。在走访中,记者发现,液冷技术正被算力行业青睐,出于价格成本等原因暂未全面推行,不少算力中心仍是液冷与风冷“两条腿走路”。另外,超级计算和量子计算均有望进入商业算力供给体系。只不过,量子计算商业化仍需等待,超级计算地方中心已能够实现日常50%左右的利用率。

在“东数西算”工程下,河南正在打造中部算力高地。9月27日至29日,2024中国算力大会将落地郑州。据河南省通信管理局党组成员、一级巡视员孙力透露,中国算力平台(河南)将在本届算力大会上正式开通,算力规模达到4.2EFLOPS(floating-point operation per second,每秒浮点运算次数)。

液冷成行业趋势,服务器只奔着某个单点方向前进未必成功

光模块、AI服务器、AI芯片、交换机、液冷设备组成AI算力五大硬件设备。基于AI训练、推理和应用深入产生的算力需求,AI服务器将迎来高速增长时期。市场研究机构TrendForce集邦咨询预估,2024年AI服务器出货量将达167万台,年增长率为41.5%,产值将达1870亿美元,占整体服务器高达65%。

记者在走访中观察到,不少AI服务器厂商将提供定制大模型或相关服务作为新的业务增长点。暴雨信息攻坚克难开发了自己的大模型,并且在云上增加一层操作系统对大模型进行调优,试图通过“软+硬”的模式迅速占领优质市场。

通常,AI服务器采用“CPU+加速芯片”的架构形式,可分为:CPU+GPU、CPU+FPGA、CPU+ASIC等混合架构,在进行模型训练和推理时效率更高。由于散热需求强烈,CPU+GPU的服务器也逐步采用液冷制冷方式。

与传统服务器采用的风冷技术相比,液冷技术具有高效散热、节能降耗等优势,现已成为服务器行业发展趋势。2023年,暴雨服务器就率先喊出“All in 液冷”;中国移动、中国电信、中国联通三大运营商联合发布《电信运营商液冷技术白皮书》并提出将在2025年开展液冷技术规模应用,实现50%以上数据中心项目应用液冷技术。

暴雨公司工作人员在讲解液冷设备工作流程。财经记者 龙静 摄

未来国内服务器厂商是否可能凭借液冷技术实现生态位的改变?

对此,暴雨技术负责人,在接受财经记者采访时表示:行业在发展过程中可能涌现新的变化、客户需求和技术路径,企业向某个单点方向走未必能保证成功。“企业需要坚定地坚持业务战略,才能在各种变化下快速适应转化,实现突破。”

“目前液冷产业推广过程中面临的一个重要课题是如何在液冷数据中心的建设成本和投资回报率,以及运维安全性上做到均衡。”IDC中国服务器市场研究经理辛一分析称,这需要产业相关组织、机构、企业及合作伙伴在标准制定、成本控制、技术创新等方面共同努力,加大投资和配套设施建设力度。

他预计,液冷行业将迎来“刚需”放量元年。根据IDC数据,互联网行业是2023年国内液冷服务器市场最大买家,占整体市场的46.3%,有望在未来几年持续加大采购力度;此外,电信运营商、泛政府用户也是未来液冷需求的主要来源。

随着IT技术更近发展以及大型数据中心的建立,暴雨相信液冷最终会成为算力行业新的业态,暴雨已经做好了迎接放量元年的到来。


http://www.ppmy.cn/news/1526126.html

相关文章

快速搭建最简单的前端项目vue+View UI Plus

1 引言 ‌‌Vue是一套用于构建Web前端界面的渐进式JavaScript框架。‌‌它以其易学易用、性能出色、灵活多变而深受开发者喜爱,并且与其他前端框架(如‌React和‌Angular)相比,在国内市场上受到了广泛的认可和使用。点击进入官方…

SpringCloud-05 Resilience4J 服务降级和熔断

服务雪崩:指在多个服务之间存在依赖关系时,当一个服务发生故障或不可用时,导致其他服务也无法正常工作的情况。这种现象通常是因为服务之间的依赖关系过于紧密,当一个服务发生故障时,其他服务无法正确处理该服务的请求…

串口接收不到数据之电阻虚焊bug分析思路

单片机和EC移远通信模块进行通信,相同的代码运行在相同的硬件上,但是一个能联网,一个因为没有EC的应答连不上网。 开始分析,排除软件问题,给EC模块发为什么没应答? 1.发送失败 2.接收失败 排除情况2&#x…

IP纯净度对跨境电商有哪些影响

在当今全球化的经济背景下,跨境电商已成为连接不同国家和地区的重要桥梁,它不仅推动了国际贸易的便利化,还促进了全球资源的优化配置。 然而,跨境电商的运营并非一帆风顺,其中IP纯净度作为一个关键因素,对…

Go入门语法

1.转义符 1) \t :一个制表位,实现对齐功能 2)\n :换行符 3)\ :一个 4)" :一个" 5)\r :一个回车不换行(r后覆盖当前行最前面…

基于SpringBoot+Vue+MySQL的校园健康驿站管理系统

系统展示 用户前台界面 管理员后台界面 系统背景 本文设计并实现了一个基于SpringBoot后端、Vue前端与MySQL数据库的校园健康驿站管理系统。该系统旨在通过数字化手段,全面管理学生的健康信息,包括体温监测、疫苗接种记录、健康状况申报等,为…

热点数据更新优化

热点数据更新优化 热点数据更新带来的问题问题的方向判断用户线程被打挂据库cpu被打挂(优先考虑,80%可能性)redis被打挂 临时解决方案解决方案流量控制热点隔离数据分批次提交数据合并后更新重写MySQL的执行层 热点数据更新带来的问题 问题的…

门磁模块详解(防盗感应开关 STM32)

目录 一、介绍 二、程序设计 main.c文件 gate_guard.h文件 gate_guard.c文件 三、实验效果 四、资料获取 项目分享 一、介绍 MC-38常闭式门磁开关是作为IO开关输入数字信号的,原理是合在一起信号是导通的 , 配合有线主机使用 不能单独使用。适用于非铁质&a…

基于Python实现一个庆祝国庆节的小程序

功能: 添加互动功能:允许用户选择不同的祝福语或者查询不同的国庆节信息。动态背景音乐:播放国庆节相关的背景音乐。增加节日小测验:提供一些关于国庆节的趣味小测验,让用户参与。增强图形用户界面 (GUI):…

中断门+陷阱门

中断门: 中断描述符在IDT表里面 kd> dq idtr 80b95400 83e48e000008bfc0 83e48e000008c150 80b95410 0000850000580000 83e4ee000008c5c0 80b95420 83e4ee000008c748 83e48e000008c8a8 80b95430 83e48e000008ca1c 83e48e000008d018 80b95440 000085000050…

git github仓库管理

原文链接:git github仓库管理 拉取镜像 github的仓库有两种下载方式,http和ssh,http是对外公开的,可以直接clone,ssh的一般是自己的或内部的仓库,仓库需要配置ssh-key才能使用git clone. 或者直接网页下载 #https git clone https://github.com/git/git.git #ssh…

vue element时间选择不能超过今天 时间选中长度不能超过7天

背景: 使用elenmet plus 组件实现时间选择;且日期时间选择不能超过今天;连续选中时间的长度范围不能超过7天 效果展示: 实现思路: 一、使用element组件自带的属性和方法; :disabled-date"disabledDate…

Java设计模式之责任链模式详细讲解和案例示范

在本文中,我们将详细讲解Java设计模式中的责任链模式,探讨其基本概念、使用场景、常见问题和解决方式。同时,我们还会介绍责任链模式与策略模式的区别,并结合电商交易系统的示例进行说明。此外,我们还会探讨责任链模式…

Basler 相机与LabVIEW进行集成

Basler 提供的相机驱动和 SDK (Software Development Kit) 允许用户通过 LabVIEW 对相机进行控制和图像采集。以下是 Basler 相机与 LabVIEW 集成的几种方式: 1. Baslers Pylon SDK Basler 提供的 Pylon SDK 是一套用于控制 Basler 相机的开发工具包,支…

ubuntu 安装 nvidia-docker

安装 nvidia-docker 之前要先安装好显卡驱动和docker,不需要安装CUDA 1、安装docker 先卸载旧版本docker sudo apt-get remove docker docker-engine docker.io containerd runc再进行 sudo apt-get update sudo apt-get install ca-certificates curl gnupg lsb…

ModuleNotFoundError: No module named ‘datasets‘

报错信息: 解决:安装datasets 方法1: pip install datasets 方法2: python3可以使用以下命令: pip3 install datasets

15.7 创建prometheus的statsfulset配置

本节重点介绍 : prometheus statsfulset yaml配置 设置statsfulset副本反亲和性设置pod运行优先级设置volumeClaimTemplates设置配置文件热更新容器 configmap-reload设置prometheus主容器 statsfulset 设置元信息 apiVersion: apps/v1 kind: StatefulSet metadata:name: p…

Rust:Result 和 Error

在 Rust 编程语言中,错误处理是一个核心部分,用于确保程序的健売性和可靠性。Rust 通过 Result 枚举和 Error 特质(trait)来处理错误。 Result 枚举 Result 是一个泛型枚举,用于表示一个操作可能成功或失败。它有两个…

时序预测|基于小龙虾优化高斯过程GPR数据回归预测Matlab程序COA-GPR 多特征输入单输出 附赠基础GPR

时序预测|基于小龙虾优化高斯过程GPR数据回归预测Matlab程序COA-GPR 多特征输入单输出 附赠基础GPR 文章目录 一、基本原理二、实验结果三、核心代码四、代码获取五、总结 时序预测|基于小龙虾优化高斯过程GPR数据回归预测Matlab程序COA-GPR 多特征输入单输出 附赠基础GPR 一、…

实时(按帧)处理的低通滤波C语言实现

写在前面: 低通滤波采用一般的FIR滤波器,因为本次任务,允许的延迟较多,或者说前面损失的信号可以较多,因此,涉及一个很高阶的FIR滤波器,信号起始段的信号点可以不处理,以及&#xf…