XCCL、NCCL、HCCL通信库

devtools/2025/2/4 14:58:19/

在这里插入图片描述

XCCL提供的基本能力

在这里插入图片描述

XCCL提供的基本能力

在这里插入图片描述

不同的XCCL 针对不同的网络拓扑,实现的是不同的优化算法的(不同CCL库最大的区别就是这)
不同CCL库还会根据自己的硬件、系统,在底层上面对一些相对应的改动;
但是对上的API接口,基本上保持稳定和不变,也就是跟NVIDIA的NCCL 和 MPI的库的接口保持一致;
---- 公司肯定也是有部门在搞这个的

在这里插入图片描述


NCCL_14">基于NCCL进行创新

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述


NCCL_21">NVIDIA NCCL:优点、缺点

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

clos torus RDMA 异构网络…check


阿里 ACCL

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述


腾讯 TCCL

在这里插入图片描述

在这里插入图片描述
NVIDIA主推IB的交换机,腾讯自研交换机


Inter oneCCL

在这里插入图片描述

在这里插入图片描述


AMD RCCL(已开源)

在这里插入图片描述
在这里插入图片描述


各种XCCL库的优缺点

在这里插入图片描述


http://www.ppmy.cn/devtools/156032.html

相关文章

基于springboot+vue的哈利波特书影音互动科普网站

开发语言:Java框架:springbootJDK版本:JDK1.8服务器:tomcat7数据库:mysql 5.7(一定要5.7版本)数据库工具:Navicat11开发软件:eclipse/myeclipse/ideaMaven包:…

代码随想录-训练营-day18

669. 修剪二叉搜索树 - 力扣(LeetCode) 这个题可以说是为二叉搜索树量身定做的题目,因为二叉搜索树的性质我们可以简单的从左右分辨出值的大小差异,方便我们进行递归或者迭代。比起具体的代码,这个题主要的难点在于如…

实现数组的扁平化

文章目录 1 实现数组的扁平化1.1 递归1.2 reduce1.3 扩展运算符1.4 split和toString1.5 flat1.6 正则表达式和JSON 1 实现数组的扁平化 1.1 递归 通过循环递归的方式,遍历数组的每一项,如果该项还是一个数组,那么就继续递归遍历&#xff0c…

自定义数据集 ,使用朴素贝叶斯对其进行分类

数据集定义: - data 列表包含了文本样本及其对应的情感标签。每个元素是一个元组,第一个元素是文本,第二个元素是标签。 特征提取: - 使用 CountVectorizer 将文本转换为词频向量。 fit_transform 方法在训练数据上拟合向量器…

如何在 Typecho 中实现 Joe 编辑器标签自动填充

如何在 Typecho 中实现 Joe 编辑器标签自动填充 在 Typecho 的文章编辑过程中,如果你使用 Joe 编辑器,可能会希望输入#标签后能自动提取并填充到文章的标签输入框中,以提高工作效率。接下来,我们将详细介绍如何通过开发一个 Type…

选择排序_75. 颜色分类

75. 颜色分类 - 力扣&#xff08;LeetCode&#xff09; 题目不追求稳定 可以选择选择排序 这是我没看教程代码之前写的 有点复杂了 我还把元素后移了 class Solution { public:void sortColors(vector<int>& nums) {int min_num_index -1;int min_num 3;for(int i…

MySQL常用数据类型和表的操作

文章目录 (一)常用数据类型1.数值类2.字符串类型3.二进制类型4.日期类型 (二)表的操作1查看指定库中所有表2.创建表3.查看表结构和查看表的创建语句4.修改表5.删除表 (三)总代码 (一)常用数据类型 1.数值类 BIT([M]) 大小:bit M表示每个数的位数&#xff0c;取值范围为1~64,若…

手机连接WIFI可以上网,笔记本电脑连接WIFI却不能上网? 解决方法?

原因&#xff1a;DNS受污染了 解决办法 step 1&#xff1a;清空域名解析记录&#xff08;清空DNS&#xff09; ipconfig /flushdns (Windows cmd命令行输入) step 2&#xff1a;重新从DHCP 获取IP ipconfig /release&#xff08;释放当前IP地址&#xff09; ipconfig /renew &…