Azure VM加速网络

news/2024/11/30 14:29:24/

目前Azure 多种机型都配置了FPGA卡,可以实现网络加速。

一、 加速网络的硬件准备

下图是Azure中支持加速网络的一种硬件的逻辑图。可以看到硬件中增加了一块FPGA卡,通过40G与网卡连接,同时FPGA还通过PCIe与CPU直接连接。这块FPGA卡是实现wan过来加速的硬件条件。同时可以看出,支持硬件加速类型的VM所在是物理机的网络接口起码是40Gbps。

二、 SR-IOV

在介绍Azure的加速网络前,先介绍一下加速网络中用到的一个技术:SR-IOV。

SR-IOV 是PCI-SIG的一个IOV的规范,目的是提供一种标准规范,通过为虚拟机提供独立的内存空间,中断,DMA流,实现VM直接挂载物理逻辑网卡。SR-IOV 架构被设计用于将单个设备通过支持多个VF,并减少硬件的开销。

SR-IOV 引入了两种类型:

PF: 包含完整的PCIe 功能,包括SR-IOV的扩张能力,该功能用于SR-IOV的配置和管理。
FV: 包含轻量级的PCIe 功能。包含数据移动所需要的最小的必要的资源。

三、 SmartNIC

Azure的SmartNIC就是在FPGA的硬件下,通过SR-IOV实现的一种加速网络。

VM的某个网络数据流的第一个数据包还是经过虚拟交换机,用于生成SDN的流表,一旦生成后,流表将offload到FPGA的SmartNIC中,由FPGA硬件实现转发。

加速网络可实现虚拟机的单根I / O虚拟化(SR-IOV),从而大大提高VM的网络性能。 这种高性能路径绕过了数据路径中的主机,减少了延迟,抖动和CPU利用率,可用于支持的VM类型上最苛刻的网络工作负载。

通过SR-IOV技术,在重载的应用中,网络侧占用CPU的资源大大减少,可以明显提升应用的流畅性。当然如果在轻载情况下,效果并不明显。

四、 加速网络(Accelerated networking)

在Azure的VM中,如下的VM支持加速网络功能:

加速网络支持大多数具有4个或更多vCPU的通用和计算优化实例大小。 但在支持超线程的D / DSv3或E / ESv3等实例上,需要具有8个或更多vCPU的VM实例支持加速网络。

支持的系列有:D / DSv2,D / DSv3,E / ESv3,F / Fs / Fsv2和Ms / Mms。

目前在Azure China支持的是Dv2、DSv2、F、FS系列。在Global Azure,还有Dv3系列、Ev3系列、Fv2系列、M系列等。

在Azure China支持加速网络最小的VM型号是D3v2和F4的VM。

目前支持加速网络的操作系统有:

Ubuntu 16.04: 4.11.0-1013 or greater kernel version
SLES 12 SP3: 4.4.92-6.18 or greater kernel version
RHEL 7.4: 7.4.2017120423 or greater kernel version
CentOS 7.4: 7.4.20171206 or greater kernel version
Microsoft Windows Server 2012 R2 Datacenter
Windows Server 2016


http://www.ppmy.cn/news/575940.html

相关文章

超全总结:神经网络加速之量化模型 | 附带代码

作者丨郝泽宇 学校丨西安交通大学人机所硕士生 研究方向丨深度神经网络压缩 鸣谢 | XJTU 魏亚东 I.C. 董豪 量化模型(Quantized Model)是一种模型加速(Model Acceleration)方法的总称,包括二值化网络(Binar…

CUDA入门和网络加速学习(四)

0. 简介 最近作者希望系统性的去学习一下CUDA加速的相关知识,正好看到深蓝学院有这一门课程。所以这里作者以此课程来作为主线来进行记录分享,方便能给CUDA网络加速学习的萌新们去提供一定的帮助。 1. Cublas概念 cuBLAS是一个BLAS的实现,…

基于Cortex-M3的IP软核实现神经网络加速的SoC设计 (0)准备工作

基于Cortex-M3的IP软核实现神经网络加速的SoC设计 (0)准备工作 关键字&#xff1a;神经网络加速&#xff0c;SoC&#xff0c;ARM处理器&#xff0c;Designstart <0>简介 最近人工智能比较火&#xff0c;但是网上有关神经网络加速的硬件电路设计相关博文比较少&#xf…

神经网络的加速

背景 目前神经网络应用在大多数的场景&#xff0c;包括计算机视觉&#xff08;包括目标识别、检测&#xff09;&#xff0c;推荐系统&#xff0c;大型的科学计算等。神经网络的计算本质上是张量计算&#xff08;tensor&#xff09;&#xff0c;因此为了加速神经网络的计算&…

Debian/Ubuntu网络加速–安装BBR增强版

BBR具体是什么&#xff0c;google去吧&#xff0c;这里简单说下&#xff0c;BBR就是个单边加速linux网络速度的一个算法。详细操作比较复杂&#xff0c;偷了个大佬的脚本&#xff0c;我长期也用这个很方便 很稳定&#xff0c;这里精简下吧。 注意&#xff1a; ①openvz的虚拟…

More is Less: 卷积神经网络加速

论文: More is Less: A More Complicated Network with Less Inference Complexity pdf: https://arxiv.org/pdf/1703.08651.pdf (祖师爷颜水成老师的文章&#xff0c;在valse2017上专门介绍了这个工作&#xff0c;所以拿来学习一番) 论文motivation和贡献 卷积神经网络虽然效…

阿里云跨境游戏及电商网络加速方案(全球加速和CDN)

一.方案场景 此方案适用于跨境游戏&#xff0c;或跨境电商场景全球网络加速&#xff0c;提升用户游戏&#xff0c;购物体验&#xff0c;提高网络速度及稳定性。 二.方案架构 涉及产品及其作用 全球加速&#xff08;GA&#xff09;&#xff1a;用于加速杭州地域客户访问美国服务…

基于FPGA的卷积神经网络加速器(绪论)

从今天开始&#xff0c;将会不定期分享论文的解读&#xff0c;学习进程。目前&#xff0c;主要学习Verilog&#xff0c;争取在寒假结束之前搭建简单的神经网络加速器。 VerilogTensflow人工智能模型与算法原理pythonanaconda 这些就是目前我能想到的学习方向&#xff0c;由于实…