乐鑫ESP-RTC 实时音视频通信方案

news/2024/10/29 1:32:06/

乐鑫 ESP-RTC 实时音视频通信方案

乐鑫科技推出 ESP-RTC (Real-Time Communication) 音视频通信方案,能够实现稳定流畅、超低延时的语音和视频实时通信。

ESP-RTC 以乐鑫 ESP32-S3-Korvo-2 多媒体开发板为核心。ESP32-S3-Korvo-2 搭载 ESP32-S3 AI SoC,拥有双麦克风阵列,支持近/远场语音唤醒和语音识别。它还集成了摄像头、Micro SD 卡、LCD 等外设,支持基于 MJPEG 视频流的处理,为用户构建低成本、低功耗、可联网的音视频产品提供了理想的开发原型。

ESP32-S3-Korvo-2 多媒体开发板
ESP-RTC 方案参考硬件框架

ESP-RTC 方案基于乐鑫自研的 SIP(Session Initialization Protocol,会话初始协议)协议栈,实现了实时的音视频通信。协议栈包含传输层、事务层和会话层,其信令交互模块支持 UDP、TCP 和 TLS 三种方式,媒体传输模块支持 RTP (UDP)、RTCP、SRTP、TURN 等 NAT 透传协议。值得一提的是,ESP-RTC 方案还在传输模块中增加了弱网对抗算法,如 Jitter Buffer 和 PLC,有效解决了丢包、抖动、拥塞、延时等问题,能够充分保证音视频通信的流畅性与实时性。

ESP-RTC 方案也支持 RTSP(Real Time Streaming Protocol,实时流协议)协议栈,其媒体传输模块同时支持 RTP/UDP 和 RTP over TCP。ESP-RTC 方案既可以作为 RTSP 服务器,支持使用 VLC/FFMPEG/PotPlayer/KmPlayer 等播放器进行点播;也可以作为 RTSP 客户端,支持对 EasyDarwin 等开源服务器进行直播推流和拉流播放。

ESP-RTC 基于乐鑫自研的音频 3A 算法 (AEC 声学回声消除、ANS 背景噪声抑制、AGC 音频自动增益),降低了通话中的噪音和回声,使语音对讲保持高质量稳定。它还采用乐鑫芯片级编解码算法,为用户提供了清晰画质的视频通话体验。结合乐鑫 AI SoC ESP32-S3,ESP-RTC 可借助其出色的 AI 运算能力,实现高性能语音唤醒与识别、图像识别等应用,广泛适用于智能音箱、可视对讲门铃、智能家居控制面板、宠物监控、车载行车记录仪、儿童玩具等场景。

ESP-RTC 方案支持 FreeSWITCH、FreePBX 等开源服务器,也可接入成熟的 SFU 云端服务器,实现多人同屏音视频通话。用户借助乐鑫开源物联网开发框架 ESP-IDF 和音频开发框架 ESP-ADF,即可快速搭建音视频通信相关应用。

如果您想了解更多关于乐鑫 ESP-RTC 实时音视频通信方案的信息,或寻求商业项目合作,请联系我们的客户支持团队。您也可以前往乐鑫官⽅淘宝店铺购买 ESP32-S3-Korvo-2 开发板,构建自己的音视频通话应用。


http://www.ppmy.cn/news/700341.html

相关文章

什么是迅驰技术?

什么是迅驰技术? 它是英特尔于2003年3月12日,面向笔记本电脑推出的无线移动计算技术的品牌名称。迅驰(Centrino)是:Centre(中心)与Neutrino(中微子)两个单词的缩写。它由三部分组成:移动式处理器…

中兴通讯5G OLT应急抢通解决方案荣获2022年度大奖!

近日,在通信世界全媒体举办的“2023 ICT行业趋势年会暨2022年度ICT产业龙虎榜颁奖盛典”上,中兴通讯5G的OLT应急抢通解决方案成功斩获了“2022年度最佳接入网技术创新”奖。据介绍,该解决方案能够进一步缩短故障处理时间,提升业务…

网络拓扑图制作软件

1.亿图图示(EdrawMax) 最像VISIO的网络拓扑制作工具 亿图图示实际上就是国产的Visio,与Visio非常相似。支持B/S架构,查看拓扑非常方便,模版也比较丰富。缺点与Visio也类似,画简单的网络拓扑没有问题,但针对大型网络拓扑管理而言,既需要能制作拓扑,又需要具有管理分析…

企业即时通讯需要哪些功能?如何快速实现即时通讯

即时通讯软件现在有分为两种,一种是个人社交沟通软件,另外一种则是企业即时通讯,企业即时通讯的功能要比个人社交沟通软件要全面,毕竟是为了让企业内部方便沟通、管理及办公。那么企业即时通讯软件除了社交聊天功能之外&#xff0…

SaaSBase:什么是讯众通信?

作为SaaS产品的发掘者,SaaSBase(saasbase.cn)今天带大家了解一个优秀的客户服务(即时聊天)软件:讯众通信——国内较早提出云通讯概念的服务商, 基于互联网SIP通信协议, 为互联网及移动互联网企业提供全面的…

IM即时通讯-1-项目需求说明书

即时通讯的项目需求说明书 一、背景 即时通讯是现代交流的重要技术,它可以更方便快捷的进行群聊、聊天等功能,以便满足用户之间的沟通要求。 即时通讯是一种基于网络的实时通信工具,它能够使各种跨设备的用户在网络中实现实时信息交换&…

强强联合! 统信携手ToDesk企业版打造国产远控安全新标杆

数字经济在疫情中加速发展,各行业各领域数字化转型的步伐大大加快,越来越多企业开始思考如何顺应数字化时代的浪潮,巩固企业的核心竞争力? 作为中国远程桌面的中坚力量,上海久尺网络科技有限公司(简称“久…

迅驰技术

迅驰技术 1. 什么是迅驰 迅驰(Centrino)是Intel首次将一系列技术用一个名字来命名。 迅驰是中央(center)与微中子(neutrino)两个名词的结合体,会让人联想到“一种微小、快速,而且功能强大的设备。” 以往笔…