百度语音+自动驾驶感知+深度学习平台技术解析

news/2025/3/26 2:25:38/

HIEV快讯(文/戒僧)本文将解析三部分技术内容,出自百度2023 Create大会-技术开放日:

•百度如何用“手机全双工语音交互”改善使用导航应用的体验

•如何用“上帝视角”BEV技术提升汽车的自动驾驶能力

•如何用百度自研的深度学习平台飞桨加速科学研究

百度的“手机全双工语音交互”

据百度语音首席架构师贾磊介绍,在世界范围内,很长时间都没有一个方案能普适的支持在手机上实现全双工的语音交互——在手机播放导航提示的同时,也能够听清我们的指令,甚至像真人对话一样可以被我们随时打断,并对新的语音指令给予反馈。

困难有不少。想要实现全双工语音交互,必须先做回声消除,避免手机终端识别自己播放的声音。贾磊说,在前装软件的音箱、车载系统上比较容易实现,可以通过硬件适配算法,提前保证回声消除的效果。

而手机App属于纯软件后装方案,需要让软件算法适配不同型号的终端硬件。通常,手机上喇叭距离麦克风的距离比较近,同时手机终端款式多,硬件参差不齐。这些因素叠加在一起,会导致声音信号的回声消除会出现各种各样的问题。再加上手机硬件的迭代更新非常快速,回声消除效果就更加难以保证了。

5298b9cd7efcbc0fbdab3a6449ff2f0b.jpeg

面对这个难题,百度的解决方法是:融合传统信号处理和深度学习模型各自的优点,基于语音识别目标,端到端地进行回声消除和信号增强,解决了手机场景下的回声消除问题,即使手机音量开到最大,回声消除量也能达到40分贝,使得手机APP的语音识别功能能够正常工作。

0f61b6acc36e8d45d4f3369ce077968a.jpeg

据百度介绍,这是世界范围内、在全行业,第一个能在手机上实现纯软件方案回声消除的技术。百度研发出的基于SMLTA2的多场景统一预训练模型,一个模型解决噪声、用户口音和回声消除残余吸收等难题,在各场景下识别率相对提升超过20%,这在业界同类技术中,准确率是最高的,可以说实力遥遥领先。

61f076945798274c9112cbdc00836c6e.jpeg

百度的BEV及UniBEV自动驾驶感知方案

在自动驾驶领域,传统的图像空间感知方法是将汽车上的雷达、摄像头等不同传感器采集来的数据分别进行分析运算,把各项分析结果融合到统一的空间坐标系中,去规划车辆的行驶轨迹。这个过程中,每个独立传感器收集到的数据往往受到特定视角的局限,经过各自的分析运算后,融合阶段会导致误差叠加,无法拼凑出道路实际情况的准确全貌,给车辆的决策规划带来困难。

近些年来,行业中提出了BEV(Bird's Eye View,视觉为中心的俯视图)自动驾驶感知方案。不同于传统的方式,BEV自动驾驶感知就好比是一个从高处统观全局的“上帝视角”,车上多个传感器采集的数据,会输入到一个统一模型进行整体分析推理生成鸟瞰图,能有效地避免误差叠加;这种方案还能够做到时序融合,不仅是收集一个时刻的数据,分析一个时刻的数据,而是支持把过去一个时间片段中的数据都融合进模型做环境感知建模,时序信息的引入让感知到的结果更稳定,使得车辆对于道路情况的判断更加准确、让自动驾驶更安全。

a102e8c614dee1cd92b136795ea91b2f.jpeg

目前,百度并没有止步于BEV自动驾驶感知方案,还首次在业内提出了车路一体的解决方案UniBEV,集成了车端多相机、多传感器的在线建图、动态障碍物感知,以及路侧视角下的多路口多传感器融合等任务,是业内首个车路一体的端到端感知解决方案。基于统一的BEV空间,UniBEV 车路一体大模型更容易实现多模态、多视角、多时间上的时空特征融合。

百度”飞桨“深度学习平台

AI 为解决科学问题带来新方法的同时,也对AI基础软硬件带来诸多新挑战。毕竟,推动科学进步与开发一个人脸识别算法需要的并不完全是一种能力。

首先,深度学习平台需要具备更加丰富的各类计算表达能力,如高阶自动微分、复数微分、高阶优化器等;其次,科学问题求解需要超大规模的计算,这对深度学习平台与异构超算/智算中心适配及融合优化,神经网络编译器加速和大规模分布式训练提出了新的要求;此外,如何实现人工智能与传统科学计算工具链的协同,也是需要解决的问题。

489c9473d76206fee63f9759f809c376.jpeg

过去的这几年,百度飞桨团队在这些问题取得了进展。作为国内首个自主研发、功能丰富、开源开放的产业级深度学习平台,飞桨研发了一系列用于科学研究的工具组件,比如赛桨PaddleScience、螺旋桨PaddleHelix、量桨Paddle Quantum等,支持复杂外形障碍物绕流、结构应力应变分析、材料分子模拟等丰富领域算例,广泛支持AI加计算流体力学、生物计算、量子计算等前沿方向的科研探索和产业应用。

对于科学领域大规模计算的需求,飞桨推出了超大规模图学习训练技术PGLBox,是业界首个同时支持复杂算法+超大图+超大离散模型的大规模图学习训练技术,通过显存、内存、SSD三级存储技术和训练框架的性能优化技术,单机即可支持百亿节点、数百亿边的图采样和训练,并可通过多机扩展支持更大规模,目前已经在百度的智能交通、信息推荐、搜索等标杆场景实现落地,大幅提升业务效率和用户体验。

在科研生态方面,百度飞桨已经与高校、科研机构等开展了计算流体力学、分子动力学、动力气象学等方面的范例建设,并形成了一些开放性的、多学科交叉的生态社区,包括飞桨特殊兴趣小组(PPSIG)、共创计划等。


http://www.ppmy.cn/news/10051.html

相关文章

微信小程序测试(简单项目测试)

Flex布局简介 布局的传统解决方案,基于盒状模型,依赖 display属性 position属性 float属性 什么是flex布局? Flex是Flexible Box的缩写,意为”弹性布局”,用来为盒状模型提供最大的灵活性。 任何一个容器都可以指…

一个精美的登录界面原来是这样做的

👨‍💻个人主页:元宇宙-秩沅 hallo 欢迎 点赞👍 收藏⭐ 留言📝 加关注✅! 本文由 秩沅 原创 收录于专栏 玩归玩闹归闹,别拿java开玩笑 —————————————————— ⭐相关文章⭐ -通过窗口看…

Linux——Linux驱动之iMX6ULL平台下多点触摸屏驱动开发实战(MT协议、多点触摸API、基于框架的触摸驱动编写、触摸芯片驱动)

【系列专栏】:博主结合工作实践输出的,解决实际问题的专栏,朋友们看过来! 《QT开发实战》 《嵌入式通用开发实战》 《从0到1学习嵌入式Linux开发》

【软件项目管理 PMP】-- 100+真题考试题

1、一位项目经理正在管理一个项目,该项目非常复杂,执行期很长。虽然该项目大部分是预测性的,但团队能够使用一个混合框架将设计和执行分解成更小的包。企业希望跟踪这个框架应用所带来的价值,但没有为这个框架定义一套可衡量的项目。项目经理应该先做什么? A 、使用与上一…

FPGA之VGA/LCD数字时钟显示

文章目录前言一、LCD显示控制1.LCD显示一个字符2.LCD显示多个字符二、数字时钟输出1.数字时钟2.十进制数据拆分BCD码三、按键检测及LCD驱动1.按键检测2.LCD驱动四、总结前言 软件实现了在4.3寸LCD左上角显示一个数字时钟,效果如下图所示。本文针对VGA/LCD控制时许有…

二叉搜索树比起二叉树又有什么不一样呢?

二叉搜索树比起二叉树又有什么不一样呢?🏐什么是二叉搜索树🏐二叉搜索树的实现🏀节点类:🏀构造函数🏀析构函数🏀插入insert⚽非递归版本⚽递归版本🏀查找find⚽非递归版本⚽递归版本…

字符串题记

经典字符串leetcode题 文章目录经典字符串leetcode题反转字符串第一种方法:使用string里的库函数reverse第二种方法:使用自己写的swap函数第一种swap函数第二种swap函数151.翻转字符串里的单词28. 实现 strStr()KMP算法459.重复的子字符串第一种&#xf…

flutter_inappwebview超长富文本 Android crash问题记录

需求 原生支持富文本编辑,能插入图文视频,支持预览 问题 flutter inappwebview嵌入后由于富文本过长导致app crash 原本实现方案 使用webview 本地html 实现富文本编辑,预览使用flutter加载webview动态注入富文本内容 Android: https:/…