Android native音频:录制播放的实现以及低延迟音频方案

news/2024/10/15 20:19:10/

文章目录

  • 1. 前言
  • 2. 工程准备
  • 3. 低延迟音频原理及功能实现方案
  • 4. 使用OpenSL ES
    • 4.1 播放器实现
    • 4.2 录音器实现
    • 4.3 Echo实现
  • 5. 使用AAudio
    • 5.1 播放器实现
    • 5.2 录音器实现
    • 5.3 Echo实现
  • 6. 使用Oboe
  • 7. 功能配置

1. 前言

Android提供了很多的多媒体接口,通常在java层,我们常用的就是AudioTrack和MediaPlayer进行音频播放。MediaPlayer不光可以播放音频,也可以播放视频,并支持少部分的解码。

而由于音视频通常计算量都很大,所以很多音视频方面的工作都会放在native层进行。Android在native层同样提供了一些组件来进行音频的播放和录制:

  • OpenSL ES:这是Android从很早就开始支持的,它类似于OpenGL ES,所不同的是它完全服务于音频。可以说现在所有的Android手机都会支持。兼容性最好。它无法指定录制或者播放设备。
  • AAudio:这是谷歌在Android 8.0后引入的,它支持一些简单的解码、音频录制和播放以及一些效果等。官方网页为AAudio-Google。它可以指定录制或播放设备。
  • Oboe:这个并不是新的音频框架,而只是为了方便使用OpenSL ES和AAudio,对两者进行的封装,隐藏了大部分琐碎的细节,并且其api也是基于c++风格的,更加方便。日常使用基本只依赖这个即可。

native部分的音频框架相对于java部分的音频框架来说,性能是更高的,所以如果你希望降低app的音频通路延迟(游戏等),基本上只能选择native。

本篇文章会分别使用三者,演示如何构建录制器和播放器,并实现低延迟的echo功能。

2. 工程准备

工程源码放在我的github上:FastPathAudioEcho

新建一个工程,并使其支持c++。

对于OpenSL ES和AAudio,这些库在系统中是被包含的,因此只要在CMakeLists中链接即可:

target_link_libraries( # Specifies the target library.native-libOpenSLESaaudiooboe# Links the target library to the log library# included in the NDK.${log-lib})

至于oboe,它并未被包含在Android SDK中,因此需要到github上搜索,然后使用仓库或下载源码进行配置。地址是:Oboe-Google。编译方法也可以从这找到。
由于使用仓库对构建工具版本有要求,因此我选择的是直接下载源码进行编译。下面是我的配置:

CMakeLists.txt,位置在源码的cpp文件夹中。


cmake_minimum_required(VERSION 3.4.1)file(GLOB CPP_FILES "./*.cpp", "./SLESEcho/*.cpp", "./AAudioEcho/*.cpp", "./OboeEcho/*.cpp")include_directories("./", "./SLESEcho/", "./AAudioEcho/", "./OboeEcho/")add_library( # Sets the name of the library.native-lib# Sets the library as a shared library.SHARED# Provides a relative path to your source file(s).${CPP_FILES})# Set the path to the Oboe directory.set (OBOE_DIR "D:\\workspace\\AndroidProject\\oboe")# Add the Oboe library as a subdirectory in your project.
# add_subdirectory tells CMake to look in this directory to
# compile oboe source files using oboe's CMake file.
# ./oboe specifies where the compiled binaries will be storedadd_subdirectory (${OBOE_DIR} ./oboe)# Specify the path to the Oboe header files.
# This allows targets compiled with this CMake (application code)
# to see public Oboe headers, in order to access its API.include_directories (${OBOE_DIR}/include)# Searches for a specified prebuilt library and stores the path as a
# variable. Because CMake includes system libraries in the search path by
# default, you only need to specify the name of the public NDK library
# you want to add. CMake verifies that the library exists before
# completing its build.find_library( # Sets the name of the path variable.log-lib# Specifies the name of the NDK library that# you want CMake to locate.log)# Specifies libraries CMake should link to your target library. You
# can link multiple libraries, such as libraries you define in this
# build script, prebuilt third-party libraries, or system libraries.target_link_libraries( # Specifies the target library.native-libOpenSLESaaudiooboe# Links the target library to the log library# included in the NDK.${log-lib})

然后,指定一些常量和结构体放在一个头文件中,方便使用。

// Constants.h
#ifndef FASTPATHAUDIOECHO_CONSTANTS_H
#define FASTPATHAUDIOECHO_CONSTANTS_H#include <iostream>
#include <stdlib.h>
#include <string.h>#define NANO_SEC_IN_MILL_SEC 100000
struct AudioFrame{int64_t pts;int16_t *data;int32_t sampleCount;int32_t maxDataSizeInByte = 0;AudioFrame(int32_t dataLenInByte){this->maxDataSizeInByte = dataLenInByte;pts = 0;sampleCount = 0;data = (int16_t *)malloc(maxDataSizeInByte);memset(data, 0, maxDataSizeInByte);}~AudioFrame(){if(data != NULL){free(data);}}
};
#endif //FASTPATHAUDIOECHO_CONSTANTS_H

3. 低延迟音频原理及功能实现方案

官方文档分别在OpenSL ES和AAudio页面介绍了如何启用低延迟音频。总结起来共有以下四点:

  • 获取硬件最佳采样率
  • 获取硬件最佳buffer长度
  • 对框架启用低延迟模式
  • 使用回调函数而非客户端主动读取或写入数据

其中,最佳采样率和最佳buffer长度是针对硬件的。每个手机厂商的每款机型,可能由于硬件芯片的不同,芯片的原生采样率和音频buffer长度都不同,因此这两个数据需要程序运行时动态查询。使用硬件原生采样率和buffer长度的目的,就是避免系统中对音频数据进行的重采样或帧缓冲等操作。
而启用低延迟模式可以理解为,不要让系统在音频中添加效果。并且提高音频线程的优先级。

查询最佳采样率和buffer长度可以通过AudioManager进行:

val audioManager = getSystemService(Context.AUDIO_SERVICE) as AudioManager
val sampleRate = audioManager.getProperty(AudioManager.PROPERTY_OUTPUT_SAMPLE_RATE).toInt()
val framesPerBuffer = audioManager.getProperty(AudioManager.PROPERTY_OUTPUT_FRAMES_PER_BUFFER).toInt()

这个工程三种API的实现思路是一样的。首先,实现一个线程安全的数据结构,方便从recorder到player传输数据。然后依据每种api实现对应的recorder和player。Echo则是对回放功能的实现类,它使用了player和recorder,并管理两者之间的数据传输,以及播放状态。

因为练手的原因,我一共实现了两种线程安全的数据结构:BlockQueueBlockRingBuffer。前者基于一个list实现,后者是基于数组实现的环形buffer。

两者的基本特性是一样的:线程安全,内部空时get操作会被阻塞,内部满时put操作会被阻塞。

为了尽可能降低延迟,在启动时都是先启动player,这个时候由于buffer是空的,所以player会被阻塞,然后启动recorder,一旦recorder将数据放到buffer里,那player就能立即开始播放。

4. 使用OpenSL ES

4.1 播放器实现

源码文件是SLESPlayer。

对于OpenSL ES来说,尽管官方文档中说明了它的输出流也可以设置低延迟模式SL_ANDROID_PERFORMANCE_LATENCY,但是我在一加手机上无法配置成功。在官方的android-echo示例中也并没有找到相关的配置代码。

这里贴一下建立播放器的源码,因为OpenSL ES用起来还是挺复杂的,一是文档不是很全,二是源码没有注释。

/*** 初始化播放器。* engine:OpenSLES引擎。* dataCallback:数据回调接口。为空时,需要客户端自行向播放器填充数据。* sampleRate:采样率* channelCount:声道数* framesPerBuffer:一个buffer包含多少帧,通常这是在使用低延迟音频时会设置。* return:是否成功初始化。* */
bool SLESPlayer::init(SLESEngine &engine, ISLESPlayerCallback *dataCallback, int32_t sampleRate, int32_t channelCount,int32_t framesPerBuffer) {this->dataCallback = dataCallback;this->sampleRate = sampleRate;this->framesPerBuffer = framesPerBuffer;this->channelCount = channelCount;// 初始化一个buffer。if(audioBuffer){free(audioBuffer);}audioBuffer = (int16_t *)calloc(framesPerBuffer * channelCount, sizeof(int16_t));SLEngineItf engineEngine = engine.getEngine();SLresult result;// 初始化一个outputMixSLInterfaceID ids1[1] = {SL_IID_OUTPUTMIX};SLboolean reqs1[1] = {SL_BOOLEAN_FALSE};result = (*engineEngine)->CreateOutputMix(engineEngine, &outputMixObject, 0, ids1, reqs1);if(result != SL_RESULT_SUCCESS){return false;}result = (*outputMixObject)->Realize(outputMixObject, SL_BOOLEAN_FALSE);if(result != SL_RESULT_SUCCESS){return false;}// Create playerSLDataLocator_AndroidSimpleBufferQueue bufferQueue = {SL_DATALOCATOR_ANDROIDSIMPLEBUFFERQUEUE, 2};SLDataFormat_PCM pcmFormat = {SL_DATAFORMAT_PCM, (uint32_t)channelCount, (uint32_t)sampleRate * 1000, SL_PCMSAMPLEFORMAT_FIXED_16, SL_PCMSAMPLEFORMAT_FIXED_16,SL_SPEAKER_FRONT_CENTER, SL_BYTEORDER_LITTLEENDIAN};SLDataSource audioSrc = {&bufferQueue, &pcmFormat};SLDataLocator_OutputMix locOutputMix = {SL_DATALOCATOR_OUTPUTMIX, outputMixObject};SLDataSink audioSink = {&locOutputMix, NULL};SLInterfaceID ids2[2] = {SL_IID_BUFFERQUEUE, SL_IID_VOLUME};SLboolean reqs2[2] = {SL_BOOLEAN_TRUE, SL_BOOLEAN_FALSE};result = (*engineEngine)->CreateAudioPlayer(engineEngine, &playerObject, &audioSrc, &audioSink, 2, ids2, reqs2);if(result != SL_RESULT_SUCCESS){return false;}result = (*playerObject)->Realize(playerObject, SL_BOOLEAN_FALSE);if(result != SL_RESULT_SUCCESS){return false;}// 这是配置低延迟模式的代码,但是configItf一直是null。系统log打印W/libOpenSLES: Leaving Object::GetInterface (SL_RESULT_FEATURE_UNSUPPORTED)SLAndroidConfigurationItf configItf = nullptr;result = (*playerObject)->GetInterface(playerObject, SL_IID_ANDROIDCONFIGURATION, &configItf);if(result == SL_RESULT_SUCCESS && configItf != nullptr){// Set the performance mode.SLuint32 performanceMode = SL_ANDROID_PERFORMANCE_LATENCY;result = (*configItf)->SetConfiguration(configItf, SL_ANDROID_KEY_PERFORMANCE_MODE,&performanceMode, sizeof(performanceMode));if(result != SL_RESULT_SUCCESS){LOGE("failed to enable low latency of player");}} else{LOGE("failed to get config obj");}result = (*playerObject)->GetInterface(playerObject, SL_IID_PLAY, &playerPlay);if(result != SL_RESULT_SUCCESS){return false;}result = (*playerObject)->GetInterface(playerObject, SL_IID_BUFFERQUEUE, &playerBufferQueue);if(result != SL_RESULT_SUCCESS){return false;}if(dataCallback){result = (*playerBufferQueue)->RegisterCallback(playerBufferQueue, playerCallback, this);if(result != SL_RESULT_SUCCESS){return false;}}// 要注意,OpenSLES在创建好播放器或者录音器后,需要手动Enqueue一次,才能触发主动回调。result = (*playerBufferQueue)->Enqueue(playerBufferQueue, audioBuffer, framesPerBuffer * channelCount * sizeof(int16_t));if(result != SL_RESULT_SUCCESS){return false;}(*playerPlay)->SetPlayState(playerPlay, SL_PLAYSTATE_STOPPED);return true;
}

这里的采样率和buffer长度就要设置为之前通过AudioManager查询得到的数据。

特别注意的是,OpenSL ES每次在start时需要手动Enqueue一次空buffer,这样它才会主动回调给它设置的callback。否则,不光是可能不会回调,还有可能出现杂音等一系列问题。

4.2 录音器实现

源码为SLESRecorder

对于recorder来说,设置recorder的config为SL_ANDROID_RECORDING_PRESET_VOICE_RECOGNITION,是降低录音延迟的设置。

	/*** 初始化。* engine:引擎* dataCallback:输出录音数据的回调。为空时,需要客户端主动从录音器读取数据* sampleRate:采样率* framesPerBuffer:buffer可以容纳多少帧数据。对于录音器来说,该选项并不会影响延迟。录音器总是以尽可能快的方式进行。* return:是否成功初始化* */
bool SLESRecorder::init(SLESEngine &engine, ISLESRecorderCallback *dataCallback, int32_t sampleRate, int32_t framesPerBuffer) {this->dataCallback = dataCallback;this->sampleRate = sampleRate;this->framesPerBuffer = framesPerBuffer;if(audioBuffer){free(audioBuffer);}audioBuffer = (int16_t *)calloc(framesPerBuffer, sizeof(int16_t));const SLEngineItf engineEngine = engine.getEngine();if(!engineEngine){LOGE("engineEngine null");return false;}SLresult result;SLDataLocator_IODevice deviceInputLocator = { SL_DATALOCATOR_IODEVICE, SL_IODEVICE_AUDIOINPUT, SL_DEFAULTDEVICEID_AUDIOINPUT, NULL };SLDataSource inputSource = { &deviceInputLocator, NULL };SLDataLocator_AndroidSimpleBufferQueue inputLocator = { SL_DATALOCATOR_ANDROIDSIMPLEBUFFERQUEUE, 2 };SLDataFormat_PCM inputFormat = { SL_DATAFORMAT_PCM, 1, (SLuint32)sampleRate * 1000, SL_PCMSAMPLEFORMAT_FIXED_16, SL_PCMSAMPLEFORMAT_FIXED_16, SL_SPEAKER_FRONT_LEFT, SL_BYTEORDER_LITTLEENDIAN };SLDataSink inputSink = { &inputLocator, &inputFormat };const SLInterfaceID inputInterfaces[2] = { SL_IID_ANDROIDSIMPLEBUFFERQUEUE, SL_IID_ANDROIDCONFIGURATION };const SLboolean requireds[2] = { SL_BOOLEAN_TRUE, SL_BOOLEAN_TRUE };// 创建AudioRecorderresult = (*engineEngine)->CreateAudioRecorder(engineEngine, &recorderObject, &inputSource, &inputSink, 2, inputInterfaces, requireds);if(result != SL_RESULT_SUCCESS){LOGE("create recorder error");return false;}// 设置recorder的config为SL_ANDROID_RECORDING_PRESET_VOICE_RECOGNITION,这是开启录音器低延迟的方法。SLAndroidConfigurationItf recordConfig;result = (*recorderObject)->GetInterface(recorderObject, SL_IID_ANDROIDCONFIGURATION, &recordConfig);if(result == SL_RESULT_SUCCESS){SLuint32 presentValue = SL_ANDROID_RECORDING_PRESET_VOICE_RECOGNITION;(*recordConfig)->SetConfiguration(recordConfig, SL_ANDROID_KEY_RECORDING_PRESET, &presentValue, sizeof(SLuint32));}// 初始化AudioRecorderresult = (*recorderObject)->Realize(recorderObject, SL_BOOLEAN_FALSE);if(result != SL_RESULT_SUCCESS){LOGE("realise recorder object error");return false;}// 获取录制器接口result = (*recorderObject)->GetInterface(recorderObject, SL_IID_RECORD, &recorderRecord);if(result != SL_RESULT_SUCCESS){LOGE("get interface error");return false;}// 获取音频输入的BufferQueue接口result = (*recorderObject)->GetInterface(recorderObject, SL_IID_ANDROIDSIMPLEBUFFERQUEUE, &recorderBufferQueue);if(result != SL_RESULT_SUCCESS){LOGE("get buffer queue error");return false;}if(dataCallback){result = (*recorderBufferQueue)->RegisterCallback(recorderBufferQueue, recorderCallback, this);if(result != SL_RESULT_SUCCESS){LOGE("register callback error");return false;}}// 要注意,OpenSLES在创建好播放器或者录音器后,需要手动Enqueue一次,才能触发主动回调。result = (*recorderBufferQueue)->Enqueue(recorderBufferQueue, audioBuffer, framesPerBuffer * sizeof(int16_t));if(result != SL_RESULT_SUCCESS){return false;}(*recorderRecord)->SetRecordState(recorderRecord, SL_RECORDSTATE_STOPPED);return true;
}

4.3 Echo实现

源码是SLESEcho

它使用上面的player和recorder,因此这部分的代码已经相当简单,注意启动时的顺序,以及结束时的防止死锁:

void SLESEcho::start() {// 为了降低延迟,先启动播放器,让它的回调函数阻塞,一旦录音器有数据填充进来,可以立刻开始播放。player.start();recorder.start();
}void SLESEcho::stop() {// 首先调用对应部件的stop方法,该方法是异步的,不会阻塞。但是回调函数可能仍然在阻塞,因此要对buffer进行设置,// 解除等待状态,然后再恢复阻塞功能。recorder.stop();buffer.setWaitPutState(false);player.stop();buffer.setWaitGetState(false);buffer.setWaitGetState(true);buffer.setWaitPutState(true);
}

5. 使用AAudio

使用AAudio的回调函数模式时要注意:AAudio回调函数需要返回AAUDIO_CALLBACK_RESULT_CONTINUEAAUDIO_CALLBACK_RESULT_STOP,来指示流是否继续进行。但是我发现如果你返回了stop,那么之后再调用start时,回调函数并不会被调用,也就无法正常录制或播放。而且AAudio的回调函数中并没有任何方式可以告诉AAudio你从它的audioData这个buffer里读取或写入了多少帧数据,所以它默认应该是你将buffer全都写满或者全都读取了。因此我建议,在录音端并不需要做任何特殊处理,但是在播放端,回调函数应该一直返回AAUDIO_CALLBACK_RESULT_CONTINUE,如果你因为播放功能已经停止,或者其他什么原因,导致你无法给到AAudio播放需要的那么多数据,只要简单将传到回调函数的audioData这个buffer全部置0,再尽可能写入即可,这样表现出的只是静音而已,并不会出现异常情况。对于流的状态,只需要通过流本身的start或stop进行即可。

5.1 播放器实现

源码是AAudioPlayer

相比于OpenSL ES,AAudio则要清楚很多。依旧只贴一下创建的代码。AAudio的输出流可以设置低延迟模式,为AAUDIO_PERFORMANCE_MODE_LOW_LATENCY

bool AAudioPlayer::init(IAAudioPlayerCallback *dataCallback, int32_t sampleRate, int32_t channelCount, PERFORMANCE_MODE mode, int32_t framesPerBuffer) {this->dataCallback = dataCallback;this->sampleRate = sampleRate;this->channelCount = channelCount;this->framesPerBuffer = framesPerBuffer;emptyBuffer = (int16_t *)calloc(framesPerBuffer * channelCount, sizeof(int16_t));aaudio_result_t result;AAudioStreamBuilder *outputBuilder;result = AAudio_createStreamBuilder(&outputBuilder);if(result != AAUDIO_OK){LOGE("create output stream builder error");AAudioStreamBuilder_delete(outputBuilder);return false;}AAudioStreamBuilder_setDirection(outputBuilder, AAUDIO_DIRECTION_OUTPUT);AAudioStreamBuilder_setFormat(outputBuilder, AAUDIO_FORMAT_PCM_I16);AAudioStreamBuilder_setSamplesPerFrame(outputBuilder, framesPerBuffer);AAudioStreamBuilder_setSampleRate(outputBuilder, sampleRate);AAudioStreamBuilder_setChannelCount(outputBuilder, channelCount);if(dataCallback){AAudioStreamBuilder_setDataCallback(outputBuilder, output_callback, this);}AAudioStreamBuilder_setPerformanceMode(outputBuilder, mode); // 在这里设置低延迟模式result = AAudioStreamBuilder_openStream(outputBuilder, &outputStream);AAudioStreamBuilder_delete(outputBuilder);if(result != AAUDIO_OK){LOGE("open play stream failed");return false;}return true;
}

5.2 录音器实现

源码是AAudioRecorder

同输出流一样,AAudio的输入流可以设置低延迟模式,为AAUDIO_PERFORMANCE_MODE_LOW_LATENCY

bool AAudioRecorder::init(IAAudioRecorderCallback *dataCallback, int32_t sampleRate, PERFORMANCE_MODE mode, int32_t framesPerBuffer, int32_t micID) {this->sampleRate = sampleRate;this->framesPerBuffer = framesPerBuffer;this->micID = micID;this->dataCallback = dataCallback;this->mode = mode;aaudio_result_t result;AAudioStreamBuilder *inputBuilder;result = AAudio_createStreamBuilder(&inputBuilder);if(result != AAUDIO_OK){LOGE("create input stream builder error");return false;}if(micID != -1){AAudioStreamBuilder_setDeviceId(inputBuilder, micID);}AAudioStreamBuilder_setFormat(inputBuilder, AAUDIO_FORMAT_PCM_I16);AAudioStreamBuilder_setSamplesPerFrame(inputBuilder, framesPerBuffer);AAudioStreamBuilder_setSampleRate(inputBuilder, sampleRate);AAudioStreamBuilder_setChannelCount(inputBuilder, 1);AAudioStreamBuilder_setDirection(inputBuilder, AAUDIO_DIRECTION_INPUT);AAudioStreamBuilder_setPerformanceMode(inputBuilder, mode); // 在这里设置低延迟模式。if(dataCallback){AAudioStreamBuilder_setDataCallback(inputBuilder, input_callback, this);}result = AAudioStreamBuilder_openStream(inputBuilder, &inputStream);if(result != AAUDIO_OK){LOGE("open record stream failed");return false;}aaudio_performance_mode_t actualPerformance = AAudioStream_getPerformanceMode(inputStream);LOGD("actual performance mode is %d", actualPerformance);return true;}

5.3 Echo实现

源码为AAudioEcho

Echo的实现基本同OpenSL ES的一致,就不贴了。

6. 使用Oboe

Oboe使用起来就更简单了,按照文档配置好编译即可。由于Oboe已经对它的播放和录制模块封装得非常好,因此我就不再单独封装出player和recorder。直接贴出Echo的初始化。

源码是OboeEcho

    /*** 初始化* sampleRate:采样率* api:指定使用OpenSLES或者是AAudio。不设置时由系统自行确定。* framesPerBuffer:每个buffer包含多少帧。* micID:仅当Oboe使用AAudio进行echo时才有效。* */
bool OboeEcho::init(int32_t sampleRate, AudioApi api, int32_t framesPerBuffer, int32_t micID) {this->sampleRate = sampleRate;this->framesPerBuffer = framesPerBuffer;this->micID = micID;buffer = new BlockRingBuffer<int16_t>(3 * framesPerBuffer);oboe::Result result;AudioStreamBuilder inputBuilder;inputBuilder.setAudioApi(api);inputBuilder.setCallback(this);inputBuilder.setDirection(Direction::Input);inputBuilder.setChannelCount(ChannelCount::Mono);inputBuilder.setPerformanceMode(PerformanceMode::LowLatency); // 指定为低延迟inputBuilder.setSharingMode(SharingMode::Shared);inputBuilder.setFormat(AudioFormat::I16);inputBuilder.setSampleRate(sampleRate);inputBuilder.setFramesPerCallback(framesPerBuffer);inputBuilder.setDeviceId(micID);result = inputBuilder.openStream(&recordStream);if(result != Result::OK){LOGE("create input stream failed");return false;}AudioStreamBuilder outputBuilder;outputBuilder.setAudioApi(api);outputBuilder.setCallback(this);outputBuilder.setDirection(Direction::Output);outputBuilder.setChannelCount(ChannelCount::Mono);outputBuilder.setPerformanceMode(PerformanceMode::LowLatency); // 指定为低延迟outputBuilder.setSharingMode(SharingMode::Shared);outputBuilder.setFormat(AudioFormat::I16);outputBuilder.setSampleRate(sampleRate);outputBuilder.setFramesPerCallback(framesPerBuffer);result = outputBuilder.openStream(&playStream);if(result != Result::OK){LOGE("create output stream failed");return false;}this->inputApi = recordStream->getAudioApi();if(inputApi == AudioApi::OpenSLES){LOGD("oboe recorder use api OpenSLES");}else if(inputApi == AudioApi::AAudio){LOGD("oboe recorder use api AAudio");} else{LOGD("oboe recorder use api UNKNOWN");}this->outputApi = playStream->getAudioApi();if(inputApi == AudioApi::OpenSLES){LOGD("oboe player use api OpenSLES");}else if(inputApi == AudioApi::AAudio){LOGD("oboe player use api AAudio");} else{LOGD("oboe player use api UNKNOWN");}return true;}

注意:当启动回放时,由于是先启动player,因此player的线程会在回调函数里阻塞等待recorder启动并放入音频数据。但是在OpenSL ES那章讲过,OpenSL ES的player在启动时,需要手动Enqueue一个空buffer进去才能正常播放。Oboe也是这么做的。因此如果Oboe使用的是OpenSL ES进行播放,那么这个流程会导致死锁,我们可以看一下Oboe的源码。由于是指定了OpenSL ES进行播放,因此Oboe内部是使用AudioOutputStreamOpenSLES实现的。看一下它的requestStart方法:

Result AudioOutputStreamOpenSLES::requestStart() {LOGD("AudioOutputStreamOpenSLES(): %s() called", __func__);mLock.lock();StreamState initialState = getState();switch (initialState) {case StreamState::Starting:case StreamState::Started:mLock.unlock();return Result::OK;case StreamState::Closed:mLock.unlock();return Result::ErrorClosed;default:break;}// We use a callback if the user requests one// OR if we have an internal callback to read the blocking IO buffer.setDataCallbackEnabled(true);setState(StreamState::Starting);Result result = setPlayState_l(SL_PLAYSTATE_PLAYING);if (result == Result::OK) {setState(StreamState::Started);mLock.unlock();if (getBufferDepth(mSimpleBufferQueueInterface) == 0) {// Enqueue the first buffer if needed to start the streaming.// This might call requestStop() so try to avoid a recursive lock.// 注意到这里,它进行了callback相关的操作,进去看一下。processBufferCallback(mSimpleBufferQueueInterface);}} else {setState(initialState);mLock.unlock();}return result;
}// 在processBufferCallback下有这行代码,它是调用callback获取了一个buffer数据。
// Ask the app callback to process the buffer.
DataCallbackResult result = fireDataCallback(mCallbackBuffer.get(), mFramesPerCallback);

可以看到,在stream的requestStart方法中,就已经调用了回调函数去获取数据了,因此如果在输入流没有启动之前,就让输出流的回调函数一直阻塞,那么输出流的requestStart方法就会被一直阻塞,导致无法启动输入流。

因此,对于Oboe使用OpenSL ES的情况,我是如下实现启动函数和回调函数的。

void OboeEcho::start() {if(!recordStream || !playStream){LOGE("player or recorder not prepared");return;}playFlag = true;/** 如果指定OpenSLES,则该标识为客户端是否刚启动播放。因为OpenSLES在启动时需要手动Enqueue一个空buffer。* 并且这个Enqueue的过程不是异步的,它会阻塞start方法。* 而由于我们希望尽可能降低播放延迟,因此都是首先启动play流。此时音频数据buffer是空的,play方法就会阻塞在* 回调函数里,等待录音流放入数据。但是play的start方法一直阻塞导致无法进行到recorder的start方法,就会发生死锁。* */justStart = true;playStream->start(10 * NANO_SEC_IN_MILL_SEC);recordStream->start(10 * NANO_SEC_IN_MILL_SEC);}DataCallbackResult
OboeEcho::onAudioReady(AudioStream *oboeStream, void *audioData, int32_t numFrames) {if(!playFlag){return DataCallbackResult::Continue;}if(oboeStream == playStream){LOGD("player callback called");int32_t readSize = buffer->getRange((int16_t *)audioData, numFrames, !justStart);if(justStart){justStart = false;}
//        int32_t readSize = 0;
//        sleep(2);LOGD("player get data, readSize = %d", readSize);if(readSize != numFrames){return DataCallbackResult::Continue;}} else{LOGD("recorder callback called");int32_t writeSize = buffer->putAll((int16_t *)audioData, numFrames);LOGD("recorder write data, writeSize = %d", writeSize);if(writeSize != numFrames){return DataCallbackResult::Continue;}}return DataCallbackResult::Continue;
}

注意到buffer->getRange((int16_t *)audioData, numFrames, !justStart)这个函数调用,这里我使用的是环形BlockRingBuffer,该方法的最后一个bool的意思为是否阻塞该方法,即如果此时buffer里面的数据没有达到要求的那么多个,它就不会等待,而是立即返回已经拿到的数据个数。这样player的回调在第一次调用时就不会被阻塞。

7. 功能配置

别忘了先请求录音权限

native-lib.cpp中,我指定了一个参数可以启动哪个echo:

extern "C" JNIEXPORT jboolean JNICALL
Java_com_zu_fastpathaudioecho_MainActivity_nInit(JNIEnv *env, jobject instance, jint sampleRate, jint framesPerBuffer, jint api)
{if(echo != nullptr){return false;}if(api == 0){echo = new SLESEcho();return echo->init(sampleRate, framesPerBuffer);} else if(api == 1){echo = new AAudioEcho();return echo->init(sampleRate, framesPerBuffer);} else if(api >= 2){echo = new OboeEcho();AudioApi audioApi = api == 2 ? AudioApi::OpenSLES : AudioApi::AAudio;return ((OboeEcho *)echo)->init(sampleRate, audioApi, framesPerBuffer);}
}

至此就结束了,native音频这里确实还是比较多坑的,踩下来需要很多耐心。详细源码可以去我的github上下载。

总体来说,OpenSL ES使用起来颇为繁琐,文档查看起来也不够详尽,很多配置很难完全了解清楚。但它的优势在于支持广泛,并且功能强大。当然由于这是ES版本,不可能在移动端实现全部的OpenSL库功能。

AAudio用起来比较省心一点,但因为是在Android 8.0才推出的,所以在照顾老机型方面需要慎重考虑(魅族pro7,同年的一加3t已经到9.0了,但是pro7居然还是7.0。这样的厂商真是开发者的噩梦)。

而Oboe则是集大成者,通常情况下,如果你不指定所使用的API,那么框架会自动进行选择,非常省心。所以除非要加一些依赖于OpenSL ES的效果,否则使用Oboe是最好的。


http://www.ppmy.cn/news/197193.html

相关文章

友盟推送集成笔记

友盟推送集成笔记 友盟推送集成文档笔记 集成文档 https://developer.umeng.com/docs/67966/detail/68343 推送简介及友盟推送集成要点 https://www.jianshu.com/p/06aa66142834 该问题有一定的影响范围&#xff0c;第一次安装或缓存失效后存在概率注册失败&#xff0c;这个…

2018android 最新技术,2018年智能手机“新鲜事”,一起来看看,你的手机有这些新科技嘛...

2018年智能手机“新鲜事”&#xff0c;一起来看看&#xff0c;你的手机有这些新科技嘛 2018-12-27 08:50:00 6点赞 13收藏 23评论 了解更多科技资讯、玩机技巧、数码测评&#xff01;欢迎大家点击右上角关注我&#xff1a;闪电玩技 智能手机在这一年可谓好戏不断&#xff0c;大…

arm mali 天梯图_11月最新版联发科CPU天梯图 直观看天梯图秒懂联发科处理器排行...

一款智能手机的性能强悍程度主要取决于手机芯片。就目前手机芯片厂商来说,主要有高通、联发科、苹果和三星占据。其中联发科占据第二大市场,不像苹果和三星那样主要用于自家产品身上。虽说联发科在很多用户来说,性能不够强悍。但对于今年的联发科来说,小编倒是蛮看好这家厂…

2016-2020历年旗舰新机

-----------2020新机-------------- 小米10 小米十年集大成之作&#xff0c;于2020年2月13日在国内正式发布 。 小米10采用左上角挖孔曲面屏设计搭载高通骁龙865处理器&#xff0c;后置1亿像素AI四摄。 华为P40 上半年发布&#xff0c;Mate40下半年发布。 华为P40搭载麒麟990…

洗礼灵魂,修炼python(82)--全栈项目实战篇(10)—— 信用卡+商城项目(模拟京东淘宝)...

本次项目相当于对python基础做总结&#xff0c;常用语法&#xff0c;数组类型&#xff0c;函数&#xff0c;文本操作等等 本项目在博客园里其他开发者也做过&#xff0c;我是稍作修改来的&#xff0c;大体没变的 项目需求&#xff1a; 信用卡商城&#xff1a; A、信用卡&#x…

工匠精神消失的手机2020:衰落、变局、绝唱、破圈

文/智能相对论&#xff08;aixdlun&#xff09; 作者/郭锴 2015年&#xff0c;华为终端总裁余承东曾预言&#xff0c;未来四到五年&#xff0c;国内的智能手机品牌将只会剩余三家。彼时还处于群雄逐鹿时代&#xff0c;这个结论在当时看起来颇有些武断。但今天&#xff0c;202…

魅族应用市场之--自动化测试Umeng分享报错

打完包&#xff0c;用360加固完成&#xff0c;上传到魅族应用市场。 魅族反馈&#xff0c;测试化不通过&#xff0c;报错&#xff1a; {"brandName":"魅族","failMsg":"// CRASH: com.moreunion.zhenghao (pid 8391) // Short Msg: java.…

魅族pro7H节能优化手册

魅族pro7H节能优化手册 一、 使用前的准备 1、 软件&#xff1a;①tasker&#xff08;或者镧工具箱2.0&#xff09;②绿色守护③freezeyou!④禁用服务⑤block⑥autostarts⑦root explorer&#xff08;主要是用来找文件路径&#xff0c;不是必须的&#xff09;⑧supersu#⑨哔哩哔…