NDK OpenGL实现美颜功能

news/2024/11/19 5:53:18/

NDK​系列之OpenGL实现美颜特效,本节主要是在上一节大眼萌的特效视上增加美颜特效。

OpenGL视频特效系列:

NDK OpenGL渲染画面效果

NDK OpenGL离屏渲染与工程代码整合

NDK OpenGL仿抖音极快极慢录制特效视频

NDK OpenGL与OpenCV实现大眼萌特效

NDK OpenGL实现美颜功能

实现效果:

实现逻辑:

1.增加美颜过滤器;

2.编写美颜片元着色器代码;

3.开启美颜效果。

一、美颜过滤器

美颜过滤器BeautyFilter的写法跟其他过滤器基本是差不多的,在初始化构造方法的时候,调用父类进行初始化顶点着色器代码和片元着色器代码;

public class BeautyFilter extends BaseFrameFilter {private final int width; // 最新改变的宽private final int height; // 最新改变的高public BeautyFilter(Context context) {super(context, R.raw.base_vertex, R.raw.beauty_fragment); // beauty_fragment片元着色器:专门用来做 模糊/高反差/磨皮width = glGetUniformLocation(mProgramId, "width"); // 关联最新改变的宽height = glGetUniformLocation(mProgramId, "height"); // 关联最新改变的高}@Overridepublic int onDrawFrame(int textureId) {// 1:设置视窗glViewport(0, 0, mWidth, mHeight);// 这里是因为要渲染到FBO缓存中,而不是直接显示到屏幕上glBindFramebuffer(GL_FRAMEBUFFER, mFrameBuffers[0]);// 2:使用着色器程序glUseProgram(mProgramId);// 渲染 传值// 1:顶点数据mVertexBuffer.position(0);glVertexAttribPointer(vPosition, 2, GL_FLOAT, false, 0, mVertexBuffer); // 传值glEnableVertexAttribArray(vPosition); // 传值后激活// 2:纹理坐标mTextureBuffer.position(0);glVertexAttribPointer(vCoord, 2, GL_FLOAT, false, 0, mTextureBuffer); // 传值glEnableVertexAttribArray(vCoord); // 传值后激活// TODO 给纹理宽高 赋值  只有这个点和以前不同,其他的 全部都是模板代码 都是之前的glUniform1i(width, mWidth);glUniform1i(height, mHeight);// 片元 vTextureglActiveTexture(GL_TEXTURE0); // 激活图层glBindTexture(GL_TEXTURE_2D, textureId); // 绑定glUniform1i(vTexture, 0); // 传递参数glDrawArrays(GL_TRIANGLE_STRIP, 0, 4); // 通知opengl绘制// 解绑FBOglBindTexture(GL_TEXTURE_2D, 0);glBindFramebuffer(GL_FRAMEBUFFER, 0);return mFrameBufferTextures[0]; // 同学们注意:返回fbo的纹理id}
}

 二、美颜片元着色器

要实现美颜效果需要进行一下三步:

1)模糊

// TODO 1: 高斯模糊处理(参考代码是对绿色通道做了高斯模糊, 而我们这里对所有通道做了高斯模糊)vec2 singleStepOffset = vec2(1.0/float(width), 1.0/float(height));/** 高斯模糊原理:所谓"模糊",可以理解成每一个像素都取周边像素的平均值1 中间像素点 是根据周边像素的平均值来进行高斯模糊的2 360度 / 20度 = 18度 每隔18度就取像素值,然后再去映射下面的坐标值*/// 下面是为了去 采集20个点 (对green通道进行高斯模糊) 我们等下使用rgb通道进行高斯模糊经验值(取周边 平均值)blurCoordinates[0] = aCoord.xy + singleStepOffset * vec2(0.0, -10.0); // 向量的偏移运算(都是基础功能美颜,固定的模板代码了)blurCoordinates[1] = aCoord.xy + singleStepOffset * vec2(0.0, 10.0);blurCoordinates[2] = aCoord.xy + singleStepOffset * vec2(-10.0, 0.0);blurCoordinates[3] = aCoord.xy + singleStepOffset * vec2(10.0, 0.0);blurCoordinates[4] = aCoord.xy + singleStepOffset * vec2(5.0, -8.0);blurCoordinates[5] = aCoord.xy + singleStepOffset * vec2(5.00, 8.0);blurCoordinates[7] = aCoord.xy + singleStepOffset * vec2(-5.0, 8.0);blurCoordinates[6] = aCoord.xy + singleStepOffset * vec2(-5., -8.0);blurCoordinates[8] = aCoord.xy + singleStepOffset * vec2(8.0, -5.0);blurCoordinates[9] = aCoord.xy + singleStepOffset * vec2(8.0, 5.0);blurCoordinates[10] = aCoord.xy + singleStepOffset * vec2(-8.0, 5.0);blurCoordinates[11] = aCoord.xy + singleStepOffset * vec2(-8.0, -5.0);blurCoordinates[12] = aCoord.xy + singleStepOffset * vec2(0.0, -6.0);blurCoordinates[13] = aCoord.xy + singleStepOffset * vec2(0.0, 6.0);blurCoordinates[14] = aCoord.xy + singleStepOffset * vec2(6.0, 0.0);blurCoordinates[15] = aCoord.xy + singleStepOffset * vec2(-6.0, 0.0);blurCoordinates[16] = aCoord.xy + singleStepOffset * vec2(-4.0, -4.0);blurCoordinates[17] = aCoord.xy + singleStepOffset * vec2(-4.0, 4.0);blurCoordinates[18] = aCoord.xy + singleStepOffset * vec2(4.0, -4.0);blurCoordinates[19] = aCoord.xy + singleStepOffset * vec2(4.0, 4.0);vec4 currentColor = texture2D(vTexture, aCoord);  // 当前采样点的像素值 vec4代表rgbavec3 rgb = currentColor.rgb;for (int i = 0; i < 20; i++){ // 计算坐标颜色值的总和rgb += texture2D(vTexture, blurCoordinates[i].xy).rgb; // 采集20个点的像素}// rgb: 21个点的总和vec4 blur = vec4(rgb *1.0/21.0, currentColor.a);

2)高反差

// TODO 2:高反差vec4 highPassColor = currentColor - blur; // 高反差公式:原图 - 高斯模糊 = 高反差// 强度系数 - TODO 强光模式(手电筒照上去)// clamp(夹具函数) glsl着色器语音的内置函数 :取三个参数的中间值highPassColor.r = clamp(2.0*highPassColor.r*highPassColor.r * 24.0, 0.0, 1.0); // 【同学们注意:需要反复去调】highPassColor.g = clamp(2.0*highPassColor.g*highPassColor.g * 24.0, 0.0, 1.0);highPassColor.b = clamp(2.0*highPassColor.b*highPassColor.b * 24.0, 0.0, 1.0);vec4 highPassBlur = vec4(highPassColor.rgb, 1.0); // 可以去痘印,疤痕 等// highPassBlur == rgba 经过了 高斯模糊 高反差 强光模式gl_FragColor = highPassBlur; // TODO 2:高反差,先不磨皮,先运行看看效果了【只能看到五官轮廓黑边边了】

3)磨皮

// TODO 3:磨皮// 蓝色分量  min glsl着色器语音的内置函数:取两个参数的最小值float blue = min(currentColor.b, blur.b); // 取两个参数的最小值float value = clamp((blue - 0.2) * 5.0, 0.0, 1.0); // 【同学们注意:需要反复去调】 经验值  最开始做美颜功能前辈// 取r, g, b 三个分量中最大的值   max glsl着色器语音的内置函数:取三个参数的最大值float maxChannelColor = max(max(highPassColor.r, highPassColor.g), highPassColor.b);float intensity = 1.0; // 磨皮强度,磨皮强度 不能太强,例如:3.0 那就看起来有斑纹了float currentIntensity = (1.0 - maxChannelColor / (maxChannelColor + 0.2)) * value * intensity; // 【同学们注意:需要反复去调】 经验值  最开始做美颜功能前辈// 线性混合// mix: 返回线性混合的x和y,如:x⋅(1−a)+y⋅avec3 rgb_value = mix(currentColor.rgb, blur.rgb, currentIntensity);// 把rgb的vec3 变成 vec4,所以增加1.0 透明通道, 因为gl_FragColor内置变量就是rgba的vec4类型gl_FragColor = vec4(rgb_value, 1.0); // gl_FragColor: rgb不支持 yuv   TODO 3:磨皮,看看效果

完整美颜片元着色器代码:

// TODO 美颜的片元着色器代码
// 既然是美颜,肯定是美颜整个屏幕,所以不需要顶点着色器 直接用base的顶点着色器,只需要美颜的片元着色器precision mediump float; // 中精度varying vec2 aCoord; // 纹理坐标uniform sampler2D vTexture; // 采样器uniform int width; // 纹理的宽uniform int height; // 纹理的高vec2 blurCoordinates[20];// 大问题思考:我们做美颜,难道要自己写吗? 不需要自己写美颜功能
// 美颜功能是基础功能-很复杂的   小米手机  华为手机  xxx手机// 美颜三部曲:1.高斯模糊,  2.高反差     3.磨皮
// 官方源码 高斯模糊:采样点 绿色 基本上就可以做高斯模糊了,  我们等下要高rgb,我们会更丰富void main() {// TODO 1: 高斯模糊处理(参考代码是对绿色通道做了高斯模糊, 而我们这里对所有通道做了高斯模糊)vec2 singleStepOffset = vec2(1.0/float(width), 1.0/float(height));/** 高斯模糊原理:所谓"模糊",可以理解成每一个像素都取周边像素的平均值1 中间像素点 是根据周边像素的平均值来进行高斯模糊的2 360度 / 20度 = 18度 每隔18度就取像素值,然后再去映射下面的坐标值*/// 下面是为了去 采集20个点 (对green通道进行高斯模糊) 我们等下使用rgb通道进行高斯模糊经验值(取周边 平均值)blurCoordinates[0] = aCoord.xy + singleStepOffset * vec2(0.0, -10.0); // 向量的偏移运算(都是基础功能美颜,固定的模板代码了)blurCoordinates[1] = aCoord.xy + singleStepOffset * vec2(0.0, 10.0);blurCoordinates[2] = aCoord.xy + singleStepOffset * vec2(-10.0, 0.0);blurCoordinates[3] = aCoord.xy + singleStepOffset * vec2(10.0, 0.0);blurCoordinates[4] = aCoord.xy + singleStepOffset * vec2(5.0, -8.0);blurCoordinates[5] = aCoord.xy + singleStepOffset * vec2(5.00, 8.0);blurCoordinates[7] = aCoord.xy + singleStepOffset * vec2(-5.0, 8.0);blurCoordinates[6] = aCoord.xy + singleStepOffset * vec2(-5., -8.0);blurCoordinates[8] = aCoord.xy + singleStepOffset * vec2(8.0, -5.0);blurCoordinates[9] = aCoord.xy + singleStepOffset * vec2(8.0, 5.0);blurCoordinates[10] = aCoord.xy + singleStepOffset * vec2(-8.0, 5.0);blurCoordinates[11] = aCoord.xy + singleStepOffset * vec2(-8.0, -5.0);blurCoordinates[12] = aCoord.xy + singleStepOffset * vec2(0.0, -6.0);blurCoordinates[13] = aCoord.xy + singleStepOffset * vec2(0.0, 6.0);blurCoordinates[14] = aCoord.xy + singleStepOffset * vec2(6.0, 0.0);blurCoordinates[15] = aCoord.xy + singleStepOffset * vec2(-6.0, 0.0);blurCoordinates[16] = aCoord.xy + singleStepOffset * vec2(-4.0, -4.0);blurCoordinates[17] = aCoord.xy + singleStepOffset * vec2(-4.0, 4.0);blurCoordinates[18] = aCoord.xy + singleStepOffset * vec2(4.0, -4.0);blurCoordinates[19] = aCoord.xy + singleStepOffset * vec2(4.0, 4.0);vec4 currentColor = texture2D(vTexture, aCoord);  // 当前采样点的像素值 vec4代表rgbavec3 rgb = currentColor.rgb;for (int i = 0; i < 20; i++){ // 计算坐标颜色值的总和rgb += texture2D(vTexture, blurCoordinates[i].xy).rgb; // 采集20个点的像素}// rgb: 21个点的总和vec4 blur = vec4(rgb *1.0/21.0, currentColor.a);// gl_FragColor = blur; // TODO 1: 高斯模糊处理 看看效果 【画面模糊了,看不清楚细节了】// TODO 2:高反差vec4 highPassColor = currentColor - blur; // 高反差公式:原图 - 高斯模糊 = 高反差// 强度系数 - TODO 强光模式(手电筒照上去)// clamp(夹具函数) glsl着色器语音的内置函数 :取三个参数的中间值highPassColor.r = clamp(2.0*highPassColor.r*highPassColor.r * 24.0, 0.0, 1.0); // 【同学们注意:需要反复去调】highPassColor.g = clamp(2.0*highPassColor.g*highPassColor.g * 24.0, 0.0, 1.0);highPassColor.b = clamp(2.0*highPassColor.b*highPassColor.b * 24.0, 0.0, 1.0);vec4 highPassBlur = vec4(highPassColor.rgb, 1.0); // 可以去痘印,疤痕 等// highPassBlur == rgba 经过了 高斯模糊 高反差 强光模式gl_FragColor = highPassBlur; // TODO 2:高反差,先不磨皮,先运行看看效果了【只能看到五官轮廓黑边边了】// TODO 3:磨皮// 蓝色分量  min glsl着色器语音的内置函数:取两个参数的最小值float blue = min(currentColor.b, blur.b); // 取两个参数的最小值float value = clamp((blue - 0.2) * 5.0, 0.0, 1.0); // 【同学们注意:需要反复去调】 经验值  最开始做美颜功能前辈// 取r, g, b 三个分量中最大的值   max glsl着色器语音的内置函数:取三个参数的最大值float maxChannelColor = max(max(highPassColor.r, highPassColor.g), highPassColor.b);float intensity = 1.0; // 磨皮强度,磨皮强度 不能太强,例如:3.0 那就看起来有斑纹了float currentIntensity = (1.0 - maxChannelColor / (maxChannelColor + 0.2)) * value * intensity; // 【同学们注意:需要反复去调】 经验值  最开始做美颜功能前辈// 线性混合// mix: 返回线性混合的x和y,如:x⋅(1−a)+y⋅avec3 rgb_value = mix(currentColor.rgb, blur.rgb, currentIntensity);// 把rgb的vec3 变成 vec4,所以增加1.0 透明通道, 因为gl_FragColor内置变量就是rgba的vec4类型gl_FragColor = vec4(rgb_value, 1.0); // gl_FragColor: rgb不支持 yuv   TODO 3:磨皮,看看效果// gl_FragColor 必须是接收 rgba,所以没有办法,手动组装  1.0 == a 透明值// 美白的代码:color.r=max(min(color.r, 1.0), 0.0);// 改装后代码:clamp(color.r, 1.0, 0.0);
}

三、开启美颜效果

1)用户点击开启美颜

((CheckBox)findViewById(R.id.chk_beauty)).setOnCheckedChangeListener(new CompoundButton.OnCheckedChangeListener() {@Overridepublic void onCheckedChanged(CompoundButton buttonView, boolean isChecked) {mGLSurfaceView.enableBeauty(isChecked);}
});

2)将事件分发到自定义渲染器MyGlRendere,在渲染器统一处理效果,开启美颜特效

public void enableBeauty(final boolean isChecked) {myGLSurfaceView.queueEvent(new Runnable() {public void run() {if (isChecked) {mBeautyFilter = new BeautyFilter(myGLSurfaceView.getContext());mBeautyFilter.onReady(mWidth, mHeight);} else {mBeautyFilter.release();mBeautyFilter = null;}}});
}

3)相机绘制一帧图像时,会回调到自定义渲染器MyGlRendere的onDrawFrame()函数,获取纹理对象的图像数据,先通过CamreaFilter相机过滤器,实现相关效果,再将其FBO的纹理ID传递给大眼过滤器BigEyeFilter,大眼过滤器增加完特效后,再将包含大眼特效的纹理ID传递给美颜过滤器BeautyFilter,美颜过滤器增加完特效后,将包含美颜特效的纹理ID,传递给ScreenFilter屏幕过滤器,将最终成果的纹理ID通过OpenGL渲染到屏幕;

@Override
public void onDrawFrame(GL10 gl) {Log.i(TAG, "onDrawFrame");// 每次清空之前的:例子:上课擦黑白 是一个道理glClearColor(255, 0, 0, 0); // 屏幕清理成颜色 红色,清理成红色的黑板一样// mask 细节看看此文章:https://blog.csdn.net/z136411501/article/details/83273874// GL_COLOR_BUFFER_BIT 颜色缓冲区// GL_DEPTH_BUFFER_BIT 深度缓冲区// GL_STENCIL_BUFFER_BIT 模型缓冲区glClear(GL_COLOR_BUFFER_BIT);// 绘制摄像头数据mSurfaceTexture.updateTexImage();  // 将纹理图像更新为图像流中最新的帧数据【刷新一下】// 画布,矩阵数据,通过Native层将数据存储到mtxmSurfaceTexture.getTransformMatrix(mtx);// 相机过滤器,绘制一帧图像,不可见mCameraFilter.setMatrix(mtx);int textureId = mCameraFilter.onDrawFrame(mTextureID[0]); // 摄像头,矩阵,都已经做了// 增加其他特效/*textureId = 美白.onDrawFrame(textureId);textureId = 大眼.onDrawFrame(textureId);textureId = xxx.onDrawFrame(textureId);*/// TODO 【大眼相关代码】 textureId = 大眼Filter.onDrawFrame(textureId);if (null != mBigEyeFilter) {mBigEyeFilter.setFace(mFaceTrack.getFace());textureId = mBigEyeFilter.onDrawFrame(textureId);}// TODO 【美颜相关代码】if (null != mBeautyFilter) { // 没有不需要 人脸追踪/人脸关键点,整个屏幕美颜textureId = mBeautyFilter.onDrawFrame(textureId);}// 屏幕过滤器,绘制一帧图像,屏幕显示mScreenFilter.onDrawFrame(textureId); // textureId == 最终成果的纹理IDmMediaRecorder.encodeFrame(textureId, mSurfaceTexture.getTimestamp());
}

4)美颜过滤器BeautyFilter绘制美颜效果

@Override
public int onDrawFrame(int textureId) {// 1:设置视窗glViewport(0, 0, mWidth, mHeight);// 这里是因为要渲染到FBO缓存中,而不是直接显示到屏幕上glBindFramebuffer(GL_FRAMEBUFFER, mFrameBuffers[0]);// 2:使用着色器程序glUseProgram(mProgramId);// 渲染 传值// 1:顶点数据mVertexBuffer.position(0);glVertexAttribPointer(vPosition, 2, GL_FLOAT, false, 0, mVertexBuffer); // 传值glEnableVertexAttribArray(vPosition); // 传值后激活// 2:纹理坐标mTextureBuffer.position(0);glVertexAttribPointer(vCoord, 2, GL_FLOAT, false, 0, mTextureBuffer); // 传值glEnableVertexAttribArray(vCoord); // 传值后激活// TODO 给纹理宽高 赋值  只有这个点和以前不同,其他的 全部都是模板代码 都是之前的glUniform1i(width, mWidth);glUniform1i(height, mHeight);// 片元 vTextureglActiveTexture(GL_TEXTURE0); // 激活图层glBindTexture(GL_TEXTURE_2D, textureId); // 绑定glUniform1i(vTexture, 0); // 传递参数glDrawArrays(GL_TRIANGLE_STRIP, 0, 4); // 通知opengl绘制// 解绑FBOglBindTexture(GL_TEXTURE_2D, 0);glBindFramebuffer(GL_FRAMEBUFFER, 0);return mFrameBufferTextures[0]; // 同学们注意:返回fbo的纹理id
}

至此,OpenGL实现美颜特效已完成,后续再增加其他特效也是这个套路。

开源的特效有很多:

美颜开源的着色器代码:https://github.com/wuhaoyu1990/MagicCamera/blob/master/Project-AndroidStudio/magicfilter/src/main/res/raw/beauty.glsl
美白开源的着色器代码:
https://github.com/smzhldr/AGLFramework/blob/master/aglframework/src/main/res/raw/light_f.
glsl

源码:

NdkOpenGLPlay: NDK OpenGL渲染画面效果


http://www.ppmy.cn/news/911952.html

相关文章

利用深度学习进行黑白照片着色:使用 Keras 构建 GAN 进行照片自动上色的详细实践指南

利用深度学习进行黑白照片着色&#xff1a;使用 Keras 构建 GAN 进行照片自动上色的实践指南 在这篇博客文章中&#xff0c;我们将探讨一个具有挑战性的问题&#xff0c;即如何利用深度学习自动为黑白照片上色。传统的图片上色过程是一个艰苦且劳动密集型的过程&#xff0c;必…

中国古代异物-植物

人木&#xff1a; 传说中异木名。枝上生物如人头&#xff0c;能笑。 唐段成式《酉阳杂俎物异》&#xff1a;“人木&#xff1a;大食西南二千里有国&#xff0c;山谷间树枝上化生人首&#xff0c;如花&#xff0c;不解语&#xff0c;人借问&#xff0c;笑而已&#xff0c;频笑辄…

关于gateway中lb失效

在通过gateway将请求发送到对应的服务模块时&#xff0c;出现了503的报错&#xff0c;也就是gateway时可以正常启动&#xff0c;但是页面上在发送请求获取数据的时候&#xff0c;却不是相应的请求地址。 解决方法&#xff1a; 1.首先你得保证前端项目里面访问网关地址都是正确…

基于多模态融合与图神经网络的用户精准感知系统研究

摘要 5G时代&#xff0c;通信运营商面临网络复杂化、业务差异化和用户需求多样化等挑战&#xff0c;引入人工智能技术&#xff0c;实现对用户的精准感知&#xff0c;并按需为用户提供个性化服务&#xff0c;已经成为运营商数字化转型的重点方向。研究了用户精准感知系统的构建…

leetcode 2766. 重新放置石块

给你一个下标从 0 开始的整数数组 nums &#xff0c;表示一些石块的初始位置。再给你两个长度 相等 下标从 0 开始的整数数组 moveFrom 和 moveTo 。 在 moveFrom.length 次操作内&#xff0c;你可以改变石块的位置。在第 i 次操作中&#xff0c;你将位置在 moveFrom[i] 的所有…

SPAD-502叶绿素仪测定植被叶绿素含量的方法

本文介绍基于SPAD-502叶绿素仪测定植被叶片叶绿素含量的方法。 SPAD-502是由日本柯尼卡美能达&#xff08;Konica Minolta&#xff09;株式会社生产的轻便、手持式叶绿素仪&#xff0c;可以在不破坏作物的情况下快速测量植被叶片中的叶绿素含量。本文就详细介绍基于这一便携式叶…

KUKA机器人视觉3

随着技术的发展&#xff0c;3D相机的使用越来越频繁&#xff0c;当然如果价格亲民点、再亲民点&#xff0c;那将得到更多的使用。 今天我们就来说说3D相机和机器人之间那些思维。 往往3D相机是标定工具的&#xff0c;因此相机给出的位置信息对于机器人来说相当于绝对坐标值&…

Camera

public class Camera extends Object 本类主要用于和 camera service 建立及断开连接、设置拍照功能 、开启及关闭 预览 、拍照、检索 frames 编码成 video 。本类没有默认的构造函数&#xff0c;你可以通过 open() 函数获得一个 Camera 对象。 首先要使用硬件 camer…