Android OpenGLES2.0开发(八):Camera预览

news/2024/11/19 21:57:40/

严以律己,宽以待人

引言

终于到该章节了,还记得Android OpenGLES2.0开发(一):艰难的开始章节说的吗?写这个系列的初衷就是因为每次用到GLSurfaceView+Camera预览时,总是Ctrl+CCtrl+V从来没有研究过里面的代码,也不知道如何修改。经过前面章节的铺垫,现在可以自信的说Camera+OpenGL ES轻松拿捏。

外部纹理

上一篇中我们已经讲过如何显示一张图片,而Camera预览其实也是显示一张一张的图片。我们将Camera的预览帧数据转化为Bitmap传给OpenGL ES就可以了。但是这种方式就失去了使用OpenGL ES效率高的优势,NV21转Bitmap是CPU操作极其耗性能。

那么有没有更好的方式?答案是有的,我们可以将NV21数据直接传给OpenGL ES进行处理预览,这样操作就快了很多。我们知道OpenGL ES显示的是RGBA的数据,相当于OpenGL ES要将NV21转为RGBA,效率肯定比上面的情况好很多,但是操作略微复杂,这也不是最终方案,有没有更简单的方式呢?

Android的CameraCamera2都可以使用SurfaceTexture作为预览载体,但是它们所使用的SurfaceTexture传入的OpenGL ES texture object name必须为GLES11Ext.GL_TEXTURE_EXTERNAL_OESGL_TEXTURE_EXTERNAL_OES是一种特殊的纹理类型,只用于处理外部图像或视频数据,如从摄像头捕捉的实时图像和外部视频流

GL_TEXTURE_EXTERNAL_OES的特点:

  • 需采用特殊的采样器类型和纹理着色器扩展
  • 使用二维纹理坐标进行操作,与GL_TEXTURE_2D相似
  • 专门用于处理外部图像或视频数据,可直接从BufferQueue中接收的数据渲染纹理多边形,从而提供更高效的视频处理和渲染性能

纹理渲染

Android Camera系列(三):GLSurfaceView+Camera这篇文章我们详细介绍了Camera使用GLSurfaceView进行预览操作,但唯独缺失了使用OpenGL ES绘制部分,而本篇是时候填坑了。

开始编写代码前,我们需要将上一篇的Image类拷贝一份命名为CameraFilter

1. 修改纹理着色器

首先,我们需要修改我们的着色器,将顶点着色器修改为:

// 顶点着色器代码
private final String vertexShaderCode ="uniform mat4 uMVPMatrix;\n" +// 顶点坐标"attribute vec4 vPosition;\n" +"uniform mat4 uTexPMatrix;\n" +// 纹理坐标"attribute vec4 vTexCoordinate;\n" +"varying vec2 aTexCoordinate;\n" +"void main() {\n" +"  gl_Position = uMVPMatrix * vPosition;\n" +"  aTexCoordinate = (uTexPMatrix * vTexCoordinate).xy;\n" +"}";

顶点着色器中的代码和渲染图片顶点着色器代码基本一致,增加了一个uTexPMatrix变量,这个是用来对纹理坐标进行变换的矩阵

uTexPMatrix纹理顶点变换的矩阵其实可以不用,我们只用顶点变换矩阵也是可以的,但是我们就需要对Camera前后置旋转变换要做一个处理。而SurfaceTexture中会自带一个变换矩阵,我们拿来直接用就不用处理Camera的前后置及旋转方向的问题了。

// 片段着色器代码
private final String fragmentShaderCode ="#extension GL_OES_EGL_image_external : require\n" +"precision mediump float;\n" +"uniform samplerExternalOES vTexture;\n" +"varying vec2 aTexCoordinate;\n" +"void main() {\n" +"  gl_FragColor = texture2D(vTexture, aTexCoordinate);\n" +"}\n";

片段着色器中我们不再使用sampler2D采样,而是使用samplerExternalOES纹理采样器,并且要在头部增加使用扩展纹理的声明#extension GL_OES_EGL_image_external : require

2. 设置顶点坐标和纹理坐标

上一篇中我们已经正确设置了坐标,所以这两个顶点坐标保持不变

3. 初始化

初始化我们不再需要传入Bitmap

public CameraFilter() {
...
}

4. 创建外部纹理

我们需要在surfaceCreated中创建外部纹理,相机预览使用EXTERNAL_OES纹理,创建方式与2D纹理创建基本相同

public void surfaceCreated() {// 加载顶点着色器程序...// 创建纹理句柄textureId = createTexture();
}public int createTexture() {int[] texture = new int[1];GLES20.glGenTextures(1, texture, 0);GLES20.glBindTexture(GLES11Ext.GL_TEXTURE_EXTERNAL_OES, texture[0]);GLES20.glTexParameterf(GLES11Ext.GL_TEXTURE_EXTERNAL_OES,GL10.GL_TEXTURE_MIN_FILTER, GL10.GL_LINEAR);GLES20.glTexParameterf(GLES11Ext.GL_TEXTURE_EXTERNAL_OES,GL10.GL_TEXTURE_MAG_FILTER, GL10.GL_LINEAR);GLES20.glTexParameteri(GLES11Ext.GL_TEXTURE_EXTERNAL_OES,GL10.GL_TEXTURE_WRAP_S, GL10.GL_CLAMP_TO_EDGE);GLES20.glTexParameteri(GLES11Ext.GL_TEXTURE_EXTERNAL_OES,GL10.GL_TEXTURE_WRAP_T, GL10.GL_CLAMP_TO_EDGE);// 取消绑定纹理GLES20.glBindTexture(GLES11Ext.GL_TEXTURE_EXTERNAL_OES, 0);return texture[0];
}

由于我们创建的是扩展纹理,所以绑定的时候我们也需要绑定到扩展纹理上才可以正常使用,GLES20.glBindTexture(GLES11Ext.GL_TEXTURE_EXTERNAL_OES,texture[0])

5. 计算变换矩阵

surfaceChanged中计算变换矩阵,由于视图的变换现在交给了纹理顶点坐标,所以我们顶点坐标矩阵使用原始矩阵即可。

public void surfaceChanged(int width, int height) {GLES20.glViewport(0, 0, width, height);// 获取原始矩阵,与原始矩阵相乘坐标不变Matrix.setIdentityM(mMVPMatrix, 0);
}

现在出现了两个矩阵,一个是顶点变换矩阵,一个是纹理变换矩阵。只要有顶点坐标都可以进行变换,但是我们最好控制变量,不要两个同时变换。如果还想继续使用顶点坐标矩阵变换,那么可以删除纹理矩阵参数。

5. 渲染

我们修改draw方法中的部分代码

  • 将纹理变换矩阵传入给顶点着色器
  • glBindTexture改为GLES11Ext.GL_TEXTURE_EXTERNAL_OES
public void draw(float[] texMatrix) {...// 将纹理坐标变换矩阵传递给顶点着色器GLES20.glUniformMatrix4fv(vTexPMatrixHandle, 1, false, texMatrix, 0);...// 激活纹理编号0GLES20.glActiveTexture(GLES20.GL_TEXTURE0);// 绑定纹理GLES20.glBindTexture(GLES11Ext.GL_TEXTURE_EXTERNAL_OES, textureId);// 设置纹理采样器编号,该编号和glActiveTexture中设置的编号相同GLES20.glUniform1i(texHandle, 0);// 绘制GLES20.glDrawArrays(GLES20.GL_TRIANGLE_STRIP, 0, 4);// 取消绑定纹理GLES20.glBindTexture(GLES11Ext.GL_TEXTURE_EXTERNAL_OES, 0);...
}

Camera_137">Camera预览

GLSurfaceView的模板代码我就不再这里列了,我这里只把Renderer中的代码再贴出来,看下他是如何使用CameraFilter进行渲染的

static class MyRenderer implements Renderer {private CameraFilter mCameraFilter;private int mTextureId;private SurfaceTexture mSurfaceTexture;private CameraGLSurfaceView mView;private final float[] mDisplayProjectionMatrix = new float[16];public MyRenderer(CameraGLSurfaceView glSurfaceView) {mView = glSurfaceView;mCameraFilter = new CameraFilter();}@Overridepublic void onSurfaceCreated(GL10 gl, EGLConfig config) {mCameraFilter.surfaceCreated();mTextureId = mCameraFilter.getTextureId();mSurfaceTexture = new SurfaceTexture(mTextureId);mView.mMainHandler.post(() -> mView.surfaceTextureCreated(mSurfaceTexture));}@Overridepublic void onSurfaceChanged(GL10 gl, int width, int height) {mCameraFilter.surfaceChanged(width, height);}@Overridepublic void onDrawFrame(GL10 gl) {// 更新最新纹理mSurfaceTexture.updateTexImage();// 获取SurfaceTexture变换矩阵mSurfaceTexture.getTransformMatrix(mDisplayProjectionMatrix);// 将SurfaceTexture绘制到GLSurfaceViewmCameraFilter.draw(mDisplayProjectionMatrix);}
}

Renderer的代码比较简单,在对应的生命周期中调用CameraFilter的生命周期方法即可。我们需要注意的就是onDrawFrame方法中的功能:

  • mSurfaceTexture.updateTexImage:
    从OpenGL上下文线程,即当前渲染线程中更新图像数据流最近的一帧纹理图像。调用该方法我们可以获取一帧新的图像用来渲染。
  • mSurfaceTexture.getTransformMatrix:
    获取刚那一帧纹理数据的变换矩阵,我们只需将该矩阵传入着色器就可以获取一个方向正确的预览视图。

为什么getTransformMatrix获取到的矩阵可以获取到正确的预览方向?原因在于Camera在初始化时设置了正确的预览方向,他会把正确的方向映射给SurfaceTexture。所以我们不需要再写复杂的投影变化了,直接用getTransformMatrix获取的变换矩阵即可。

请添加图片描述
预览效果如上,搞定手工!

最后

该篇章主要讲解了OpenGL ES对外部纹理Camera预览数据如何进行渲染,因为有了前面的基础,在对外部纹理渲染时我们只修改了部分代码即可实现。Camera的相关操作我们在Android Camera系列中有详细的讲解,这里没有在重复说明,回顾前面的篇章本篇享用更佳。

OpenGL ES系列:https://github.com/xiaozhi003/OpenGLDemo.git
Camera系列:https://github.com/xiaozhi003/AndroidCamera.git


http://www.ppmy.cn/news/1548333.html

相关文章

Vue3-02

toRef 作用:创建一个 ref 对象,其value值指向另一个对象中的某个属性。 语法:const name toRef(person,‘name’) 应用: 要将响应式对象中的某个属性单独提供给外部使用时。 扩展:toRefs与toRef功能一致,但可以批量创…

为什么 Vue3 封装 Table 组件丢失 expose 方法呢?

在实际开发中,我们通常会将某些常见组件进行二次封装,以便更好地实现特定的业务需求。然而,在封装 Table 组件时,遇到一个问题:Table 内部暴露的方法,在封装之后的组件获取不到。 代码展示为: …

芯原科技嵌入式面试题及参考答案

Linux 相关驱动怎么写? 在 Linux 中编写驱动主要有以下步骤。 首先,需要了解设备的硬件特性。这包括设备的工作原理、寄存器地址和功能、中断号等信息。例如,对于一个简单的 GPIO 设备,要知道其数据寄存器、方向寄存器的位置以及读写操作的规则。 然后是模块的初始化部分。…

Python re 模块:正则表达式的强大工具

文章目录 Python re 模块:正则表达式的强大工具导入 re 模块基本匹配方法re.match()re.search()re.findall()re.finditer() 替换操作re.sub() 分割字符串re.split() 捕获组和非捕获组捕获组非捕获组 常用模式符号实际应用示例验证电子邮件格式提取 URL 预定义字符简…

【企业级分布式系统】ZooKeeper集群

文章目录 Zookeeper 概述Zookeeper 定义Zookeeper 工作机制Zookeeper 特点Zookeeper 数据结构Zookeeper 选举机制 部署 Zookeeper 集群准备 3 台服务器作为 Zookeeper 集群节点1. 安装前准备关闭防火墙安装 JDK下载安装包 2. 安装 Zookeeper修改配置文件拷贝配置好的 Zookeeper…

网络技术-访问控制列表(ACL)

访问控制列表(Access Control Lists,ACL)是一种基于包过滤的访问控制技术,它可以根据设定的条件对接口上的数据包进行过滤,允许其通过或丢弃。 备注:ACL被广泛地应用于路由器和三层交换机。 ACL的使用涉及…

HarmonyOS ArkUI(基于ArkTS) 开发布局 (上)

一 ArkUI(基于ArkTS)概述 基于ArkTS的声明式开发范式的方舟开发框架是一套开发极简、高性能、支持跨设备的UI开发框架,提供了构建应用UI所必需的能力 点击详情 特点 开发效率高,开发体验好 代码简洁:通过接近自然语义的方式描述UI&#x…

MySQL技巧之跨服务器数据查询:基础篇-A数据库与B数据库查询合并--封装到存储过程中

MySQL技巧之跨服务器数据查询:基础篇-A数据库与B数据库查询合并–封装到存储过程中 我们的最终目的是什么?当然的自动执行这些合并操作! 上一篇 MySQL技巧之跨服务器数据查询:基础篇-A数据库与B数据库查询合并 我们已经知道怎么合…