Android PreviewFrame上的PreviewCallback不会更改数据

Android PreviewFrame上的PreviewCallback不会更改数据,android,camera,surfaceview,Android,Camera,Surfaceview,我想对来自相机的图像进行一些图像处理,并将其显示在SurfaceView上,但我不知道如何修改相机帧。我尝试使用setPreviewCallbackWithBuffer和onPreviewFrame,但它们无法按预期工作,帧未被修改 /** A basic Camera preview class */ public class CameraPreview extends SurfaceView implements SurfaceHolder.Callback, Camera.

我想对来自相机的图像进行一些图像处理,并将其显示在SurfaceView上,但我不知道如何修改相机帧。我尝试使用setPreviewCallbackWithBuffer和onPreviewFrame,但它们无法按预期工作,帧未被修改

/** A basic Camera preview class */
public class CameraPreview extends SurfaceView implements
        SurfaceHolder.Callback, Camera.PreviewCallback {
    private SurfaceHolder mHolder;
    private Camera mCamera;
    private byte[] mData;
    private long prevFrameTick = System.currentTimeMillis();
    Canvas mCanvas;

    public CameraPreview(Context context, Camera camera) {
        super(context);
        mCamera = camera;

        // Install a SurfaceHolder.Callback so we get notified when the
        // underlying surface is created and destroyed.
        mHolder = getHolder();
        mHolder.addCallback(this);
        Size previewSize = mCamera.getParameters().getPreviewSize();
        mData = new byte[(int) (previewSize.height * previewSize.width * 1.5)];
        initBuffer();
        // deprecated setting, but required on Android versions prior to 3.0
        mHolder.setType(SurfaceHolder.SURFACE_TYPE_PUSH_BUFFERS);
    }

    private void initBuffer() {
        mCamera.addCallbackBuffer(mData);
        mCamera.addCallbackBuffer(mData);
        mCamera.addCallbackBuffer(mData);
        mCamera.setPreviewCallbackWithBuffer(this);
    }

    public void setCamera(Camera cam) {
        mCamera = cam;
        initBuffer();
    }

    public void surfaceCreated(SurfaceHolder holder) {
        // The Surface has been created, now tell the camera where to draw the
        // preview.
        try {
            mCamera.setPreviewDisplay(holder);
            initBuffer();
            mCamera.startPreview();
        } catch (IOException e) {
            Log.d("APP",
                    "Error setting camera preview: " + e.getMessage());
        }
    }

    public void surfaceDestroyed(SurfaceHolder holder) {
        // empty. Take care of releasing the Camera preview in your activity.
    }

    public void surfaceChanged(SurfaceHolder holder, int format, int w, int h) {
        // If your preview can change or rotate, take care of those events here.
        // Make sure to stop the preview before resizing or reformatting it.

        if (mHolder.getSurface() == null) {
            // preview surface does not exist
            return;
        }

        // stop preview before making changes
        try {
            mCamera.stopPreview();
        } catch (Exception e) {
            // ignore: tried to stop a non-existent preview
        }

        // set preview size and make any resize, rotate or
        // reformatting changes here

        // start preview with new settings
        try {
            mCamera.setPreviewDisplay(mHolder);
            initBuffer();
            mCamera.startPreview();
        } catch (Exception e) {
            Log.d("APP",
                    "Error starting camera preview: " + e.getMessage());
        }
    }

    public void onPreviewFrame(byte[] data, Camera camera) {
        // System.arraycopy(data, 0, mData, 0, data.length);
        Log.e("onPreviewFrame", data.length + " "
                + (System.currentTimeMillis() - prevFrameTick));
        prevFrameTick = System.currentTimeMillis();
        mData = new byte[data.length];
        mCamera.addCallbackBuffer(mData);
    }
}

如果使用setPreviewDisplay()调用,则无法修改发送到SurfaceView的预览数据。预览视频流完全在应用程序外部管理,无法访问

您可以采取以下几种选择:

  • 可以在SurfaceView顶部放置第二个视图,例如ImageView或另一个SurfaceView,并将onPreviewFrame回调接收的数据绘制到此视图中。您必须从预览回调格式(通常为NV21)进行一些颜色/像素格式转换以进行显示,显然,您也必须首先对该数据运行图像处理。这不是很有效,除非您愿意编写一些JNI代码

  • 在Android 3.0或更高版本上,您可以使用该方法,通过使用对象将摄影机预览流导入OpenGL纹理,然后在显示之前可以在OpenGL中对其进行操作。那么您根本不需要预览回调。如果GPU处理足够,这将更有效。如果希望以其他方式显示/处理预览数据,还可以使用OpenGL readPixels调用将处理后的预览数据返回到应用程序


  • 也许这对某人会有帮助。 通过使用OpenCV库从相机检索帧,我解决了这个问题。 在OpenCv 3中,有一种方法onCameraFrame(CvCameraViewFrame inputFrame):

    您可以从“示例”文件夹中尝试相机预览项目

    或者您可以在ndk中执行此操作 但我没试过这架飞机


    或者在这里,您可以使用NDK在C/C++中找到从YUV到RGB的解码

    谢谢,我已将其格式化:D,您能帮助我吗?我不明白您想做什么?我想修改相机帧并在surfaceview上显示修改后的帧。我在onPreviewFrame中进行了一些图像处理,并通过addPreviewBuffer将修改后的数据添加到相机缓冲区。但是,框架没有改变:(是的,它不是这样工作的。如果你想显示修改后的图像,你需要将它放在ImageView中,这意味着我必须将YUV数据转换为BMP并显示在ImageView上。谢谢,我已经实现了第一个解决方案,它工作得很好(使用JNI)。第二个是不可能的,因为我希望我的程序在Android 2.2及以上版本上运行。顺便问一下,你能告诉我如何从ImageView录制视频,因为我使用ImageView显示相机修改后的图片。我无法在第一个表面视图上放置另一个表面视图。你实现了表面视图吗或者图像视图?从ImageView录制视频没有简单的方法。在最新的Android版本之前,只能直接从相机进行录制,因此在那里几乎不可能。从4.2开始,有一个MediaCodec API允许从OpenGL渲染进行录制,因此您可以将ImageView数据加载到OpenGL并使用那个
        public Mat onCameraFrame(CvCameraViewFrame inputFrame) {
    
        // here you can do something with inputFrame before it appears on the preview
    
        return inputFrame.rgba();
    }