Android平台实现屏幕录制(屏幕投影)|音频播放采集|麦克风采集并推送RTMP或轻量级RTSP服务

原创

音视频牛哥 2024-08-16 15:14:30 ©著作权

文章标签 Android屏幕录制 Android屏幕投影 Android同屏 Android采集屏幕大牛直播SDK 文章分类 音视频 私藏项目实操分享

©著作权归作者所有：来自51CTO博客作者音视频牛哥的原创作品，请联系作者获取转载授权，否则将追究法律责任

技术背景

好多开发者，希望我们能系统的介绍下无纸化同屏的原理和集成步骤，以Android平台为例，无纸化同屏将Android设备上的屏幕内容实时投射到另一个显示设备（如Windows终端、国产化操作系统或另一台Android设备）上，从而实现多屏互动和内容的无缝共享。

技术考量指标

本文以大牛直播SDK Android同屏采集推送为例，介绍下我们前些年做Android同屏采集推送的时候，一些注意点：

声明所需权限：在Android应用的AndroidManifest.xml文件中声明必要的权限；
获取MediaProjectionManager服务：在你Activity或Service，通过getSystemService方法获取MediaProjectionManager服务；
创建并启动屏幕捕获Intent：使用MediaProjectionManager的createScreenCaptureIntent方法创建一个Intent，该Intent会启动一个系统对话框，请求用户授权屏幕捕获；
处理用户授权结果：在onActivityResult回调中，根据用户授权的结果来获取MediaProjection对象；
创建VirtualDisplay并捕获屏幕：获得了MediaProjection对象，就可以使用它来创建一个VirtualDisplay，这个VirtualDisplay会捕获屏幕内容并将其发送到指定的Surface；
资源释放：当屏幕捕获不再需要时，确保释放MediaProjection和VirtualDisplay对象，以避免资源泄露；
视频编码：通过上述步骤，捕获带的屏幕内容需要进行视频编码，以便在网络中传输。如H.264、H.265等，以及设置合适的分辨率、帧率、码率，以适应不同的网络环境和接收设备的性能；
流媒体协议：为了将编码后的视频流实时传输到接收端，Android无纸化同屏技术通常采用RTMP推流模式或轻量级RTSP服务。

技术实现

本文以大牛直播SDK的Android的SmartServicePublisherV2的同屏demo为例，Android采集计时器，编码打包分别启动RTMP推送和轻量级RTSP服务，Windows过来分别拉取RTMP和RTSP的流，整体延迟毫秒级：

Android平台实现屏幕录制(屏幕投影)|音频播放采集|麦克风采集并推送RTMP或轻量级RTSP服务_大牛直播SDK

启动APP后，先选择需要采集的分辨率（如果选原始分辨率，系统不做缩放），然后选择“启动媒体投影”，并分别启动音频播放采集、采集麦克风。如果音频播放采集和采集麦克风都打开，可以通过右侧下拉框，推送过程中，音频播放采集和麦克风采集实时切换。需要注意的是，Android采集音频播放的audio，音频播放采集是依赖屏幕投影的，屏幕投影关闭后，音频播放也就采不到了。

编码的话，考虑到屏幕分辨率一般不会太低，我们可以缩放后再推送，默认我们开启了原始分辨率、标准分辨率、低分辨率选项设置。一般建议标准分辨率即可。如果对画质和分辨率要求比较高，可以选择原始分辨率。设备支持硬编码，优先选择H.264硬编，如果是H.265硬编，需要RTMP服务器支持扩展H.265（或Enhanced RTMP）。

都选择好后，设置RTMP推送的URL，点开始RTMP推送按钮即可。

如果需要通过轻量级RTSP服务，发布RTSP流，先点击启动RTSP服务按钮，RTSP服务启动后，再点击启动RTSP流，RTSP流发布成功后，界面会回调上来RTSP拉流的URL。

Android平台实现屏幕录制(屏幕投影)|音频播放采集|麦克风采集并推送RTMP或轻量级RTSP服务_Android屏幕投影_02

下面从代码逻辑实现角度，介绍下同屏的具体流程：

启动媒体服务，进入系统后，我们会自动启动媒体服务，对应的实现逻辑如下：

/*
 * MainActivity.java
 * Created by daniusdk.com on 2017/04/19.
 */
private void start_media_service() {
	Intent intent = new Intent(getApplicationContext(), StreamMediaDemoService.class);
	if (Build.VERSION.SDK_INT >= 26) {
		Log.i(TAG, "startForegroundService");
		startForegroundService(intent);
	} else
		startService(intent);

	bindService(intent, service_connection_, Context.BIND_AUTO_CREATE);
	button_stop_media_service_.setText("停止媒体服务");
}

private void stop_media_service() {
	if (media_engine_callback_ != null)
		media_engine_callback_.reset(null);

	if (media_engine_ != null) {
		media_engine_.unregister_callback(media_engine_callback_);
		media_engine_ = null;
	}

	media_engine_callback_ = null;

	if (media_binder_ != null) {
		media_binder_ = null;
		unbindService(service_connection_);
	}

	Intent intent = new Intent(getApplicationContext(), StreamMediaDemoService.class);
	stopService(intent);
	button_stop_media_service_.setText("启动媒体服务");
}

需要注意的是，Android 6.0及以上版本，动态获取Audio权限：

/*
 * MainActivity.java
 * Created by daniusdk.com on 2017/04/19.
 */
private boolean check_record_audio_permission() {
	//6.0及以上版本，动态获取Audio权限
	if (PackageManager.PERMISSION_GRANTED == checkPermission(android.Manifest.permission.RECORD_AUDIO, Process.myPid(), Process.myUid()))
		return true;

	return false;
}

private void request_audio_permission() {
	if (Build.VERSION.SDK_INT < 23)
		return;

	Log.i(TAG, "requestPermissions RECORD_AUDIO");
	ActivityCompat.requestPermissions(this, new String[] {android.Manifest.permission.RECORD_AUDIO}, REQUEST_AUDIO_CODE);
}

@Override
public void onRequestPermissionsResult(int requestCode, String[] permissions, int[] grantResults) {
	switch(requestCode){
		case REQUEST_AUDIO_CODE:
			if (grantResults != null && grantResults.length > 0 && PackageManager.PERMISSION_GRANTED == grantResults[0]) {
				Log.i(TAG, "RECORD_AUDIO permission has been granted");
			}else {
				Toast.makeText(this, "请开启录音权限!", Toast.LENGTH_SHORT).show();
			}
			break;
	}
}

启动、停止媒体投影：

/*
 * MainActivity.java
 * Created by daniusdk.com on 2017/04/19.
 */
private class ButtonStartMediaProjectionListener implements OnClickListener {
	public void onClick(View v) {
		if (null == media_engine_)
			return;

		if (media_engine_.is_video_capture_running()) {
			media_engine_.stop_audio_playback_capture();
			media_engine_.stop_video_capture();
			resolution_selector_.setEnabled(true);
			button_capture_audio_playback_.setText("采集音频播放");
			button_start_media_projection_.setText("启动媒体投影");
			return;
		}

		Intent capture_intent;
		capture_intent = media_projection_manager_.createScreenCaptureIntent();

		startActivityForResult(capture_intent, REQUEST_MEDIA_PROJECTION);
		Log.i(TAG, "startActivityForResult request media projection");
	}
}

启动媒体投影后，选择“采集音频播放”，如果需要采集麦克风，可以点击“采集麦克风”：

/*
 * MainActivity.java
 * Created by daniusdk.com on 2017/04/19.
 */
private class ButtonCaptureAudioPlaybackListener implements OnClickListener {
	public void onClick(View v) {
		if (null == media_engine_)
			return;

		if (media_engine_.is_audio_playback_capture_running()) {
			media_engine_.stop_audio_playback_capture();
			button_capture_audio_playback_.setText("采集音频播放");
			return;
		}

		if (!media_engine_.start_audio_playback_capture(44100, 1))
			Log.e(TAG, "start_audio_playback_capture failed");
		else
			button_capture_audio_playback_.setText("停止音频播放采集");
	}
}

private class ButtonStartAudioRecordListener implements OnClickListener {
	public void onClick(View v) {
		if (null == media_engine_)
			return;

		if (media_engine_.is_audio_record_running()) {
			media_engine_.stop_audio_record();
			button_start_audio_record_.setText("采集麦克风");
			return;
		}

		if (!media_engine_.start_audio_record(44100, 1))
			Log.e(TAG, "start_audio_record failed");
		else
			button_start_audio_record_.setText("停止麦克风");
	}
}

启动、停止RTMP推送：

/*
 * MainActivity.java
 * Created by daniusdk.com on 2017/04/19.
 */
private class ButtonRTMPPublisherListener implements OnClickListener {
	@Override
	public void onClick(View v) {
		if (null == media_engine_)
			return;

		if (media_engine_.is_rtmp_stream_running()) {
			media_engine_.stop_rtmp_stream();
			button_rtmp_publisher_.setText("开始RTMP推送");
			text_view_rtmp_url_.setText("RTMP URL: ");
			Log.i(TAG, "stop rtmp stream");
			return;
		}

		if (!media_engine_.is_video_capture_running())
			return;

		String rtmp_url;
		if (input_rtmp_url_ != null && input_rtmp_url_.length() > 1) {
			rtmp_url = input_rtmp_url_;
			Log.i(TAG, "start, input rtmp url:" + rtmp_url);
		} else {
			rtmp_url = baseURL + String.valueOf((int) (System.currentTimeMillis() % 1000000));
			Log.i(TAG, "start, generate random url:" + rtmp_url);
		}

		media_engine_.set_fps(fps_);
		media_engine_.set_gop(gop_);
		media_engine_.set_video_encoder_type(video_encoder_type);

		if (!media_engine_.start_rtmp_stream(rtmp_url))
			return;

		button_rtmp_publisher_.setText("停止RTMP推送");
		text_view_rtmp_url_.setText("RTMP URL:" + rtmp_url);
		Log.i(TAG, "RTMP URL:" + rtmp_url);
	}
}

启动RTSP服务：

/*
 * MainActivity.java
 * Created by daniusdk.com on 2017/04/19.
 */
private class ButtonRTSPServiceListener implements OnClickListener {
	public void onClick(View v) {
		if (null == media_engine_)
			return;

		if (media_engine_.is_rtsp_server_running()) {
			media_engine_.stop_rtsp_stream();
			media_engine_.stop_rtsp_server();
			button_rtsp_publisher_.setText("启动RTSP流");
			button_rtsp_service_.setText("启动RTSP服务");
			text_view_rtsp_url_.setText("RTSP URL:");
			return;
		}

		if (!media_engine_.start_rtsp_server(rtsp_port_, null, null))
			return;

		button_rtsp_service_.setText("停止RTSP服务");
	}
}

发布RTSP流：

/*
 * MainActivity.java
 * Created by daniusdk.com on 2017/04/19.
 */
private class ButtonRtspPublisherListener implements OnClickListener {
	public void onClick(View v) {
		if (null == media_engine_)
			return;

		if (media_engine_.is_rtsp_stream_running()) {
			media_engine_.stop_rtsp_stream();
			button_rtsp_publisher_.setText("启动RTSP流");
			text_view_rtsp_url_.setText("RTSP URL:");
			return;
		}

		if (!media_engine_.is_video_capture_running())
			return;

		media_engine_.set_fps(fps_);
		media_engine_.set_gop(gop_);
		media_engine_.set_video_encoder_type(video_encoder_type);

		if (!media_engine_.start_rtsp_stream("stream1"))
			return;

		button_rtsp_publisher_.setText("停止RTSP流");
	}
}

RTSP流发布成功后，底层会把RTSP拉流的URL回调上来：

/*
 * MainActivity.java
 * Created by daniusdk.com on 2017/04/19.
 */
@Override
public void on_nt_rtsp_stream_url(String url) {
	Log.i(TAG, "on_nt_rtsp_stream_url: " + url);

	MainActivity activity = get_activity();
	if (activity != null) {
		activity.runOnUiThread(new Runnable() {
			MainActivity activity_;
			String url_;

			@Override
			public void run() {
			   activity_.text_view_rtsp_url_.setText("RTSP URL:" + url_);
			}

			public Runnable set(MainActivity activity, String url) {
				this.activity_ = activity;
				this.url_ = url;
				return this;
			}
		}.set(activity, url));
	}
}

可以看到，上述操作，都是在MainActivity.java调用的，如果是需要做demo版本集成，只需要关注MainActivity.java的业务逻辑即可，为了便于开发者对接，我们做了接口的二次封装，除了常规的RTMP推送、轻量级RTSP服务设计外，如果需要录像，只要在MainActivity.java调用这里的接口逻辑即可，非常方便：

/*
 * NTStreamMediaEngine.java
 * Created by daniusdk.com on 2017/04/19.
 */
package com.daniulive.smartpublisher;

public interface NTStreamMediaEngine {
    void register_callback(Callback callback);

    void unregister_callback(Callback callback);

    void set_resolution_level(int level);

    int get_resolution_level();

    /*
    * 启动媒体投影
     */
    boolean start_video_capture(int token_code, android.content.Intent token_data);

    boolean is_video_capture_running();

    void stop_video_capture();

    /*
    * 启动麦克风
     */
    boolean start_audio_record(int sample_rate, int channels);

    boolean is_audio_record_running();

    void stop_audio_record();

    /*
     *  Android 10及以上支持, Android10以下设备调用直接返回false
     *  需要有RECORD_AUDIO权限
     *  要开启媒体投影
     */
    boolean start_audio_playback_capture(int sample_rate, int channels);

    boolean is_audio_playback_capture_running();

    void stop_audio_playback_capture();

    /*
     * 输出的音频类型
     *  0: 不输出音频
     *  1: 输出麦克风
     *  2: 输出audio playback(Android 10及以上支持)
     */
    boolean set_audio_output_type(int type);

    int get_audio_output_type();

    void set_fps(int fps);

    void set_gop(int gop);

    boolean set_video_encoder_type(int video_encoder_type);

    int get_video_encoder_type();

    /*
    * 推送RTMP
     */
    boolean start_rtmp_stream(String url);

    boolean is_rtmp_stream_running();

    String get_rtmp_stream_url();

    void stop_rtmp_stream();

    /*
    * 启动RTSP Server, 需要设置端口，用户名和密码可选
     */
    boolean start_rtsp_server(int port, String user_name, String password);

    boolean is_rtsp_server_running();

    void stop_rtsp_server();

    /*
    * 发布RTSP流
     */
    boolean start_rtsp_stream(String stream_name);

    boolean is_rtsp_stream_running();

    String get_rtsp_stream_url();

    void stop_rtsp_stream();

    /*
    * 启动本地录像
     */
    boolean start_stream_record(String record_directory, int file_max_size);

    boolean is_stream_recording();

    void stop_stream_record();

    boolean is_stream_running();

    interface Callback {
        void on_nt_video_capture_stop();
        void on_nt_rtsp_stream_url(String url);
    }
}

如果对音视频这块相对了解的开发者，可以继续到NTStreamMediaProjectionEngineImpl.java文件，查看或修改相关的技术实现：

/*
 * NTStreamMediaProjectionEngineImpl.java
 * Created by daniusdk.com on 2017/04/19.
 */
package com.daniulive.smartpublisher;

import android.app.Activity;
import android.app.Application;
import android.app.Service;
import android.content.Context;
import android.content.Intent;
import android.content.pm.PackageManager;
import android.graphics.Point;
import android.graphics.Rect;
import android.media.Image;
import android.media.projection.MediaProjection;
import android.media.projection.MediaProjectionManager;
import android.os.Build;
import android.os.Handler;
import android.os.HandlerThread;
import android.os.Process;
import android.util.Log;
import android.util.Size;
import android.view.Surface;
import android.view.WindowManager;
import android.view.WindowMetrics;

import com.eventhandle.NTSmartEventCallbackV2;
import com.eventhandle.NTSmartEventID;
import com.voiceengine.NTAudioRecordV2;
import com.voiceengine.NTAudioRecordV2Callback;
import com.videoengine.NTMediaProjectionCapture;
import com.voiceengine.NTAudioPlaybackCapture;

import java.lang.ref.WeakReference;
import java.nio.ByteBuffer;
import java.util.concurrent.CopyOnWriteArrayList;
import java.util.concurrent.atomic.AtomicReference;

public class NTStreamMediaProjectionEngineImpl implements AutoCloseable, NTStreamMediaEngine,
        NTVirtualDisplaySurfaceSinker.Callback, NTMediaProjectionCapture.Callback {
    private static final String TAG = "NTLogProjectionEngine";

    private static final Size DEFAULT_SIZE = new Size(1920, 1080);

    public static final int RESOLUTION_LOW = 0;
    public static final int RESOLUTION_MEDIUM = 1;
    public static final int RESOLUTION_HIGH = 2;

    private final Application application_;

    private final long image_thread_id_;
    private final long running_thread_id_;

    private final Handler image_handler_;
    private final Handler running_handler_;

    private final WindowManager window_manager_;
    private final MediaProjectionManager projection_manager_;
    private int screen_density_dpi_ = android.util.DisplayMetrics.DENSITY_DEFAULT;

    private final SmartPublisherJniV2 lib_publisher_;
    private final LibPublisherWrapper.RTSPServer rtsp_server_;
    private final LibPublisherWrapper stream_publisher_;

    private final CopyOnWriteArrayList<NTStreamMediaEngine.Callback> callbacks_ = new CopyOnWriteArrayList<>();

    private final AtomicReference<VideoSinkerCapturePair> video_capture_pair_ = new AtomicReference<>();

    private final AudioRecordCallbackImpl audio_record_callback_;
    private final AudioPlaybackCaptureCallbackImpl audio_playback_capture_callback_;

    private final AtomicReference<NTAudioRecordV2> audio_record_ = new AtomicReference<>();
    private final AtomicReference<NTAudioPlaybackCapture> audio_playback_capture_ = new AtomicReference<>();
	
	...
}

以Android平台RTMP推送模块为例，我们主要实现了如下功能：

音频编码：AAC/SPEEX；
视频编码：H.264、H.265；
推流协议：RTMP；
[音视频]支持纯音频/纯视频/音视频推送；
[摄像头]支持采集过程中，前后摄像头实时切换；
支持帧率、关键帧间隔(GOP)、码率(bit-rate)设置；
支持RTMP推送 live|record模式设置；
支持前置摄像头镜像设置；
支持软编码、特定机型硬编码；
支持横屏、竖屏推送；
支持Android屏幕采集推送；
支持自建标准RTMP服务器或CDN；
支持断网自动重连、网络状态回调；
支持实时动态水印；
支持实时快照；
支持降噪处理、自动增益控制；
支持外部编码前音视频数据对接；
支持外部编码后音视频数据对接；
支持RTMP扩展H.265（需设备支持H.265特定机型硬编码）和Enhanced RTMP；
支持实时音量调节；
支持扩展录像模块；
支持Unity接口；
支持H.264扩展SEI发送模块；
支持Android 5.1及以上版本。

轻量级RTSP服务，在上述非RTMP协议依赖的基础上，增加了如下功能：

[音频格式]AAC；
[视频格式]H.264、H.265；
[协议类型]RTSP；
[传输模式]支持单播和组播模式；
[端口设置]支持RTSP端口设置；
[鉴权设置]支持RTSP鉴权用户名、密码设置；
[获取session连接数]支持获取当前RTSP服务会话连接数；
[多服务支持]支持同时创建多个内置RTSP服务；
[RTSP url回调]支持设置后的rtsp url通过event回调到上层。

总结

以上是Android平台屏幕采集、音频播放声音采集、麦克风采集编码打包推送到RTMP和轻量级RTSP服务的相关技术实现，做成高稳定低延迟的同屏系统，还需要有配套好的RTMP、RTSP直播播放器，整体部署，内网大并发环境下，还需要考虑到如何组网等诸多因素。做demo容易，做个成熟的模块还是有一定的难度，以上抛砖引玉，感兴趣的开发者，可以单独跟我沟通探讨。