本文主要讲解FFmpeg的音频解码具体流程,API使用。最后再以一个非常简单的demo演示将一个mp3格式的音频文件解码为原始数据pcm文件。 本文主要基于FFmpeg音频解码新接口。

一、FFmpeg音频解码API调用流程图      

python ffmpeg 硬件解码 ffmpeg调用硬件解码_音视频

   API接口简单大体讲解如下:

av_register_all():注册FFmpeg所有编解码器。
 
avformat_open_input():打开音频地址并获取里面的内容(解封装)
 
avformat_find_stream_info():获取内容
 
avcodec_find_decoder():寻找解码器
 
avcodec_alloc_context3():申请解码器相关上下文
 
avcodec_open2():打开解码器
 
av_read_frame():从原始有格式文件中一帧一帧读取出来
 
avcodec_send_packet():解码核心接口新接口,发送一帧音频给解码器。即是AVPacket(存储AAC等音频格式码流数据)。
 
avcodec_receive_frame():解码核心接口新接口,接收解码器解码后的一帧视频,AVFrame(PCM原始数据)。

二、音频解码过程API调用流程

1、注册各大组件

        这一步是ffmpeg的任何程序的第一步都是需要先注册ffmpeg相关的各大组件的:

//注册各大组件
    av_register_all();
    LOGE("注册成功")

2、打开音频文件并获取相关上下文

        在解码之前我们得获取里面的内容,这一步就是打开地址并且获取里面的内容。其中avFormatContext是内容的一个上下文。

        并使用avformat_open_input打开播放源,inputPath为输入的地址,也就是音频文件,然后使用avformat_find_stream_info从获取的内容中寻找相关流。

//打开音频地址并获取里面的内容(解封装)
error = avformat_open_input(&avFormatContext, inputPath, NULL, NULL);
if (error < 0){
	LOGE("打开音频文件失败\n");
	return false;
}
if (avformat_find_stream_info(avFormatContext, NULL) < 0){
	LOGE("获取内容失败")
	return false;
}

3、寻找音频流

        我们在上面已经获取了内容,我们再从中找出相对应的音频流。

//获取音频的编码信息
AVCodecParameters *origin_par = NULL;
int mAudioStreamIdx = -1;
mAudioStreamIdx = av_find_best_stream(avFormatContext, AVMEDIA_TYPE_AUDIO, -1, -1, NULL, 0);
if (mAudioStreamIdx < 0) {
	av_log(NULL, AV_LOG_ERROR, "Can't find audio stream in input file\n");
	return false;
}
LOGE("成功找到音频流")

4、获取并打开解码器

        如果要进行解码,那么得有解码器并打开解码器。在这一步中我加了个过滤器的相关配置,这个东西不是非必要的,所以我加了个宏ABSFILTER_ENABLE可以选择是否打开。

// 寻找解码器 {start
    AVCodec *mAcodec = NULL;
    AVCodecContext *mAvContext = NULL;
    mAcodec = avcodec_find_decoder(origin_par->codec_id);
    mAvContext = avcodec_alloc_context3(mAcodec);
    if (!mAcodec || !mAvContext){
        return false;
    }

#if ABSFILTER_ENABLE
    //过滤器相关配置,这个与音频码流格式相关
    const AVBitStreamFilter * absFilter = NULL;
    AVBSFContext *absCtx = NULL;
    AVCodecParameters *codecpar = NULL;
    absFilter = av_bsf_get_by_name("mp3decomp");
    //过滤器分配内存
    av_bsf_alloc(absFilter, &absCtx);
    //添加解码器属性
    codecpar = avFormatContext->streams[mAudioStreamIdx]->codecpar;
    avcodec_parameters_copy(absCtx->par_in, codecpar);
    absCtx->time_base_in = avFormatContext->streams[mAudioStreamIdx]->time_base;
    //初始化过滤器上下文
    av_bsf_init(absCtx);
#endif

    // 打开解码器
    if (avcodec_open2(mAvContext, mAcodec, NULL) != 0){
        LOGE("打开失败")
        return false;
    }
    LOGE("解码器打开成功")
    // 寻找解码器 end}

5、申请AVPacket和AVFrame以及相关设置

        申请AVPacket和AVFrame,其中AVPacket的作用是:保存解码之前的数据和一些附加信息等;AVFrame的作用是:存放解码过后的数据。

//申请AVPacket
    AVPacket *packet = (AVPacket *) av_malloc(sizeof(AVPacket));
    av_init_packet(packet);
    //申请AVFrame
    AVFrame *frame = av_frame_alloc();//分配一个AVFrame结构体,AVFrame结构体一般用于存储原始数据,指向解码后的原始帧

6、开始解码

        接下来就可以开始解码,如下是解码的核心段代码,这里同样有上面所说的过滤器的,这个可以先不关心:

{
	// 发送待解码包
	int result = avcodec_send_packet(mAvContext, packet);
	av_packet_unref(packet);
	if (result < 0){
		av_log(NULL, AV_LOG_ERROR, "Error submitting a packet for decoding\n");
		continue;
	}

	// 接收解码数据
	while (result >= 0){
		result = avcodec_receive_frame(mAvContext, frame);
		if (result == AVERROR_EOF)
			break;
		else if (result == AVERROR(EAGAIN)){
			result = 0;
			break;
		}
		else if (result < 0){
			av_log(NULL, AV_LOG_ERROR, "Error decoding frame\n");
			av_frame_unref(frame);
			break;
		}

		av_frame_unref(frame);
	}
}

7、解码并保存为PCM文件

        PCM是音频解码后的原始数据,我们将解码后的数据保存为PCM文件,用于分析。在上一步中解码后的地方加上保存为PCM文件的操作。

        另外这里有用了上面所说的过滤器的东西,我们暂时先不关心。

        完整过程如下:

while(1)
{
	int ret = av_read_frame(avFormatContext, packet);
	if (ret != 0){
		av_strerror(ret,buf,sizeof(buf));
		LOGE("--%s--\n",buf);
		av_packet_unref(packet);
		break;
	}

	if (ret >= 0 && packet->stream_index != mAudioStreamIdx){
		av_packet_unref(packet);
		continue;
	}

#if ABSFILTER_ENABLE
	if (av_bsf_send_packet(absCtx, packet) < 0){
		LOGE("av_bsf_send_packet faile \n");
		av_packet_unref(packet);
		continue;
	}
	if (av_bsf_receive_packet(absCtx, packet) < 0) {
		LOGE("av_bsf_receive_packet faile \n");
		av_packet_unref(packet);
		continue;
	}
#endif

	{
		// 发送待解码包
		int result = avcodec_send_packet(mAvContext, packet);
		av_packet_unref(packet);
		if (result < 0){
			av_log(NULL, AV_LOG_ERROR, "Error submitting a packet for decoding\n");
			continue;
		}

		// 接收解码数据
		while (result >= 0){
			result = avcodec_receive_frame(mAvContext, frame);
			if (result == AVERROR_EOF)
				break;
			else if (result == AVERROR(EAGAIN)){
				result = 0;
				break;
			}
			else if (result < 0){
				av_log(NULL, AV_LOG_ERROR, "Error decoding frame\n");
				av_frame_unref(frame);
				break;
			}

			// 写文件保存音频数据
			data_size = av_get_bytes_per_sample(mAvContext->sample_fmt);
			if (data_size < 0) {
				/* This should not occur, checking just for paranoia */
				LOGE("Failed to calculate data size\n");
				return false;
			}
			for (i = 0; i < frame->nb_samples; i++)
				for (ch = 0; ch < mAvContext->channels; ch++)
					fwrite(frame->data[ch] + data_size*i, 1, data_size, fp_PCM);

			av_frame_unref(frame);
		}
	}

}

8、收尾释放

        最后释放相关资源

fclose(fp_PCM);
    av_frame_free(&frame);
    avcodec_close(mAvContext);
    avformat_free_context(avFormatContext);
#if ABSFILTER_ENABLE
    av_bsf_free(&absCtx);
    absCtx = NULL;
#endif

        至此,mp3格式的文件就被解码出原始数据并保存为PCM文件。

三、demo运行

         demo中指定了视频源文件是/sdcard/input.mp3,编码后的pcm文件是/sdcard/audioDecodeOut.pcm,如下代码,若要改文件,可以在此处修改:

@Override
public void run() {
	String PATH = Environment.getExternalStorageDirectory().getPath();
	//视频解码
	String input = PATH + File.separator + "input.mp3";
	String output = PATH + File.separator + "audioDecodeOut.pcm";
	decode_audio(input,output);
	Toast.makeText(MainActivity.this, "音频解码完成,请自行从手机中拉取pcm文件", Toast.LENGTH_SHORT).show();
}

        运行后截图如下:

python ffmpeg 硬件解码 ffmpeg调用硬件解码_音视频_02

        点击"START AUDIO DECODE"按钮,开始对音频文件进行解码,界面不会有什么提示,等解码完成后会弹出提示词 "音频解码完成,请自行从手机中拉取pcm文件"

python ffmpeg 硬件解码 ffmpeg调用硬件解码_python ffmpeg 硬件解码_03

        我们从运行log中也能看到一些信息,如下:

python ffmpeg 硬件解码 ffmpeg调用硬件解码_实时音视频_04

        当有--- audio decode finished ---打印出来说明已经解码完成。

        然后我们adb shell进去手机看看解码前后的文件:

python ffmpeg 硬件解码 ffmpeg调用硬件解码_音视频_05

         可以看到解码后的pcm原始数据文件比解码前是大很多的。

四、分析PCM文件

        接下来我们分析下解码后的PCM文件是否正确。

        首先我们需要先知道一下解码前的mp3文件的一些信息,比如声道数,采样率等等。这些我们可以通过FFmpeg的ffprobe来获取,这里我在我的Ubuntu电脑上通过ffmpeg命令行获取一下:

python ffmpeg 硬件解码 ffmpeg调用硬件解码_python ffmpeg 硬件解码_06

        红圈圈中的就是几个比较重要的信息,看到是采样率是44100,双声道,fltp格式。

        接下来使用PCM分析工具,我使用的是Audacity:

python ffmpeg 硬件解码 ffmpeg调用硬件解码_python ffmpeg 硬件解码_07

         打开工具,并点击导入原始数据:

python ffmpeg 硬件解码 ffmpeg调用硬件解码_视频编解码_08

        然后选择pcm文件,弹出格式选择的弹窗,采样率就是刚才的44100,声道是双声道也就是2声道,字节序一般是小尾端,编码是fltp,也就是选32-bit float。

python ffmpeg 硬件解码 ffmpeg调用硬件解码_视频编解码_09

         点击导入后,显示如下,可以看到音频数据的波形图,然后点击右上方的播放按钮播放pcm文件,若音乐听起来正常,与之前的mp3文件一致,则说明解码后的pcm数据正常。

python ffmpeg 硬件解码 ffmpeg调用硬件解码_python ffmpeg 硬件解码_10

         完整例子已经放到github上,如下:

https://github.com/weekend-y/FFmpeg_Android_Demo/tree/master/demo6_audioDecode