首页编程java编程java video audio encoder?videojet官网

java video audio encoder?videojet官网

编程之家2026-06-06877次浏览

老铁们,大家好,相信还有很多朋友对于java video audio encoder和videojet官网的相关问题不太懂,没关系,今天就由我来为大家分享分享java video audio encoder以及videojet官网的问题,文章篇幅可能偏长,希望可以帮助到大家,下面一起来看看吧!

java video audio encoder?videojet官网

android中mediamuxer和mediacodec的区别

Android中MediaMuxer和MediaCodec用例

在Android的多媒体类中,MediaMuxer和MediaCodec算是比较年轻的,它们是JB 4.1和JB 4.3才引入的。前者用于将音频和视频进行混合生成多媒体文件。缺点是目前只能支持一个audio track和一个video track,而且仅支持mp4输出。不过既然是新生事物,相信之后的版本应该会有大的改进。MediaCodec用于将音视频进行压缩编码,它有个比较牛X的地方是可以对Surface内容进行编码,如KK 4.4中屏幕录像功能就是用它实现的。

注意它们和其它一些多媒体相关类的关系和区别:MediaExtractor用于音视频分路,和MediaMuxer正好是反过程。MediaFormat用于描述多媒体数据的格式。MediaRecorder用于录像+压缩编码,生成编码好的文件如mp4, 3gpp,视频主要是用于录制Camera preview。MediaPlayer用于播放压缩编码后的音视频文件。AudioRecord用于录制PCM数据。AudioTrack用于播放PCM数据。PCM即原始音频采样数据,可以用如vlc播放器播放。当然了,通道采样率之类的要自己设,因为原始采样数据是没有文件头的,如:

vlc--demux=rawaud--rawaud-channels 2--rawaud-samplerate 44100 audio.pcm

回到MediaMuxer和MediaCodec这两个类,它们的参考文档见和,里边有使用的框架。这个组合可以实现很多功能,比如音视频文件的编辑(结合MediaExtractor),用OpenGL绘制Surface并生成mp4文件,屏幕录像以及类似Camera app里的录像功能(虽然这个用MediaRecorder更合适)等。

这里以一个很无聊的功能为例,就是在一个Surface上画图编码生成视频,同时用MIC录音编码生成音频,然后将音视频混合生成mp4文件。程序本身没什么用,但是示例了MediaMuxer和MediaCodec的基本用法。本程序主要是基于两个测试程序:一个是Grafika中的SoftInputSurfaceActivity和HWEncoderExperiments。它们一个是生成视频,一个生成音频,这里把它们结合一下,同时生成音频和视频。基本框架和流程如下:

java video audio encoder?videojet官网

首先是录音线程,主要参考HWEncoderExperiments。通过AudioRecord类接收来自麦克风的采样数据,然后丢给Encoder准备编码:

AudioRecord audio_recorder;

audio_recorder= new AudioRecord(MediaRecorder.AudioSource.MIC,

SAMPLE_RATE, CHANNEL_CONFIG, AUDIO_FORMAT, buffer_size);

//...

audio_recorder.startRecording();

java video audio encoder?videojet官网

while(is_recording){

byte[] this_buffer= new byte[frame_buffer_size];

read_result= audio_recorder.read(this_buffer, 0, frame_buffer_size);// read audio raw data

//…

presentationTimeStamp= System.nanoTime()/ 1000;

audioEncoder.offerAudioEncoder(this_buffer.clone(), presentationTimeStamp);// feed to audio encoder

}

这里也可以设置AudioRecord的回调(通过setRecordPositionUpdateListener())来触发音频数据的读取。offerAudioEncoder()里主要是把audio采样数据送入音频MediaCodec的InputBuffer进行编码:

ByteBuffer[] inputBuffers= mAudioEncoder.getInputBuffers();

int inputBufferIndex= mAudioEncoder.dequeueInputBuffer(-1);

if(inputBufferIndex>= 0){

ByteBuffer inputBuffer= inputBuffers[inputBufferIndex];

inputBuffer.clear();

inputBuffer.put(this_buffer);

...

mAudioEncoder.queueInputBuffer(inputBufferIndex, 0, this_buffer.length, presentationTimeStamp, 0);

}

下面,参考Grafika-SoftInputSurfaceActivity,并加入音频处理。主循环大体分四部分:

try{

// Part 1

prepareEncoder(outputFile);

...

// Part 2

for(int i= 0; i< NUM_FRAMES; i++){

generateFrame(i);

drainVideoEncoder(false);

drainAudioEncoder(false);

}

// Part 3

...

drainVideoEncoder(true);

drainAudioEncoder(true);

} catch(IOException ioe){

throw new RuntimeException(ioe);

} finally{

// Part 4

releaseEncoder();

}

第1部分是准备工作,除了video的MediaCodec,这里还初始化了audio的MediaCodec:

MediaFormat audioFormat= new MediaFormat();

audioFormat.setInteger(MediaFormat.KEY_SAMPLE_RATE, 44100);

audioFormat.setInteger(MediaFormat.KEY_CHANNEL_COUNT, 1);

...

mAudioEncoder= MediaCodec.createEncoderByType(AUDIO_MIME_TYPE);

mAudioEncoder.configure(audioFormat, null, null, MediaCodec.CONFIGURE_FLAG_ENCODE);

mAudioEncoder.start();

第2部分进入主循环,app在Surface上直接绘图,由于这个Surface是从MediaCodec中用createInputSurface()申请来的,所以画完后不用显式用queueInputBuffer()交给Encoder。drainVideoEncoder()和drainAudioEncoder()分别将编码好的音视频从buffer中拿出来(通过dequeueOutputBuffer()),然后交由MediaMuxer进行混合(通过writeSampleData())。注意音视频通过PTS(Presentation time stamp,决定了某一帧的音视频数据何时显示或播放)来同步,音频的time stamp需在AudioRecord从MIC采集到数据时获取并放到相应的bufferInfo中,视频由于是在Surface上画,因此直接用dequeueOutputBuffer()出来的bufferInfo中的就行,最后将编码好的数据送去MediaMuxer进行多路混合。

注意这里Muxer要等把audio track和video track都加入了再开始。MediaCodec在一开始调用dequeueOutputBuffer()时会返回一次INFO_OUTPUT_FORMAT_CHANGED消息。我们只需在这里获取该MediaCodec的format,并注册到MediaMuxer里。接着判断当前audio track和video track是否都已就绪,如果是的话就启动Muxer。

总结来说,drainVideoEncoder()的主逻辑大致如下,drainAudioEncoder也是类似的,只是把video的MediaCodec换成audio的MediaCodec即可。

while(true){

int encoderStatus= mVideoEncoder.dequeueOutputBuffer(mBufferInfo, TIMEOUT_USEC);

if(encoderStatus== MediaCodec.INFO_TRY_AGAIN_LATER){

...

} else if(encoderStatus== MediaCodec.INFO_OUTPUT_BUFFERS_CHANGED){

encoderOutputBuffers= mVideoEncoder.getOutputBuffers();

} else if(encoderStatus== MediaCodec.INFO_OUTPUT_FORMAT_CHANGED){

MediaFormat newFormat= mAudioEncoder.getOutputFormat();

mAudioTrackIndex= mMuxer.addTrack(newFormat);

mNumTracksAdded++;

if(mNumTracksAdded== TOTAL_NUM_TRACKS){

mMuxer.start();

}

} else if(encoderStatus< 0){

...

} else{

ByteBuffer encodedData= encoderOutputBuffers[encoderStatus];

...

if(mBufferInfo.size!= 0){

mMuxer.writeSampleData(mVideoTrackIndex, encodedData, mBufferInfo);

}

mVideoEncoder.releaseOutputBuffer(encoderStatus, false);

if((mBufferInfo.flags& MediaCodec.BUFFER_FLAG_END_OF_STREAM)!= 0){

break;

}

}

}

第3部分是结束录制,发送EOS信息,这样在drainVideoEncoder()和drainAudioEncoder中就可以根据EOS退出内循环。第4部分为清理工作。把audio和video的MediaCodec,MediaCodec用的Surface及MediaMuxer对象释放。

最后几点注意:

1.在AndroidManifest.xml里加上录音权限,否则创建AudioRecord对象时铁定失败:

<uses-permission android:name="android.permission.RECORD_AUDIO"/>

2.音视频通过PTS同步,两个的单位要一致。

3. MediaMuxer的使用要按照Constructor-> addTrack-> start-> writeSampleData-> stop的顺序。如果既有音频又有视频,在stop前两个都要writeSampleData()过。

Code references:

Grafika:

Bigflake:

HWEncoderExperiments:

Android test:

...org.bouncycastle.util.encoders.Hex.decodeStrict

这个错误通常是由于版本冲突引起的。您的程序正在尝试调用 org.bouncycastle.util.encoders.Hex.decodeStrict(String)方法,但您使用的 BouncyCastle版本不支持该方法。可能是因为您正在使用的 BouncyCastle版本较旧,没有包含该方法。

建议您检查您的 BouncyCastle版本,确保它支持所需的方法。您也可以尝试更新您的 BouncyCastle版本以解决此问题。另外,您可以尝试使用 org.bouncycastle.util.encoders.Hex.decode(String)方法,该方法是更早的版本中可用的,可能与您正在使用的版本兼容。

关于java video audio encoder到此分享完毕,希望能帮助到您。

赤舌哪里多(哪有赤舌)龙跃武器蓄能值,龙跃武器绝版了吗