第十八節、關于硬解與軟解

硬件解碼視頻(MediaCodec)、軟件解碼視頻(FFMpeg)

硬件解碼視頻:

我們知道AVPacket中存放的是視頻的壓縮數據,在獲取到AVPacket后,直接將AVPacket中的data傳遞到上層交給MediaCodec,
MediaCodec完成解碼交給opengl es

軟件解碼視頻:

軟件解碼需要FFMpeg解碼出AVFrame后,將AVFrame中的data(yuv數據)傳遞到上層交給opengl es

opengl es渲染yuv紋理

vertex_base.glsl

attribute vec4 av_Position;//定點坐標,應用傳入
attribute vec2 af_Position;//采樣紋理坐標,應用傳入
varying vec2 v_texPo;//把獲取的紋理坐標傳入fragment里面
void main() {
    v_texPo = af_Position;
    gl_Position = av_Position;
}

片元著色器
fragment_yuv.glsl

precision mediump float;
varying vec2 v_texPo;
uniform sampler2D sampler_y;
uniform sampler2D sampler_u;
uniform sampler2D sampler_v;
void main() {
    float y,u,v;
    y = texture2D(sampler_y,v_texPo).x;
    u = texture2D(sampler_u,v_texPo).x- 128./255.;
    v = texture2D(sampler_v,v_texPo).x- 128./255.;

    vec3 rgb;
    rgb.r = y + 1.403 * v;
    rgb.g = y - 0.344 * u - 0.714 * v;
    rgb.b = y + 1.770 * u;

//黑白濾鏡
//    float gray = rgb.r * 0.299 + rgb.g * 0.587 + rgb.b * 0.114;
//    gl_FragColor = vec4(gray, gray, gray, 1);
//原始效果
    gl_FragColor = vec4(rgb,1);
}

這種情況下,在FFMpeg解碼獲取到AVFrame中的yuv數據后,直接傳遞給surfaceView即可

 public void setFrameData(int w, int h, byte[] y, byte[] u, byte[] v)
    {
        if(wlGlRender != null)
        {
            wlGlRender.setFrameData(w, h, y, u, v);
            requestRender();
        }
    }
opengl es渲染MediaCodec解碼后的數據

頂點著色器
vertex_base.glsl

attribute vec4 av_Position;//定點坐標,應用傳入
attribute vec2 af_Position;//采樣紋理坐標,應用傳入
varying vec2 v_texPo;//把獲取的紋理坐標傳入fragment里面
void main() {
    v_texPo = af_Position;
    gl_Position = av_Position;
}

片元著色器
fragment_mediacodec.glsl

#extension GL_OES_EGL_image_external : require
precision mediump float;
varying vec2 v_texPo;
uniform samplerExternalOES sTexture;

void main() {
    gl_FragColor=texture2D(sTexture, v_texPo);
//    lowp vec4 textureColor = texture2D(sTexture, v_texPo);
//    float gray = textureColor.r * 0.299 + textureColor.g * 0.587 + textureColor.b * 0.114;
//    gl_FragColor = vec4(gray, gray, gray, textureColor.w);
}

在編寫Render的時候注意實現SurfaceTexture.OnFrameAvailableListener接口

/**
     * Callback interface for being notified that a new stream frame is available.
     */
    public interface OnFrameAvailableListener {
        void onFrameAvailable(SurfaceTexture surfaceTexture);
    }

就是當surface中有可用的數據的時候,就會被回調,我們在回調中通知
surfaceView,進行刷新(調用surfaceView的requestRender())

wlGlRender.setWlOnRenderRefreshListener(new WlOnRenderRefreshListener() {
            @Override
            public void onRefresh() {
                requestRender();
            }
        });
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 229,619評論 6 539
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 99,155評論 3 425
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 177,635評論 0 382
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,539評論 1 316
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 72,255評論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 55,646評論 1 326
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,655評論 3 444
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,838評論 0 289
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 49,399評論 1 335
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 41,146評論 3 356
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 43,338評論 1 372
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,893評論 5 363
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,565評論 3 348
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,983評論 0 28
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 36,257評論 1 292
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 52,059評論 3 397
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 48,296評論 2 376

推薦閱讀更多精彩內容