近期在學(xué)習(xí)音視頻，看了很多雷神(雷霄驊(leixiaohua1020)的專欄
的文章，也做了相應(yīng)的筆記，后面會陸陸續(xù)續(xù)發(fā)布。
雖然雷神不在了，但他留下了許多寶貴的財富，作為一名程序猿應(yīng)向他學(xué)習(xí),致敬！??????
原文來源

歡迎加入技術(shù)交流群
群號: 552340860

1、視頻播放器原理

??視音頻技術(shù)主要包含以下幾點：封裝技術(shù)，視頻壓縮編碼技術(shù)以及音頻壓縮編碼技術(shù)。如果考慮到網(wǎng)絡(luò)傳輸?shù)脑挘€包括流媒體協(xié)議技術(shù)。
??視頻播放器播放一個互聯(lián)網(wǎng)上的視頻文件，需要經(jīng)過以下幾個步驟：解協(xié)議，解封裝，解碼視音頻，視音頻同步。如果播放本地文件則不需要解協(xié)議，為以下幾個步驟：解封裝，解碼視音頻，視音頻同步。他們的過程如圖所示。

視頻播放流程圖.jpeg

分析一下以上的每個流程:

解協(xié)議

將流媒體協(xié)議的數(shù)據(jù)，解析為標(biāo)準(zhǔn)的相應(yīng)的封裝格式數(shù)據(jù)。視音頻在網(wǎng)絡(luò)上傳播的時候，常常采用各種流媒體協(xié)議，例如HTTP，RTMP，或是MMS等等。這些協(xié)議在傳輸視音頻數(shù)據(jù)的同時，也會傳輸一些信令數(shù)據(jù)。這些信令數(shù)據(jù)包括對播放的控制（播放，暫停，停止），或者對網(wǎng)絡(luò)狀態(tài)的描述等。解協(xié)議的過程中會去除掉信令數(shù)據(jù)而只保留視音頻數(shù)據(jù)。例如，采用RTMP協(xié)議傳輸?shù)臄?shù)據(jù)，經(jīng)過解協(xié)議操作后，輸出FLV格式的數(shù)據(jù)。

解封裝

將輸入的封裝格式的數(shù)據(jù)，分離成為音頻流壓縮編碼數(shù)據(jù)和視頻流壓縮編碼數(shù)據(jù)。封裝格式種類很多，例如MP4，MKV，RMVB，TS，F(xiàn)LV，AVI等等，它的作用就是將已經(jīng)壓縮編碼的視頻數(shù)據(jù)和音頻數(shù)據(jù)按照一定的格式放到一起。例如，F(xiàn)LV格式的數(shù)據(jù)，經(jīng)過解封裝操作后，輸出H.264編碼的視頻碼流和AAC編碼的音頻碼流。

解碼

將視頻/音頻壓縮編碼數(shù)據(jù)，解碼成為非壓縮的視頻/音頻原始數(shù)據(jù)。音頻的壓縮編碼標(biāo)準(zhǔn)包含AAC，MP3，AC-3等等，視頻的壓縮編碼標(biāo)準(zhǔn)則包含H.264，MPEG2，VC-1等等。解碼是整個系統(tǒng)中最重要也是最復(fù)雜的一個環(huán)節(jié)。通過解碼，壓縮編碼的視頻數(shù)據(jù)輸出成為非壓縮的顏色數(shù)據(jù)，例如YUV420P，RGB等等；壓縮編碼的音頻數(shù)據(jù)輸出成為非壓縮的音頻抽樣數(shù)據(jù)，例如PCM數(shù)據(jù)(脈沖編碼調(diào)制(Pulse Code Modulation,PCM))。

視音頻同步

根據(jù)解封裝模塊處理過程中獲取到的參數(shù)信息，同步解碼出來的視頻和音頻數(shù)據(jù)，并將視頻音頻數(shù)據(jù)送至系統(tǒng)的顯卡和聲卡播放出來。

2、 流媒體協(xié)議

流媒體協(xié)議是服務(wù)器與客戶端之間通信遵循的規(guī)定。當(dāng)前網(wǎng)絡(luò)上主要的流媒體協(xié)議如圖表所示。

流媒體協(xié)議.png

• RTSP+RTP經(jīng)常用于IPTV領(lǐng)域。因為其采用UDP傳輸視音頻，支持組播，效率較高。但其缺點是網(wǎng)絡(luò)不好的情況下可能會丟包，影響視頻觀看質(zhì)量。因而圍繞IPTV的視頻質(zhì)量的研究還是挺多的。

• RTSP+RTP系統(tǒng)中衡量服務(wù)質(zhì)量可參考：網(wǎng)絡(luò)視頻傳輸?shù)姆?wù)質(zhì)量（QoS）

• 因為互聯(lián)網(wǎng)網(wǎng)絡(luò)環(huán)境的不穩(wěn)定性，RTSP+RTP較少用于互聯(lián)網(wǎng)視音頻傳輸。互聯(lián)網(wǎng)視頻服務(wù)通常采用TCP作為其流媒體的傳輸層協(xié)議，因而像RTMP，MMS，HTTP這類的協(xié)議廣泛用于互聯(lián)網(wǎng)視音頻服務(wù)之中。這類協(xié)議不會發(fā)生丟包，因而保證了視頻的質(zhì)量，但是傳輸?shù)男蕰鄬Φ鸵恍?/p>

• RTSP規(guī)范可參考：RTSP協(xié)議學(xué)習(xí)筆記

• RTMFP是一種比較新的流媒體協(xié)議，特點是支持P2P。
  比如RTMP規(guī)范簡單分析，或者RTMP流媒體播放過程

• 相關(guān)工具的源代碼分析：RTMPdump源代碼分析 1： main()函數(shù)[系列文章]

• RTMP協(xié)議學(xué)習(xí)：RTMP流媒體技術(shù)零基礎(chǔ)學(xué)習(xí)方法

3、封裝格式

封裝格式的主要作用是把視頻碼流和音頻碼流按照一定的格式存儲在一個文件中。現(xiàn)如今流行的封裝格式如下圖表所示：

封裝格式.png

4、視頻編碼

視頻編碼的主要作用是將視頻像素數(shù)據(jù)（RGB，YUV等）壓縮成為視頻碼流，從而降低視頻的數(shù)據(jù)量。如果視頻不經(jīng)過壓縮編碼的話，體積通常是非常大的，一部電影可能就要上百G的空間。視頻編碼是視音頻技術(shù)中最重要的技術(shù)之一。視頻碼流的數(shù)據(jù)量占了視音頻總數(shù)據(jù)量的絕大部分。高效率的視頻編碼在同等的碼率下，可以獲得更高的視頻質(zhì)量。
視頻編碼的簡單原理可以參考：視頻壓縮編碼和音頻壓縮編碼的基本原理

視頻編碼.png

4.1 主流編碼標(biāo)準(zhǔn)

H.264僅僅是一個編碼標(biāo)準(zhǔn)，而不是一個具體的編碼器，H.264只是給編碼器的實現(xiàn)提供參照用的。

基于H.264標(biāo)準(zhǔn)的編碼器還是很多,可參考：MSU出品的 H.264編碼器比較（2011.5）

在學(xué)習(xí)視頻編碼的時候，可能會用到各種編碼器（實際上就是一個exe文件），他們常用的編碼命令可以參考：各種視頻編碼器的命令行格式

學(xué)習(xí)H.264最標(biāo)準(zhǔn)的源代碼，就是其官方標(biāo)準(zhǔn)JM了。但是要注意，JM速度非常的慢，是無法用于實際的：H.264參考軟件JM12.2RC代碼詳細(xì)流程

實際中使用最多的就是x264了，性能強悍（超過了很多商業(yè)編碼器），而且開源。。編碼時候可參考：x264編碼指南——碼率控制。編碼后統(tǒng)計值的含義：X264輸出的統(tǒng)計值的含義（X264 Stats Output）

Google推出的VP8屬于和H.264同一時代的標(biāo)準(zhǔn)。總體而言，VP8比H.264要稍微差一點。有一篇寫的很好的VP8的介紹文章：深入了解 VP8。除了在技術(shù)領(lǐng)域，VP8和H.264在專利等方面也是打的不可開交，可參考文章：WebM(VP8) vs H.264

此外，我國還推出了自己的國產(chǎn)標(biāo)準(zhǔn)AVS，性能也不錯，但目前比H.264還是要稍微遜色一點。不過感覺我國在視頻編解碼領(lǐng)域還算比較先進(jìn)的，可參考：視頻編碼國家標(biāo)準(zhǔn)AVS與H.264的比較（節(jié)選）

4.2 下一代編碼標(biāo)準(zhǔn)

下一代的編解碼標(biāo)準(zhǔn)就要數(shù)HEVC和VP9了。VP9是Google繼VP8之后推出的新一代標(biāo)準(zhǔn)。VP9和HEVC相比，要稍微遜色一些。它們的對比可參考：（1）HEVC與VP9編碼效率對比 （2）HEVC，VP9，x264性能對比

HEVC在未來擁有很多大的優(yōu)勢，可參考：HEVC將會取代H.264的原因

學(xué)習(xí)HEVC最標(biāo)準(zhǔn)的源代碼，就是其官方標(biāo)準(zhǔn)HM了。其速度比H.264的官方標(biāo)準(zhǔn)代碼又慢了一大截，使用可參考：HEVC學(xué)習(xí)—— HM的使用

未來實際使用的HEVC開源編碼器很有可能是x265，目前該項目還處于發(fā)展階段，可參考：x265(HEVC編碼器，基于x264)介紹。x265的使用可以參考：HEVC（H.265）標(biāo)準(zhǔn)的編碼器（x265，DivX265）試用

主流以及下一代編碼標(biāo)準(zhǔn)之間的比較可以參考文章：視頻編碼方案之間的比較（HEVC，H.264，MPEG2等）

此外，在碼率一定的情況下，幾種編碼標(biāo)準(zhǔn)的比較可參考：限制碼率的視頻編碼標(biāo)準(zhǔn)比較（包括MPEG-2，H.263， MPEG-4，以及 H.264）

結(jié)果大致是這樣的：
HEVC > VP9 > H.264> VP8 > MPEG4 > H.263 > MPEG2。

5、音頻編碼

音頻編碼的主要作用是將音頻采樣數(shù)據(jù)（PCM等）壓縮成為音頻碼流，從而降低音頻的數(shù)據(jù)量。音頻編碼也是互聯(lián)網(wǎng)視音頻技術(shù)中一個重要的技術(shù)。但是一般情況下音頻的數(shù)據(jù)量要遠(yuǎn)小于視頻的數(shù)據(jù)量，因而即使使用稍微落后的音頻編碼標(biāo)準(zhǔn)，而導(dǎo)致音頻數(shù)據(jù)量有所增加，也不會對視音頻的總數(shù)據(jù)量產(chǎn)生太大的影響。高效率的音頻編碼在同等的碼率下，可以獲得更高的音質(zhì)。
音頻編碼的簡單原理可以參考：視頻壓縮編碼和音頻壓縮編碼的基本原理

音頻編碼.png

由表可見，近年來并未推出全新的音頻編碼方案，可見音頻編碼技術(shù)已經(jīng)基本可以滿足人們的需要。音頻編碼技術(shù)近期絕大部分的改動都是在MP3的繼任者——AAC的基礎(chǔ)上完成的。

這些編碼標(biāo)準(zhǔn)之間的比較可以參考文章：音頻編碼方案之間音質(zhì)比較（AAC，MP3，WMA等）

結(jié)果大致是這樣的：
AAC+ > MP3PRO > AAC> RealAudio > WMA > MP3

AAC格式的介紹：AAC格式簡介
AAC幾種不同版本之間的對比：AAC規(guī)格（LC，HE，HEv2）及性能對比
AAC專利方面的介紹：AAC專利介紹
此外杜比數(shù)字的編碼標(biāo)準(zhǔn)也比較流行，但是貌似比最新的AAC稍為遜色：AC-3技術(shù)綜述

6、現(xiàn)有網(wǎng)絡(luò)視音頻平臺對比

現(xiàn)有的網(wǎng)絡(luò)視音頻服務(wù)主要包括兩種方式：點播和直播。點播意即根據(jù)用戶的需要播放相應(yīng)的視頻節(jié)目，這是互聯(lián)網(wǎng)視音頻服務(wù)最主要的方式。絕大部分視頻網(wǎng)站都提供了點播服務(wù)。直播意即互聯(lián)網(wǎng)視音頻平臺直接將視頻內(nèi)容實時發(fā)送給用戶，目前還處于發(fā)展階段。直播在網(wǎng)絡(luò)電視臺，社交視頻網(wǎng)站較為常見。

直播平臺參數(shù)對比.png

可以看出，直播服務(wù)普遍采用了RTMP作為流媒體協(xié)議，FLV作為封裝格式，H.264作為視頻編碼格式，AAC作為音頻編碼格式。采用RTMP作為直播協(xié)議的好處在于其被Flash播放器支持。而Flash播放器如今已經(jīng)安裝在全球99%的電腦上，并且與瀏覽器結(jié)合的很好。因此這種流媒體直播平臺可以實現(xiàn)“無插件直播”，極大的簡化了客戶端的操作。封裝格式，視頻編碼，音頻編碼方面，無一例外的使用了FLV + H.264 + AAC的組合。FLV是RTMP使用的封裝格式，H.264是當(dāng)今實際應(yīng)用中編碼效率最高的視頻編碼標(biāo)準(zhǔn)，AAC則是當(dāng)今實際應(yīng)用中編碼效率最高的音頻編碼標(biāo)準(zhǔn)。視頻播放器方面，都使用了Flash播放器。

點播平臺參數(shù)對比.png

可以看出，點播服務(wù)普遍采用了HTTP作為流媒體協(xié)議，H.264作為視頻編碼格式，AAC作為音頻編碼格式。采用HTTP作為點播協(xié)議有以下兩點優(yōu)勢：一方面，HTTP是基于TCP協(xié)議的應(yīng)用層協(xié)議，媒體傳輸過程中不會出現(xiàn)丟包等現(xiàn)象，從而保證了視頻的質(zhì)量；另一方面，HTTP被絕大部分的Web服務(wù)器支持，因而流媒體服務(wù)機構(gòu)不必投資購買額外的流媒體服務(wù)器，從而節(jié)約了開支。點播服務(wù)采用的封裝格式有多種：MP4，F(xiàn)LV，F(xiàn)4V等，它們之間的區(qū)別不是很大。視頻編碼標(biāo)準(zhǔn)和音頻編碼標(biāo)準(zhǔn)是H.264和AAC。這兩種標(biāo)準(zhǔn)分別是當(dāng)今實際應(yīng)用中編碼效率最高的視頻標(biāo)準(zhǔn)和音頻標(biāo)準(zhǔn)。視頻播放器方面，無一例外的都使用了Flash播放器。