需求
在解碼帶B幀的視頻編碼碼流中,由于B幀的存在,導致parse出來的數據時間戳本身不是連續的,因為B幀需要可能需要參考后面的幀.因此,解碼完成后需要對碼流解碼做一個重排序
實現原理
首先分析parse出來的數據的時間戳,后面得出的結論是除了第一幀時間戳為0,總體時間戳是增長的,后面每4幀為一組,每組中的順序需要重新排序,排序后即可實現時間戳連續遞增.
考慮內存開銷,我們每次緩存4幀視頻數據,將其放入線性表中,然后使用排序算法對這4幀數據根據pts做一個排序,排好序后即可傳給渲染模塊將其渲染到屏幕上.
注意: 使用FFmpeg硬解無需關心排序問題,因為FFmpeg內部有緩存排序機制,即從FFmepg拿到解碼后的數據可直接渲染.
閱讀前提
代碼地址 : iOS解碼關于視頻中帶B幀排序問題
掘金地址 : iOS解碼關于視頻中帶B幀排序問題
簡書地址 : iOS解碼關于視頻中帶B幀排序問題
博客地址 : iOS解碼關于視頻中帶B幀排序問題
TODO
因為我們無法判斷碼流中的B幀是否依賴后面的視頻幀,而是 經過分析可得視頻幀的時間戳是總體增長,每組4幀,需要對4幀數據進行排序,目前暫時未知是否有非4幀一組的視頻幀,如果有則此Demo會有問題,因此如果有了解此方面大神望評論告知更好的解決方案.
總體架構
本文基于已實現解碼一個包含帶B幀的H.265碼流文件.因此,這里不對parse,解碼,渲染做過多說明,如需了解參考閱讀前提中的鏈接.
下面是從FFmpeg parse H.265文件得到的時間戳,我們可以看到,parse出來的時間戳總體是遞增的,除了第一幀時間戳為0的數據外,剩下的時間戳均以4個一組,每組內時間戳不是遞增的,因為解碼時我們仍需按照Parse出來的數據送去解碼,所以,我們只能對解碼后的數據做一個排序,即將每組數據裝入一個線性表,然后使用任一一種排序算法對其排序.
+0800 XDXVideoDecoder[1489:223381] Test - 0.000000
2019-06-25 12:38:09.656282+0800 XDXVideoDecoder[1489:223381] Test - 0.133333
2019-06-25 12:38:09.659350+0800 XDXVideoDecoder[1489:223381] Test - 0.066667
2019-06-25 12:38:09.660900+0800 XDXVideoDecoder[1489:223381] Test - 0.033333
2019-06-25 12:38:09.662889+0800 XDXVideoDecoder[1489:223381] Test - 0.100000
2019-06-25 12:38:09.664786+0800 XDXVideoDecoder[1489:223381] Test - 0.266667
2019-06-25 12:38:09.666900+0800 XDXVideoDecoder[1489:223381] Test - 0.200000
2019-06-25 12:38:09.668196+0800 XDXVideoDecoder[1489:223381] Test - 0.166667
2019-06-25 12:38:09.669825+0800 XDXVideoDecoder[1489:223381] Test - 0.233333
2019-06-25 12:38:09.670368+0800 XDXVideoDecoder[1489:223381] Test - 0.400000
2019-06-25 12:38:09.670948+0800 XDXVideoDecoder[1489:223381] Test - 0.333333
2019-06-25 12:38:09.671806+0800 XDXVideoDecoder[1489:223381] Test - 0.300000
2019-06-25 12:38:09.673082+0800 XDXVideoDecoder[1489:223381] Test - 0.366667
2019-06-25 12:38:09.673899+0800 XDXVideoDecoder[1489:223381] Test - 0.533333
2019-06-25 12:38:09.674961+0800 XDXVideoDecoder[1489:223381] Test - 0.466667
2019-06-25 12:38:09.675637+0800 XDXVideoDecoder[1489:223381] Test - 0.433333
2019-06-25 12:38:09.676451+0800 XDXVideoDecoder[1489:223381] Test - 0.500000
快速使用
- 初始化
- (void)viewDidLoad {
self.sortHandler = [[XDXSortFrameHandler alloc] init];
self.sortHandler.delegate = self;
}
- 在解碼回調中將解碼出來數據送給排序模塊
- (void)getVideoDecodeDataCallback:(CMSampleBufferRef)sampleBuffer isFirstFrame:(BOOL)isFirstFrame {
if (self.isH265File) {
// Note : the first frame not need to sort.
if (isFirstFrame) {
[self.sortHandler cleanLinkList];
CVPixelBufferRef pix = CMSampleBufferGetImageBuffer(sampleBuffer);
[self.previewView displayPixelBuffer:pix];
return;
}
[self.sortHandler addDataToLinkList:sampleBuffer];
}else {
CVPixelBufferRef pix = CMSampleBufferGetImageBuffer(sampleBuffer);
[self.previewView displayPixelBuffer:pix];
}
}
- 排序后通過代理方法拿到排過序的每幀數據將其渲染到屏幕
- (void)getSortedVideoNode:(CMSampleBufferRef)sampleBuffer {
int64_t pts = (int64_t)(CMTimeGetSeconds(CMSampleBufferGetPresentationTimeStamp(sampleBuffer)) * 1000);
static int64_t lastpts = 0;
NSLog(@"Test marigin - %lld",pts - lastpts);
lastpts = pts;
[self.previewView displayPixelBuffer:CMSampleBufferGetImageBuffer(sampleBuffer)];
}
具體實現
1. 定義一個線性表用來緩存視頻幀
使用一個裝有CMSampleBufferRef
指針的數據來緩存視頻幀.因為每4幀排一次序,所以長度為4,使用索引Index記錄每個視頻幀的位置.
const static int g_maxSize = 4;
struct XDXSortLinkList {
CMSampleBufferRef dataArray[g_maxSize];
int index;
};
2. 初始化
@interface XDXSortFrameHandler ()
{
XDXSortLinkList _sortLinkList;
}
......
- (instancetype)init {
if (self = [super init]) {
XDXSortLinkList linkList = {
.index = 0,
.dataArray = {0},
};
_sortLinkList = linkList;
}
return self;
}
3.將視頻幀存入線性表
CMSampleBufferRef
實際即為一個指針,首先使用CFRetain
函數使其引用計數+1以維持我們使用期間視頻幀不會被銷毀,當線性表沒有裝滿前一直為其添加視頻幀,當線性表裝滿后使用插入排序對其進行排序,排好后將數據依次以代理方法的形式傳出以供渲染模塊使用.使用完成后使用CFRelease
減少原始數據的引用計數.
- (void)addDataToLinkList:(CMSampleBufferRef)sampleBufferRef {
CFRetain(sampleBufferRef);
_sortLinkList.dataArray[_sortLinkList.index] = sampleBufferRef;
_sortLinkList.index++;
if (_sortLinkList.index == g_maxSize) {
_sortLinkList.index = 0;
// sort
[self selectSortWithLinkList:&_sortLinkList];
for (int i = 0; i < g_maxSize; i++) {
if ([self.delegate respondsToSelector:@selector(getSortedVideoNode:)]) {
[self.delegate getSortedVideoNode:_sortLinkList.dataArray[i]];
CFRelease(_sortLinkList.dataArray[i]);
_sortLinkList.dataArray[i] = NULL;
}
}
}
}
- (void)selectSortWithLinkList:(XDXSortLinkList *)sortLinkList {
for (int i = 0; i < g_maxSize; i++) {
int64_t minPTS = i;
for (int j = i + 1; j < g_maxSize; j++) {
if ([self getPTS:sortLinkList->dataArray[j]] < [self getPTS:sortLinkList->dataArray[minPTS]]) {
minPTS = j;
}
}
if (i != minPTS) {
void *tmp = sortLinkList->dataArray[i];
sortLinkList->dataArray[i] = sortLinkList->dataArray[minPTS];
sortLinkList->dataArray[minPTS] = tmp;
}
}
}
- (int64_t)getPTS:(CMSampleBufferRef)sampleBufferRef {
int64_t pts = (int64_t)(CMTimeGetSeconds(CMSampleBufferGetPresentationTimeStamp(sampleBufferRef)) * 1000);
return pts;
}
- (void)cleanLinkList {
_sortLinkList.index = 0;
for (int i = 0; i < g_maxSize; i++) {
if (CMSampleBufferIsValid(_sortLinkList.dataArray[i])) {
CFRelease(_sortLinkList.dataArray[i]);
}
_sortLinkList.dataArray[i] = NULL;
}
}