论文摘要
H.264/AVC是ITU-T VCEG和ISO/IEC MPEG联合推出的最新视频编码国际标准,虽然该标准仍然基于以往成熟的预测变换混合编码的架构,但融合了近些年视频编码方面的各项先进技术,编码效率比以往的标准提高了至少一倍以上。和以往的标准相比,H.264/AVC在编码层的突出特点主要包括可变块大小的运动补偿预测、多参考帧预测、整数变换、1/4像素精度的运动补偿预测、上下文自适应的熵编码以及环内去块效应滤波。由于支持这些先进的功能,H.264/AVC的编码复杂度空前的增加。因此,针对H.264/AVC视频编码算法进行研究,并根据其原理进行性能优化,以及在保证编码质量的前提下如何降低编码的复杂度,都具有十分重要的理论和实际意义。因此本文围绕H.264/AVC视频编码优化算法,主要研究了下面几个方面的问题:首先,我们研究了视频序列存在比特预算限制的最优编码问题。上述问题主要体现在视频存储的应用中,为了获得编码序列的最优一组量化参数,最好考虑序列中各帧之间的相互依赖性。针对以上各帧相关的最优编码问题,可以通过帧级率失真优化解决。穷举迭代法（EIA）就是最佳的帧级率失真优化算法,但该算法的计算复杂度太高,无法应用到实际的编码中。因此本文研究了一些次优算法,并提出了基于ρ域率失真模型和最佳次优算法（即GIA）的帧级率失真优化算法,可以从所有可能的量化参数组中选择一组使得率失真代价最小的一组量化参数作为最优的一组量化参数。该算法大大降低了GIA的计算复杂度,仿真结果表明,和GIA相比,本文算法在编码质量几乎相等情况下的编码时间还不到GIA一遍RDO的八分之一。其次,研究了H.264/AVC帧级编码中量化参数精确控制的问题。在H.264/AVC检验模型JM10.2的帧级编码中,每一帧的编码比特和量化参数有着直接对应的关系,因为帧中每一个宏块采用的都是同一个量化参数。但是根据JM10.2中的二次率失真模型计算的量化参数常常导致每一帧的编码比特和目标比特的失配,本文提出了一个通过ρ域率失真模型对上述量化参数进行调整的算法,可以弥补上述二次率失真模型不够精确的不足。最后,研究了帧间预测编码中宏块编码模式的快速判决问题。为了更精确地进行帧间预测,H.264/AVC采用了可变块大小的运动补偿预测技术,通过率失真优化来选择最佳的块大小帧间模式。因此宏块帧间模式的判决是H.264/AVC实际编码中最耗时的一个模块。为了降低整个编码的计算复杂度,本文提出了一个新的帧间模式快速判决算法。通过对宏块的空域和时域信息的综合分析,对SKIP模式和P8x8模式这两种特殊的模式进行提前判决,大大降低了整个编码的计算复杂度。综合以上关于帧级编码中的量化参数更新算法和帧间模式快速判决算法,本文在JM12.4的基础上提出一个优化的H.264/AVC帧级编码方案,并和H.264/AVC最新的JVT-W042帧级码率控制方案进行了全面的比较。仿真结果表明,在低码率的情况下,本文提出的优化编码方案优于JVT-W042,而且码率越低的情况下,优势越明显。除此而外,本文的优化编码方案还大大降低了编码的计算复杂度。