H.264帧内模式选择算法研究及在DSP上的优化实现

论文摘要

新一代视频压缩标准H.264/AVC支持从低带宽、高误码率的无线移动视频通信到高码率、低延迟的视频会议及在线流媒体等多种应用,在多媒体领域得到广泛关注和认同。相比于以前的标准,H.264能有效地提高编码器的压缩性能,但是标准的高复杂度也是目前视频应用的主要制约因素,所以研究标准在DSP（Digital Singnal Processor）上的实现及优化是非常有意义的。本文首先对H.264的核心技术进行分析研究,内容主要包括帧内/帧间预测、整数变换、量化、熵编码等,分析了它们的研究现状和在新标准中的创新点,在此基础上总结出了H.264/AVC未来的发展趋势。其次,研究了当前主要的两种帧内模式决策快速算法,一种是基于分组像素点的快速决策算法,该方法用分组像素点来代表一个块,在决策过程中每一个步骤中仅计算一组像素点的代价函数,以此减少计算点数,降低了复杂度;另一种算法是基于边缘方向直方图的快速决策算法,通过获得宏块的边缘方向信息,来确定预测模式的方向,从而获得最优或次优的帧内预测模式。本文从预测模式代价函数的选择和提前终止模式判决的基础上,提出了一种新的快速帧内预测模式算法,实验证明本文提出的算法与原算法相比,可以节约50%-75%左右的编码计算时间,信噪比平均下降0.03dB,码率有所上升。最后分析了TI公司的TMS320DM642芯片的系统结构,详细研究了H.264在DSP平台上的优化方法,所做的工作包括:调整存储空间的分配,改变存取的方式和变量的定义,采用内联函数,循环内部流水,线性汇编等方法对H.264中影响编码速度的瓶颈函数进行优化,结合DM642的两级Cache结构充分发挥DMA的能力等。通过优化前后实验结果的对比,可以看出基于DSP编码器的编码速度从之前的1.45帧/秒提高到8.35帧/秒,速度提高了6倍,取得了较好的优化结果。

论文目录

• 摘要
• Abstract
• 第1章 绪论
• 1.1 引言
• 1.2 视频编码原理
• 1.3 视频编码标准
• 1.4 本文研究意义和内容
• 第2章 H.264视频编码器的分析与实现
• 2.1 H.264的基本框架
• 2.2 H.264的输入图像格式类型及编码模式
• 2.3 H.264视频编码核心技术
• 2.3.1 帧内编码
• 2.3.2 帧间编码
• 2.3.3 多帧参考预测
• 2.3.4 整数变换和量化
• 2.3.5 环路滤波
• 2.3.6 熵编码
• 第3章 H.264帧内模式选择优化算法
• 3.1 全搜索的帧内预测模式选择算法及其复杂度分析
• 3.2 快速算法研究现状
• 3.3 快速帧内模式选择
• 3.3.1 代价函数的选取
• 3.3.2 预测模式的减少
• 3.4 测试结果
• 第4章 H.264编码器在DM642的优化实现
• 4.1 媒体处理器DM642的硬件特点
• 4.2 软件开发环境及DSP/BIOS的存储优化
• 4.2.1 使用DSP/BIOS进行存储器配置
• 4.2.2 DSP/BISO的API应用
• 4.3 Cache运行机制及优化策略
• 4.4 DMA的使用
• 4.5 汇编级优化
• 4.6 测试步骤和结果
• 第5章 结束语
• 5.1 工作总结
• 5.2 可改进的方向
• 参考文献
• 致谢
• 攻读硕士期间发表的论文