所谓率失真（distortion-rate），其实指的是图像失真度与编码码率二者之间的相互关系。

其中的图像失真度，目前一般采用原始图像与编码重建图像之间的峰值性噪比PSNR来衡量，这个PSNR可以是亮度PSNR，也可以是亮度与色度PSNR的线性组合。一般最简单的情况下，采用亮度的PSNR（Y-PSNR)来作为主要衡量依据。其中所谓的峰值信号，即图像中像素的最大值（比方说像素亮度的最大值）；其中所谓的噪声，指的是原始图像与重建图像中各像素值的均方差(差值的平方取均值）；将两者一除，取其比值，再转换成分贝形式，即为PSNR。

其中的编码码率，指的是选取不同编码参数、量化参数、预测模式时最终所需传输的运动矢量、参考帧编号、预测残差值等总体编码数据的多少。

率失真优化：其一般目的就在于，在以尽可能小的编码码率下，获取的图像失真度尽可能的少，唯有如此，编码器的编码效率才是最高。当然，也不排除率失真优化的一些其他的特殊目的，比方说，在保证码率不过上限的情况下失真度最小、在保证失真度不过下限的情况下码率最小，等等

率失真分析：指某种可合理选择编码/量化参数及预测模式、从而实现率失真优化的建模、优化、分析过程。在H.264的编码器中，一般均采用基于拉格朗日的优化算法来进行选取相应的编码参数及预测模式，从而达到编码控制及率失真优化的目的。