- NS2583 同步升压型 2A 双节锂电池充电管理 IC
- NLC47022带NTC功能和电量均衡功能电流2A 5V异
- PT2027 单触控双输出 LED 调光 IC
- HT316C兼容HT326C防破音功能免电感滤波2×20WD
- HT3386兼容TPA3118 2×50W D类立体声音频功放
- NS8220 300mW 双声道耳机音频放大器
- HT6875 2.8W防削顶单声道D类音频功率放大器
- HT77221 HT77211 4.0V~30V输入,2A/1.2A同步降压变换器
- NS4117X 系列 外置 MOS 管开关降压型 LED 恒流控制器
- HT71663 13V,12A全集成同步升压转换器
- HT71763 20V,15A全集成同步升压转换器
- NS2160 同步开关型降压锂电池充电管理 IC
- HT7702 2.5~5.5V输入,2A同步降压变换器
- HT77231 4.0V~28V输入,3.5A同步降压变换器
为什么需要ISP
网络摄像机的主要器件/模块包括镜头(lens)、图像传感器(sensor)、模数转换模块信号处理模块、压缩编码模块、网络传输模块等。目前摄像机的主控芯片SOC已经集成了所有信号处理相关的功能。
为了使得摄像机的成像效果更符合人的观看需要,需要对传感器输出的原始图像进行“处理”,即ISP,图像信号处理。下图为典型的ISP流程图。
SP包括RAW、RGB、YUV三个层级,或者称为ISP的三个域。
关于RAW、RGB、YUV的介绍,参考前期文章《码,流,码流》。
图像的采集和显示一般都在RGB空间进行,采集和显示设备的工作原理天然符合RGB模型。利用YUV空间具备的色度与亮度分离特性,可以针对亮度和色度选用不同的处理算法,互不干扰,因此图像信号的处理多在YUV空间进行。
为什么需要ISP?以下按照镜头、传感器、环境、视觉需要等进行举例介绍。
镜头
镜头阴影矫正LSC
Luma shading, 镜头通光量从中心向边缘逐渐衰减导致画面边缘亮度变暗的现象。大靶面的sensor配合短焦镜头时此现象更加明显。
Chroma shading,镜头对不同波长的光线折射率不同引起焦平面位置分离导致图像出现伪彩。
畸变校正
枕形畸变(Pincushion Distortion),又称枕形失真,它是由镜头引起的画面向中间“收缩”的现象。在使用长焦镜头或使用变焦镜头的长焦端时,最容易察觉枕形失真现象。
桶形畸变(Barrel Distortion),又称桶形失真,是由镜头中透镜物理性能以及镜片组结构引起的成像画面呈桶形膨胀状的失真现象。在使用广角镜头或使用变焦镜头的广角端时,最容易察觉桶形失真现象。
图像传感器多采用“拜耳阵列”进行图像采集,像素阵列是红绿蓝三种颜色交错排列的,即非连续采集,因此需要对采集的RAW数据进行处理,以“恢复”出真实的色彩。
黑电平矫正
图像传感器的光电二极管存在暗电流,暗电流是指在没有外部激励的情况下,pn结中仍然存在的微小电流。在无光环境下,图像输出应该是纯黑的,而实际上无光环境下光电二极管仍会存在电流,造成输出并不是纯黑的。ISP对传感器暗电流的处理称为“黑电平矫正”,通常需要减去一定数值的输出。
坏点矫正
图像传感器由于自身工艺、材料瑕疵等会造成输出异常的像素点,统称为坏点。实际包括坏点(Deadpixel)、粘滞点 (StuckPixels) 与亮点 (Hotpixel),前者是高度曝光下的暗像素点,中者是高度曝光下相同位置出现的彩色像素点,后者为极暗条件下产生的亮点。坏点包括静态坏点和动态坏点,动态坏点与传感器工作温度、增益有关。坏点矫正通常是将像素点的输出与周围像素点作比较,存在明显较大的差异时则被认为是坏点。
视觉需要
颜色校正Color Corret
人眼在可见光波段的频谱响应、监视器的激励响应和图像传感器的频谱响应均存在较大差别,如果ISP按照1:1或线性输出采集的光谱激励,会造成人眼视觉呈现的图像色彩失真。
国际照明委员会(CIE)于1931年首次用纯数学的方法定义了一种颜色空间模型,即CIE 1931 XYZ 颜色空间,它覆盖了人眼所能感知的全部颜色,而且不依赖于任何特定的物理实现。在该模型中,CIE定义了三个函数用于模拟人眼的三种锥细胞对可见光谱的响应曲线,如下图所示:
下图为某款sensor的频谱响应曲线:
为了使得图像输出更贴近人眼的观察效果,需对不同RGB分量进行合适的增益,这种增益同时需要保证对于RGB分量相等的输入可获得相等输出,即不能破坏“白平衡”。
白平衡White Balance
人类视觉系统(Human Visual System, HVS)能够在各种不同的光照条件下识别物体的颜色,这种自动排除光源影响的能力称为颜色恒常(color constancy)。
白平衡的英文为White Balance,其基本概念是“不管在任何光源下,都能将白色物体还原为白色”,对在特定光源下拍摄时出现的偏色现象,通过加强对应的补色来进行补偿。白平衡的作用就是模拟人类的色彩恒常能力,在图像中去除光源引起的偏色,当图像在显示器上渲染时,使物体呈现其应有的颜色。对于需要在sRGB(standard Red GreenBlue,通用色彩标准)显示器上显示的图像,白平衡算法需要将拍摄场景色温下的白色映射为D65色温下的白色。目前主流的显示器都是支持sRGB标准的,该标准定义的白点是D65(色温为6500K),这就相当于实现了人类视觉的颜色恒常特性。白平衡算法的关键在于对场景光源色温的估计。
Gama矫正
人眼可以适应的光亮范围非常宽广,从几乎完全黑暗到非常明亮的阳光。但人眼对亮度的感知并不是线性的,而是幂函数的关系,这个函数的指数通常为2.2,称为Gamma值。人眼对低亮度的细小差别感觉较为明显,而对高亮度的细小差别的感觉不明显。为了模拟人眼对光线强弱的响应,Gamma矫正将对低值部分的差距拉大,对高值部分数据差距减小。
Tone Mapping色调映射
显示器所能呈现的动态范围通常远小于摄像环境的动态范围。因此需要对图像的亮度和对比度进行处理,以便将高动态范围(HDR)的图像转换为低动态范围(LDR)图像,以适应显示设备的能力。
噪声
噪声的来源是多方面的,可能是镜头引入的杂光、传感器电路特性造成的暗电流等、为了纠正某项误差而引入的新的误差等等,RAW、RGB、YUV均有降噪的处理。
以上仅简单罗列了ISP的部分内容,作为科普了解。
从ISP到AI ISP
传统 ISP是将sensor 输出的raw数据按照一定顺序的pipeline转换成人眼可见的YUV数据。AI ISP是在传统的基础上,通过在特定场景下的图像数据集进行训练,将某个模块或者多个模块的功能用AI芯片实现。目前成熟的AI ISP技术是人眼最可知、信号处理时最关键的降噪3DNR、HDR、ToneMapping、Demosaic等进行AI化处理。
上一篇:共模电感和差模电感在音频中的应用;
下一篇:串口通信解释