雪岭 · 万字初探红外摄像头(上):基本原理、特点、应用和国外主要玩家

科技   2024-05-25 13:06   上海  

图片来源:高德红外


在过去的很长时间里,在自动驾驶领域,研发人员主要是讨论如何使用摄像头(可见光)、毫米波雷达、激光雷达来提升自动驾驶的安全性和性能。


但是红外摄像头,却很少被提及。


摄像头(可见光)、毫米波雷达、激光雷达均有各自的局限,尤其是在黑夜或者恶劣天气时。例如:
  • 夜晚时,可见光摄像头的有效探测距离将大幅减小;

  • 毫米波雷达分辨率较低,在隧道等复杂场景容易误报;

  • 激光雷达在恶劣天气时性能衰减剧烈;


红外摄像头可以在白天、晚上以及恶劣天气下可靠地检测行人、车辆和道路状况,红外热成像摄像头检测距离远,可以达到300米,甚至500米。

可见光摄像头和红外热成像摄像头的检测效果对比:

图片来源:轩辕智驾

据不完全统计,全球60%的交通事故发生在晚上,占交通事故死亡总数的50%。(源自:https://www.dongchedi.com/article/7066963753111405092)


2018年3月18日晚上10点左右,Uber自动驾驶车辆在亚利桑那州碰撞了一名正在横穿马路的女性,并导致后者死亡。该事件在业内引起轩然大波,事发后Uber主动停掉了多地无人车路测,很快亚利桑那州交通局收到时任州长指示,无限期吊销Uber无人车路测资格

图片来源:https://inews.ifeng.com/56888523/news.shtml?&back

之前有工程团队对Uber事故发生时的驾驶场景做过模拟,如果当时配备了红外热成像摄像头,可以提早5秒检测到行人。对于保证安全的自动驾驶功能,往往都是以ms为单位进行计算,如果能够提前5秒发现行人,无疑可以大大降低悲剧发生的概率


本文就尝试介绍一下这个在自动驾驶汽车上,不常提及的“神秘黑科技”——红外摄像头


由于篇幅的原因,分为上下两篇文章。

  1. 上篇重点介绍:红外摄像头的基本原理、特点、应用和国外主要玩家。

  2. 下篇重点介绍:长波红外热成像摄像头的原理详解、关键器件核心技术、主要挑战、发展趋势和国内主要玩家。


本篇是上篇。

01

红外摄像头的基本原理

红外摄像头是利用红外线进行成像的摄像头,基本结构如下:

根据不同的类型,有些红外摄像头可能不具备“照射装置”和“制冷装置”。

1. 波长

红外线的波长在0.76μm至1000μm之间,根据波长的不同,通常又划分为5个不同的区间,如下图所示:

图片来源:https://zhuanlan.zhihu.com/p/522390743

空气中不同成分对不同波段的红外辐射的吸收率是不同的,其中,水蒸气、臭氧、二氧化碳的影响最大。经过实验,红外辐射波段在大气中的透射率(=未被吸收的辐射能量/总能量),如下所示:

图片来源:https://zhuanlan.zhihu.com/p/522390743

因此,对于短波/中/长红外摄像头使用的波长,主要是三个大气窗口:

  • 短波红外SWIR:1~2.5μm

  • 中波红外MWIR:3~5μm

  • 长波红外LWIR:8~14μm


2. 成像效果

/中/长红外摄像头的效果对比:

图片来源:虹科光电

可以看到,
  • 短波红外的成像效果类似于可见光黑白摄像头;

  • 中波和长波红外对于冷热区分较为明显,另外因此中波和长波红外无法穿透眼镜玻璃(原因后面介绍),因此眼镜区域呈现黑色;


3. 主动红外和被动红外

主动红外摄像头是通过“照射装置”(红外灯)主动照射目标,并利用目标反射回来的红外光,来实施检测。

被动红外摄像头借助于目标自身发射的红外辐射,或者目标反射外部环境的红外光(无“照射装置”),来实施检测。

主动和被动在不同波段的应用如下:

其中:

  • 近红外和短波红外一般采用主动方式(反射),有些特殊场景也采用被动方式(反射),即依靠环境投射到目标的反射信号;

  • 中波、长波和远波红外主要是被动方式(热辐射),短波红外在有些特殊场景也采用被动方式(热辐射);

  • 可见光波段在白天是被动方式(反射),在夜晚通过汽车大灯照射目标时,可以视作是主动方式(反射);


对于车载红外摄像头,主动和被动方案成像的对比如下:

图片来源:汽车Ai

两者主要性能对比如下:

对于车载红外系统,
  1. 如果给驾驶员显示图像使用的话,一般主动和被动方案都有采用。

  2. 如果是给自动驾驶系统作为感知传感器,目前主流是采用非制冷长波被动热辐射方案(下篇文章重点介绍)。


4. 红外探测器

红外探测器是红外摄像头非常核心的部件,其发展历史如下:

图片来源:https://wulixb.iphy.ac.cn/cn/article/doi/10.7498/aps.68.20190281

根据工作机理的不同,红外探测器可分为非制冷探测器(热探测器)和制冷探测器(光子探测器):

两者对比如下:

图片来源:AIoT 星图研究院

1)制冷探测器(光子探测器

基于光电效应,入射光子流与探测器材料的相互作用产生光电效应,通过测量光电效应的大小,计算得到吸收辐射的大小。该原理和可见光摄像头原理类似。

由于红外探测器的材料特殊性,通常情况下,必须将探测器材料冷却到较低温度(一般是-200~-130℃),才能够观测到光电效应。因此该型探测器需在液氮低温状况下工作,需要配置制冷器。

斯特林制冷机:

图片来源:高德红外

制冷型探测器灵敏度高,探测距离远,但是专门的制冷装置让其结构复杂、成本高、体积大、功耗大、寿命短。主要应用于军事、航天、船舰等高端领域。

2)非制冷探测器(热探测器)

这种探测器的工作机理是基于入射辐射的热效应引起探测器材料温度变化。探测器材料某些物理性质会随着温度变化发生改变,通过测量这些物理性质的变化就可以测出材料吸收辐射的大小。

热探测器利用的热效应与入射辐射的波长无关,热敏单元的温度变化较慢,室温环境下就可以观测到热敏单元的温度变化。该型探测器无需制冷装置,可以在常温下使用。

图片来源:高德红外

热探测器启动快、功耗低、体积小、重量轻、寿命长、成本低,但灵敏度低,观测距离较短(相对制冷型)。非制冷型探测器虽然在灵敏度上与制冷型探测器有一定差距,但经过近十余年的发展,已可满足部分军事装备及绝大多数民用领域的技术需要。


02

不同波段红外摄像头的特点

1. 短波红外摄像头

短波红外摄像头一般需要主动红外光源(LED、激光器等),因此不发出热信号的物体也可以被发现。一般家用监控摄像头就是用的短波红外,一般需要红外补光灯。

短波红外成像原理与可见光相机或人眼非常相似,因此成像效果与黑白可见光图像相当,对比度高,图像清晰。

同时,短波红外摄像头还可以一些可见光摄像头无法实现的检测功能,例如:

夜视:

图片来源:网络

透视:

图片来源:https://zhuanlan.zhihu.com/p/141014052

水果瘀伤检测:

图片参考:正经无聊说

半导体硅片缺陷检测:

图片参考:正经无聊说

区分物体的成分(糖和盐,正常大米和受潮大米):

图片参考:正经无聊说

2. 中波红外摄像头

中波红外摄像头一般采用热辐射进行成像,物体越热,辐射率越高,物体在红外摄像头上的亮度就越高。

图片来源:焉知汽车

中波红外的波长更长,在大气中的散射更少,因此中波红外可以更容易的穿过烟雾、灰尘和雾气,例如在高温/潮湿的海洋大气条件下,中波红外的效果更好,可以更容易的识别舰船发动机等高温目标。

中波红外摄像头的探测器一般为光电型探测器,使用碲镉汞作为像元材料,依靠碲镉汞在像元内激发的光电效应进行成像。

不过,碲镉汞探测器的制作过程极为复杂,例如:
  1. 传感器和处理电路需要分开单独制造,之后再通过铟柱将两者连接(类似奥利奥饼干,两层饼干分别是碲镉汞光电二极管和硅基芯片,中间的夹心则是铟柱);

  2. 每个像元上的铟柱必须链接到芯片上特定的位置;

  3. 相邻的像元之间铟柱不能粘连或者缺失,而像元的边长只有十几微米。

  4. 需要高一致性掺杂的碲镉汞材料,该材料的制备难度很高;


碲镉汞像元示意图:

链接:https://www.zhihu.com/question/319562835/answer/2836000815

同时,碲镉汞传感器需要工作在-200~-130℃的低温下。因此,像元背后需要接一个斯特林制冷机或者通过液化气来制冷,据了解,一个制冷功率为个位数的斯特林制冷机需要数万元。因此,一套分辨率为640x480的中波制冷红外系统,价格可能高达十几万

如下是一款中波红外传感器:

图片来源:北方夜视

3. 长波红外摄像头

长波红外摄像头也通过热辐射进行成像,主要使用非制冷热辐射计传感器进行感知,这种传感器是使用MEMS工艺制造的一种热电型传感器,成本较低。(有些长波红外摄像头也使用光电型传感器,原理和中波类似,像元材料不同,成本较高。)

长波红外摄像头无需外部光源、可以穿透烟雾、探测距离远、体积小、光学设计简单,在地面大气环境的传输效果最好,非制冷长波红外成像成本较低,因此在军事和民用都有广泛应用。

图片来源:轩辕智驾

非制冷型长波红外摄像头原理在下一篇文中详细介绍,本小节先介绍一下这种摄像头的主要优势。

1)黑夜环境能力强

红外热成像不依赖可见光,在夜间探测不受影响。

图片来源:轩辕智驾

例如:

图片来源:轩辕智驾


2)不受眩光影响

图片来源:轩辕智驾


3)测距远

红外夜视系统一般能够检测300m的距离,甚至有些最新的高性能产品可以检测500m。

图片来源:stfore,广发证券


4)恶劣天气适应性强

长波红外可以容易穿透雨雪雾、雾霾、烟尘等,因此恶劣天气的适应性很强。

图片来源:轩辕智驾

5)生命体检测能力强

红外热像仪对温度非常敏感,因此对于人类、动物等目标识别效果很好。

图片来源:网络

甚至在有遮挡时,也能很好的检测。

图片来源:FLIR,海通证券

03

红外摄像头在汽车上的应用

1. 主要功能

红外摄像头在汽车上主要有3种应用方式:

  1. 夜视成像,给驾驶员显示;

  2. 舱内感测,例如身份识别、驾驶员监控、乘员状况监测、车内温度监测、防止可疑入侵,等等。

  3. 作为自动驾驶的感知传感器,实现目标识别和跟踪,提升自动驾驶感知性能。


红外摄像头如果检测外部目标,一般是安装在车辆的前部,如下:

图片来源:https://mp.weixin.qq.com/s/OOEeo6_bp8IWSYtj00h19w

2. 应用历程

早期的汽车红外夜视系统的发展历程如下:

图片来源:https://www.fulllightcn.com/article-item-59.html

3. 国外汽车应用示例

1)凯迪拉克

2000年的凯迪拉克De Ville是第一款提供夜视功能的车型。

该系统是被动红外系统,由凯迪拉克公司与Raytheon公司共同研发,热感应摄像机安装在车头进气格栅,凯迪拉克De Ville夜视距离在300m左右。

图片来源:https://mp.weixin.qq.com/s/1m75vzH_G2vvT1PVo8oIXQ

凯迪拉克CT6的NIGHT VISION鹰眼智能红外夜视系统:

图片来源:https://new.qq.com/rain/a/20200123A0J4T700

2)奥迪

奥迪在2010年开始配备夜视系统,其中奥迪A8L配备被动红外夜视辅助系统。

红外摄像机位于整车前脸的进气格栅处,最大有效成像范围为300m,人像识别的范围是15-90m。

当系统发现行人,立即定位行人并用黄光高亮显示。如果系统判行人与车即将相撞、将显示的行人颜色将变成红色、并发出声音警报。

图片来源:易车,https://news.yiche.com/hao/wenzhang/55234019/

系统方案:

图片来源:GIVC HUB,https://zhuanlan.zhihu.com/p/436288806

2012年推出的奥迪A7也同样开始配置了被动红外成像摄像头,带有行人识别功能的夜视辅助系统,能够捕捉前方24度内300米内的热源,当热源出现在捕捉范围内,经过电脑处理的图像会在仪表盘中以黑白对比色,进行显示。

3)宝马

宝马也是较早导入夜视系统的厂商之一。自2006年3月起,中国市场销售的BMW 760Li和BMW 760Li个性化版本车型开始装备全新的BMW夜视系统。

图片来源:宝马

宝马7系车配备的是被动夜视系统,将热成像仪添加了防撞层,安装在汽车前端,夜视距离可达300m左右,水平视角24°。

图片来源:https://tieba.baidu.com/p/682195304

4)奔驰

奔驰S550和E级车型上使用主动短波近红外技术,最远可探测距离达到150m。

系统架构图如下:

图片来源:https://www.elecfans.com/d/719394.html

4. 国内汽车应用示例

1)BYD

2013的比亚迪思锐采用主动红外夜视系统。通过红外灯照射前方,布置在内后视镜背面的红外摄像头拍摄前方图像,并将接收到的信号转化为视频信号,通过HUD呈现驾驶者,系统能捕捉路况信息可达120米。

图片来源:https://club.autohome.com.cn/bbs/thread/3d8394514616271b/24231063-1.html

仰望U8,采用睿创微纳红外热成像系统,可以在黑夜行车时,为用户提供清晰的视野。

2)红旗

红旗H7,HQ3等装备主动夜视系统,通过前照灯上的红外线发射器和前风窗上的摄像头,同步监控车辆前方区域,使驾驶员随时获取清晰的路况信息,及时检测前方80米范围内的车辆与行人。

图片来源:AI汽车人

3)陕汽

2020年11月,陕汽德龙高端重卡车型X6000上市,该车型是国内首款搭载红外热成像系统的重卡车型。

该车型采用轩辕智驾红外热成像方案,通过自适应动态视角红外摄像头等感知融合技术,为驾驶员提供全天候的视野增强功能,识别行车和行人,保障夜间行车安全。

图片来源:https://www.yoojia.com/article/9580671036047076659.html

4)滴滴

2021年4月,滴滴发布了与沃尔沃共同打造的“滴滴双子星”自动驾驶硬件平台,其中搭载了一个探测距离100米的红外相机。

图片来源:滴滴

2023年1月3日起,滴滴Robotaxi将服务时间拓宽至24小时。滴滴自动驾驶最新软硬件的车辆搭载了红外热成像传感器,在逆光和夜间场景均可稳定识别。

滴滴自动驾驶卡车KargoBot,也搭载了红外热成像传感器,以提升安全系数。

图片来源:车市大咖

5)踏歌智行

2022年3月29日,艾睿光电与踏歌智行达成战略合作,双方将共同推动红外热成像在矿用车无人驾驶的应用。

艾睿光电IR-Pilot汽车红外热成像可批量上装踏歌智行的无人矿用车。此外,艾睿光电借助自身的算法能力,可输出活体检测、障碍物检测、可行驶车道检测等多款自研红外算法,更加贴合矿山场景下无人驾驶的市场需求。

图片来源:无人驾驶网

6)广汽埃安

2022年9月2日,广汽埃安与高德红外/轩辕智驾宣布达成深度合作,广汽埃安旗下新能源车型将搭载红外智驾传感技术,打造全天候智驾感知方案。

图片来源:https://zhuanlan.zhihu.com/p/497387380

埃安ADiGO智驾系统集成红外智驾传感技术,强化了暗夜、雾霾、大雨环境的视频采集、识别能力,并与现有的激光雷达+毫米波雷达+可见光摄像头结合,实现融合红外热成像的主动辅助行车安全策略。

2023年7月,融合红外夜视技术的昊铂GT上市。埃安ADiGO集成夜视系统的传感器配置:

图片来源:埃安

7)大运远航

大运旗下新能源汽车品牌“远航”全系列车型(远航Y6、远航Y7、远航H8、远航H9)标配红外热成像系统。据介绍,大运豪华轿车远航Y6、豪华SUV远航H8将于今年量产落地。

图片来源:车市大咖

8)岚图

岚图FREE增程版搭载NVS主动夜视行车系统,夜视最大视距达150米。

在夜间、大雾、暴雨、隧道等行车场景时,系统能够实时预警潜在危险,AI自动识别行人、汽车及自行车,识别率≥95%。

图片来源:百家号/EV视界

除了上面车型之外,
  • 2020年12月,Zoox发布了首款纯电动无人驾驶汽车,其中搭载了由Teledyne FLIR为其提供的热像仪,可全天候在城市街道中对物体准确识别和分类。

  • 2021年5月,ADASTEC在其flowride.ai自动驾驶平台集成了两颗Teledyne FLIR热像仪,重点提升了对道路、道路附近以及公交车站等所有易受伤害的道路使用者的探测和安全。

  • 高合HiPhi X将红外线夜视技术和智能大灯结合,具有更强大的夜视能力。

04

市场趋势

红外成像行业门槛较高,仅少数国家能够开发:

图片来源:Yole

据有研究机构分析,全球热成像市场规模从2019年到2025年期间,将以8%的CAGR(年均复合增长率)增长,至2025年该市场价值可达约75亿美元。

根据高工智能汽车研究院监测数据显示,2022年中国市场(不含进出口)乘用车前装标配搭载红外夜视系统交付2.11万辆,同比上年同期增长42.57%。


由于发达国家在红外技术上存在先发优势,过去全球红外市场主要由FLIR、Ulis、SEEK等欧美厂商主导,2017年占据了全球66.3%的市场份额。

而国内厂商近年来与国际一线品牌的差距不断缩小,根据Yole统计的数据,我国红外厂商的市场份额从2019年的15%快速提升到2020年的44%,高德、海康、睿创、大立占据了全球十强中的四席,预计2025年国内红外厂商的全球市场份额有望达到64%。

图片来源:Yole,浙商证券

05

国外主要玩家

1. 美国FLIR

FLIR成立于1978年,总部位于美国俄勒冈州威尔逊维尔。通过对多家公司收购,不断丰富产品、扩大市场,是目前全球最大的红外热像仪组件和传感器的公司。2021年1月4日,FLIR被Teledyne收购,FLIR被并入Teledyne的数字成像部门,并以Teledyne FLIR这一名称运营。

FLIR公司发展历程:

数据来源:FLIR 官网,FLIR 年报,广发证券发展研究中心

FLIR焦平面产品主要包括:氧化钒非制冷红外探测器、中波红外的InSb以及短波红外的InGaAs阵列。

在车载领域,比较有代表性的是Boson长波红外热成像机芯,采用12μm像元间距,分辨率640×512或320×256,帧数60/30Hz。

图片来源:FLIR

维宁尔基于FLIR机芯开发热成像传感系统(Night Vision),在奔驰S400、奥迪A6、奥迪A8、奥迪Q7、宝马7系、凯迪拉克CT6、标致508L、DS7、大众辉昂、大众途锐等车型上量产。

维宁尔第四代热成像传感系统,搭载FLIR BOSON 640紧凑型长波红外热像仪机芯,尺寸缩小50%,重量减轻50%,并增强了视野和探测距离,加强了人、车和物的探测识别算法,支持夜间AEB和L4级自动驾驶。

2. 法国Lynred

Sofradir成立于1986年,其总部设在巴黎附近的帕莱索,是欧洲主要的空间红外探测制造商。Sofradir拥有ULIS和Sofradir-EC两个子公司。2019年6月4日,Sofradir与ULIS合并成为Lynred。

Sofradir产品覆盖整个红外光谱,主要产品:
  1. 碲镉汞,制冷型红外探测器,碲镉汞凝视型中波和长波阵列;

  2. 锑化铟(InSb)、铟镓砷(InGaAs)和量子阱相关产品;

  3. 非制冷型探测器以非晶硅工艺为主导,像素尺寸:12μm、 17μm和25μm等多个类型。

图片来源:Lynred

3. 以色列AdaSky

AdaSky于2015年创立,位于以色列。AdaSky主要开发长波红外热成像系统,用于提升感知性能和车辆安全性,提供智能城市道路解决方案。

2018年,AdaSky发布车载长波红外解决方案“Viper”,分辨率640×480,60帧/秒,30.72万像素,灵敏度为0.05摄氏度。

“Viper”采用和ST合作开发的ASIC和ISP芯片,以及开发机器学习算法,通过大规模红外注释图像数据集的训练,“Viper”可以检测最远300米的物体,并在所有能见度条件下对超过200米的物体进行分类。

图片来源:AdaSky

4. 美国雷神

雷神公司是美国最主要的国防承包商和工业公司之一,总部位于马萨诸塞州沃尔瑟姆,营业额超过90%来自国防合约。旗下雷神视觉系统(Raytheon Vision Systems,RVS)为天文学界和军事应用提供最先进的传感器芯片组件(SCAS)已经超过30年。

RVS采用Si Pin,HgCdTe,Si:As以及InSb等多种的材料来满足探测波长、性能指标和工作温度的需求,提供了多系列的高性能焦平面阵列产品,产品覆盖了从0.4μm到28μm的短波、中波、长波和甚长波段的红外光谱。

图片来源:中心建投研究发展部

5. 以色列SCD

SCD(Semi Conductor Devices)成立于1984年,总部位于以色列北部城市海法。

SCD开发和制造全系列冷却和非冷却红外探测器和激光二极管,用于红外探测器,热成像仪,智能弹药,夜视系统,机器视觉系统和军用和商用激光测距仪。主要产品:

  • 制冷型产品:以InSb禁带半导体和InAs/GaSb二类超晶格为主,目前生产的最大像素阵列是1920×1536的10μm的InSb焦平面探测器。

  • 非制冷型产品:以VOx技术为主导,目前覆盖了低端产品的384×288到高端产品的1024×768像素阵列,像素尺寸也包括25μm和17μm等多个类型。


06

结语

2023年11月27日,中国汽车标准化技术委员会发布了GB/T 43249-2023《汽车用被动红外探测系统》和GB/T 43250-2023《汽车用主动红外探测系统》。

两份国标分别提出了主被动红外探测系统的功能要求、性能要求和车规环境要求,建立了统一的测试评价方法,保障了系统的安全性和可靠性,为主被动红外探测系统的装车匹配提供了标准依据,推动了主被动红外探测技术的发展。

这两个标准的发布,必然会促进红外摄像头在汽车上应用的加快推进。


本文内容仅代表个人观点,和真实情况有可能有偏差,仅供参考。如需要相关内容更详细的技术信息,欢迎添加“雪岭飞花”微信(maxhnnl)进一步交流,感谢。

参考资料

  1. 焉知汽车,一文熟悉车载红外热成像技术,https://zhuanlan.zhihu.com/p/651429409
  2. 差评,隔着塑料都能“看”清楚的传感器,华为已经用在车上了,https://zhuanlan.zhihu.com/p/686548582
  3. 雷锋网,红外夜视「加速上车」,高手云集 | 盘点车载红外夜视厂家,https://zhuanlan.zhihu.com/p/630710751
  4. 黎韬扬,红外探测器技术获突破,关注国产化投资机遇,https://zhuanlan.zhihu.com/p/98172774
  5. 红外夜视研究:60%交通事故在夜间,红外成像技术大有可为,https://www.sohu.com/a/484350322_121124477
  6. 佐思汽研,红外夜视研究:装配同比增长趋缓,与ADAS集成融合或为增长点,https://mp.weixin.qq.com/s/opzafrmqv8RNjRAlwHnUNQ
  7. lilac的老父亲,非制冷红外焦平面探测器——热成像系统的核心,国际角逐的焦点,https://zhuanlan.zhihu.com/p/28109727
  8. 渡渡@正经无聊说,短波红外会成为智驾系统新标配吗?https://mp.weixin.qq.com/s/uSsCJ_JD9rR-_E-OQZuKdQ
  9. 十一号组织,车载红外相机,一颗冉冉升起的新星,https://zhuanlan.zhihu.com/p/392090846
  10. AIoT 星图研究院,《2022中国非制冷热成像行业研究报告》

我是雪岭飞花,汽车行业24年开发经验,自动驾驶行业发展的见证者和参与者,自动驾驶感知和控制系统资深专家。

有深度、高质量的技术分享,如果文章对您有帮助,欢迎关注、点赞和转发。如有疏漏或者错误,请批评指正。

如需加入自动驾驶专家微信群,和自动驾驶CEO/CTO、研发/产品总监、资深开发专家探讨交流,请联系“雪岭飞花”微信,备注所在公司和从业方向。感谢~



雪岭飞花
研究自动驾驶行业最新趋势,做有深度、高质量的技术分享,推动自动驾驶技术的普及和发展。
 最新文章