4D毫米波雷达 :RADIal雷达数据分享(附下载链接)

科技   2024-10-27 21:05   江苏  

点击下方卡片,关注“调皮连续波
一起学习和科普雷达技术!
【正文】
编辑|雷达小助理  审核|调皮哥 

RADIal数据集

(1)一个收集了 2 小时车辆行驶数据的数据集,采集场景包括:城市街道、高速公路和乡村道路。

(2)采集设备包括:摄像头、激光雷达和高清雷达等,并且还包括了车辆的 GPS 位置和行驶信息。

(3)总共有 91 个视频序列,每个视频时长从 1 分钟到 4 分钟不等,加起来一共是 2 小时。这些视频详细记录了车辆在不同地点和环境下的行驶情况。

(4)在大约 25,000 个录制的画面中,有 8,252 个画面被用来标记了 9,550 辆车。

论文原文:

https://openaccess.thecvf.com/content/CVPR2022/papers/Rebut_Raw_High-Definition_Radar_for_Multi-Task_Learning_CVPR_2022_paper.pdf

如下图所示,展示了相机图像,红色为投影的激光点云,靛蓝色为雷达点云,橙色为车辆标注,绿色为可行驶空间标注。


如下图所示,展示了雷达功率谱、鸟瞰图、雷达的距离-方位图、GPS 轨迹和里程计轨迹。

(b) 雷达功率谱,包含边界框注释;

(c) 鸟瞰视图中的自由行驶空间注释,车辆用橙色边界框标注,雷达点云为靛蓝色,激光点云为红色;

(d) 笛卡尔坐标系中的距离-方位图(Range-azimuth map),叠加雷达点云和激光点云;

(e)GPS 轨迹以红色表示,里程计轨迹重建以绿色表示

公开可用的带雷达的驾驶数据集,如下表所示:


数据集规模被定义为“小”是指<15k 帧、“大”是指>130k 帧、“中等”是介于两者之间。雷达分为低清晰度‘LD’、高清晰度‘HD’或扫描型‘S’,其数据以不同的表示形式发布,涉及不同的信号处理流程:

(1)模拟至数字转换器‘ADC’信号

(2)距离-方位-多普勒‘RAD’张量

(3)距离-方位‘RA’视图

(4)距离-多普勒‘RD’视图、点云‘PC’

多普勒信息的存在取决于雷达传感器。其他传感器模态包括相机‘C’、激光雷达‘L’和里程计‘O’。RADIal 是唯一提供高清雷达的每种表示形式,并结合相机、激光雷达和里程计的数据集,同时在论文中提出检测和自由空间分割任务。

1、传感器规格

这里的高清雷达,全称为High-definition (HD)  radar,简称为HD radar(是4D毫米波雷达的一种),HD radar安装在前通风格栅的中间,如下图所示。


它是RADIal数据集的核心,由NRx=16个接收天线和NTx=12个发射天线组成,形成NRx·NTx= 192 个虚拟天线。

这种虚拟天线阵列能够达到高分辨率的水平方位角,同时估计物体的垂直仰角。由于雷达信号难以被标注和直观理解,因此还提供了16线激光扫描仪 LiDAR 和 5 Mpix RGB 摄像头。16线的激光雷达,对应 laser scanner (LiDAR) ,安装在前通风格栅的中间下方。摄像头安装在挡风玻璃后面的内后视镜附近。三个传感器具有平行的水平视线,指向行驶方向。RADIal还提供同步GPS和CAN轨迹,可以访问车辆的地理参考位置及其驾驶信息,如速度、方向盘角度和偏航角,传感器的规格如下表所示。


2、采集场景

采集场景主要包括城市街道、高速公路和乡村道路,如下图所示,是各个场景的数据占比。


3、数据集结构

RADIal是一个独立的文件夹,包含所有记录的序列。每个序列都是一个文件夹,其中包含:

(1)现场预览视频(低分辨率);

(2)相机数据以MJPEG格式压缩;

(3)激光扫描仪点云数据保存在二进制文件中;

(4)保存在二进制文件中的ADC雷达数据。总共有4个文件,每个雷达芯片一个文件,每个芯片包含4个Rx天线;

(5)以 ASCII 格式保存的 GPS 数据

(6)以二进制格式保存的车辆的CAN轨迹

(7)最后,一个日志文件,提供每个传感器事件的时间戳。

RADIal代码地址:https://github.com/valeoai/RADIal/tree/main

在 Python 库 DBReader 中提供了读取数据。由于所有雷达数据都以 RAW 格式记录,即模数转换 (ADC) 后的信号,因此也提供了一个优化的 Python 库 SignalProcessing 来处理雷达信号并生率谱、点云或距离-方位角图。

4、下载数据集

RADIal数据集分为“原始数据”和“即用型数据”。

原始数据集下载地址:GoogleDrive,然后需要使用 SignalProcessing 库为每种模态生成数据。原始数据需要申请的:https://drive.google.com/drive/folders/1JHPLQsjwtO0SOgAgkq8KOqXndKaOGwFM?usp=sharing


即用型数据下载地址:https://drive.google.com/drive/folders/1UJAQMr1Hv2KWsqgv_JYGd9TWea2v-Tqb 可以使用 Loader 文件夹中提供的 PyTorch 数据加载器示例进行加载。

上述两种数据下载方式都不好下载,而且消耗时间。

百度网盘下载方式:

链接: https://pan.baidu.com/s/1871aO9KxiZXUHmS466HCXw?pwd=tkmg提取码: tkmg 复制这段内容后打开百度网盘手机App,操作更方便哦


5、标签格式

在 25,000 个同步帧中,有 8,252 个帧被标记。车辆的标签存储在单独的 csv 文件中。每个标签都包含以下信息:

(1)numSample:所有传感器之间当前同步样本的数量。这个标签可以投射到每个具有共同dataset_index值的传感器中。

(2)[x1_pix, y1_pix, x2_pix, y2_pix]:相机坐标中车辆2D框的二维坐标;

(3)[laser_X_m、laser_Y_m、laser_Z_m]:激光扫描仪坐标系统中车辆的 3D 坐标。其中 3D点是车辆后部或前部可见面的中间;

(4)[radar_X_m, radar_Y_m, radar_R_m, radar_A_deg, radar_D, radar_P_db]:雷达坐标系中车辆的二维坐标(鸟瞰图),采用笛卡尔坐标 (X,Y) 或极坐标 (R,A) 坐标。radar_D是多普勒值,radar_P_db是反射信号的功率;

(5)dataset:所属序列名称;

(6)dataset_index:当前序列中的帧索引;

(7)难度:0 或 1

请注意,所有字段中的 -1 表示没有任何标签的帧。Free-driving-space 的标签以保存在 png 文件中的分段掩码形式提供。看一下示例标签数据:


前20行的标签数据:

numSample  x1_pix  y1_pix  x2_pix  y2_pix  laser_X_m  laser_Y_m  radar_X_m  radar_Y_m  radar_R_m  radar_A_deg  radar_D_mps  radar_P_db  dataset  index  Annotation  Difficult0  844  515  1109  738  0.223501295  11.29125881  0.076785527  11.75940418  11.77699757  -0.400000006  2  39021448  RECORD@2020-11-21_13.44.44  0  weak  00  1302  507  1715  782  3.363449097  8.576388359  3.097865582  9.105825424  9.780896187  -19.39999962  18  16052051  RECORD@2020-11-21_13.44.44  0  weak  00  1118  471  1337  649  3.596418381  19.73351669  3.409848452  20.58024979  20.95906448  -9.600000381  23  12053775  RECORD@2020-11-21_13.44.44  0  weak  00  1022  461  1226  590  0.733993292  11.46860218  0.143846378  11.75940418  11.77699757  -0.699999988  1  39016960  RECORD@2020-11-21_13.44.44  0  weak  01  1296  498  1682  774  3.50564456  9.0008955  3.1194942  9.522439957  10.18011665  -19  16  28089750  RECORD@2020-11-21_13.44.44  1  weak  01  845  513  1109  738  0.207299277  11.31393433  0.153437644  11.57518196  11.57738781  -0.800000012  2  47227612  RECORD@2020-11-21_13.44.44  1  weak  01  1081  481  1333  635  3.748978138  20.33323669  3.880532265  21.17062378  21.358284  -10.30000019  24  12500830  RECORD@2020-11-21_13.44.44  1  weak  01  150  539  356  666  -4.101474762  9.354154587  -4.025963783  9.301595688  10.18011665  23.79999924  231  9294597  RECORD@2020-11-21_13.44.44  1  weak  02  1287  504  1662  771  3.376296043  9.347215652  3.166516781  9.876775742  10.37972641  -18.5  14  15918269  RECORD@2020-11-21_13.44.44  2  weak  02  1088  490  1328  643  3.693201303  20.82712746  2.918206215  21.59820557  21.75750351  -7.900000095  23  9053354  RECORD@2020-11-21_13.44.44  2  weak  02  839  529  1108  749  0.184757978  11.30931473  0.009909126  11.57499123  11.57738781  -0.100000001  254  43487396  RECORD@2020-11-21_13.44.44  2  weak  03  1287  500  1643  762  3.571326494  9.718420982  3.179746628  10.1349535  10.77894688  -18.20000076  11  16983782  RECORD@2020-11-21_13.44.44  3  incomplete  03  1121  491  1313  648  3.642369747  21.34195518  3.518688202  22.15653038  22.35633469  -8.899999619  23  9565411  RECORD@2020-11-21_13.44.44  3  incomplete  03  840  531  1108  754  0.171368822  11.28709698  0.48467654  11.74184513  11.77699757  -2.400000095  253  41596980  RECORD@2020-11-21_13.44.44  3  incomplete  03  1042  473  1259  624  3.308105707  21.3476162  3.39677763  22.07584953  22.35633469  -8.899999619  23  10476272  RECORD@2020-11-21_13.44.44  3  incomplete  04  1279  496  1624  760  3.568714619  9.981954575  3.266343117  10.52410889  10.97855663  -17.5  11  13230800  RECORD@2020-11-21_13.44.44  4  weak  04  1098  493  1308  654  3.63789463  21.84522438  3.582220554  22.63541985  22.95516396  -9.199999809  22  12159406  RECORD@2020-11-21_13.44.44  4  weak  04  836  528  1102  752  0.160191536  11.23595238  -0.05933357  11.73429203  11.77699757  0.300000012  252  32141952  RECORD@2020-11-21_13.44.44  4  weak  04  34  561  204  643  -4.098292828  7.273369312  -4.110992432  7.242799282  8.383625031  30.10000038  224  10218513  RECORD@2020-11-21_13.44.44  4  weak  0

6、读取数据和可视化

这里使用官方代码,读取图像数据、激光点云数据、Radar点云数据,然后可视化。

RADIal代码地址:https://github.com/valeoai/RADIal/tree/main

1)图像数据

import numpy as npfrom dataset import RADIalfrom loader import CreateDataLoadersimport matplotlib.pyplot as pltfrom matplotlib.patches import Rectanglefrom torch.utils.data import Dataset, DataLoader, random_split,Subsetdataset = RADIal(root_dir = './RADIal',difficult=True)# pick-up randomly any sampledata = dataset.__getitem__(np.random.randint(len(dataset)))
image = data[0]boxes = data[5]
fig, ax = plt.subplots(figsize=(20,20))ax.imshow(image)
for box in boxes: if(box[0]==-1): break # -1 means no object rect = Rectangle(box[:2]/2,(box[2]-box[0])/2,(box[3]-box[1])/2,linewidth=3, edgecolor='r', facecolor='none') ax.add_patch(rect)
# Note, coordinates are divided by 2 as image were saved in quarter resolution


效果如下图所示:


2)激光点云数据

laser_pc = data[3]
plt.plot(-laser_pc[:,1],laser_pc[:,0],'.')for box in boxes: if(box[0]==-1): break # -1 means no object plt.plot(box[4],box[5],'rs')plt.xlim(-20,20)plt.ylim(0,100)plt.grid()

效果如下图所示


3)Radar点云数据

radar_pc = data[2]
plt.plot(-radar_pc[:,1],radar_pc[:,0],'.')for box in boxes: if(box[0]==-1): break # -1 means no object plt.plot(box[7],box[8],'ro')plt.xlim(-20,20)plt.ylim(0,100)plt.grid()

效果如下图所示


记住,数据集下载链接:

百度网盘下载方式:

链接:https://pan.baidu.com/s/1871aO9KxiZXUHmS466HCXw?pwd=tkmg提取码: tkmg 复制这段内容后打开百度网盘手机App,操作更方便哦

推荐阅读
(四十八)高分辨率4D成像汽车雷达系统中车辆移动方向和尺寸的估计

调皮连续波:毫米波雷达入门书籍推荐

创新应用:手势识别毫米波雷达在厨房扬声器中的应用

毫米波雷达与超声波传感器:新的停车解决方案?

【本期结束】

加雷达群(备注单位+研究方向)、产品推广、品牌推广、招生招聘宣传、活动宣传、推文撰写和代发、转载开白、技术交流、年度会员、付费咨询、代码仿真、资料代找、企业引流、公众号互推、文章投稿、其他合作或问题,请扫描下方二维码。

喜欢文章可以一键四连【分享】【收藏】【在看】【点赞】,有疑问可以在文章最下方写留言给我留言!

调皮连续波
做好雷达科普,与大家一起成长!
 最新文章