文｜鲁肃
编辑｜郭嘉
Sim2Real是机器人和自动驾驶汽车中的一个概念，涉及将在模拟环境中获得的技能、知识或模型转移到真实世界的应用中。Sim2Real 的核心目标是设计能够有效弥合这两个领域之间的差异的算法和方法，即所谓的 Sim2Real 差距。尽管Sim2Real迁移主要集中在将深度强化学习 （DRL） 策略从模拟转移到现实世界，但它也可以更广泛地视为传感部分的机器学习 （ML） 问题，用于代理面对现实世界中未在模拟中出现的情况。
汽车的自动驾驶技术目前存在两种模式，第一种端到端系统将原始传感器输入通过多层神经网络最终直接映射到控制命令（上图下面），这种技术类似于特斯拉的FSD。端到端系统的特点是统一的架构，旨在直接从原始传感器输入学习整个映射到驱动动作，而无需明确地将任务分解为单独的模块。它涉及使用 ML的方法训练一个全面的学习模型，直接处理原始传感器数据并输出控制命令。这样一来可以节省大量的代码，但是需要足够的样本和算力来训练这个模型。
第二种模式则为模块化设计，将整个系统分为多个子系统，按照感知、表示、路径规划和控制模块，最终形成决策指令（控制命令）。表示模块使用来自感知模块的信息，并使用传感器融合技术进一步处理传感器数据，或者使用传感器范围内每个对象的预测状态创建对象映射。感知模块和表示模块的结合可以看作是场景理解，它提供了对环境的抽象高级表示。之后，路径规划会制定出一条安全有效的路线来到达目的地。通常，在自动驾驶系统中，规划阶段分为两个不同的部分，即全局路径规划和局部路径规划。全局路径规划是指确定从当前位置到目的地的最优或可行路线的过程，该过程考虑了整个环境，并涉及高层决策。另一方面，本地路径规划或路径跟踪侧重于车辆的直接周围环境，并处理进行实时调整以遵守计划的全局路径。
定位与传感器融合的基本概念图如上，各种成本也都标记出来，对于雷达而言，价格浮动较大。
GPS可以直接提供车辆的位置，但精度会受到一系列因素的影响，例如大气条件、卫星几何形状、信号阻塞（建筑物、树木等）、多径干扰以及 GPS 接收器的质量。差分GPS（DGPS）系统和增强技术可以通过纠正其中一些误差源来提高GPS的精度，但无法达到在小型汽车中极其重要的精度。
IMU由各种传感器组成，例如加速度计和陀螺仪，用于测量和报告无人驾驶设备的三维加速度和角速度：俯仰、滚动和偏航。IMU的运行会不断的累积传感器漂移和积分的误差，从而导致长期测量的不准确性。为了解决这些问题，通常通过传感器融合方法将两种传感器集成，例如卡尔曼滤波，以提高确定位置和方向的准确性和可靠性。当然也有研究将IMU、车轮编码器和室内GPS测量融合在一起，以实现准确的定位。或者将多相机图像与AprilTag 系统和车轮里程计融合的方法。
激光雷达是以发射激光束探测目标的位置、速度等特征量的雷达。通过向目标发射探测信号(激光)，然后将接收到的从目标反射回来的信号(目标回波)与发射信号进行比较，从而获得目标的距离、方位、速度等相关信息。与预定义的地图或SLAM技术合作，以在其环境中有效地导航和定位车辆。
毫米波雷达是通过毫米波段的电波测量距离、相对距离、方向等的雷达传感器。通过分析检测到的反射波频率变化等，检测前方及对面是否有车辆、与前方及对面车辆间的距离、相对速度和方向等。
超声波传感器能被任何材质的障碍物所反射，并接收和放大障碍物反射的超声波脉冲，将超声波脉冲转换成数字信号。
路径规划则是指自动驾驶车辆在其环境中导航时，确定从当前位置到所需目的地的安全有效的路线的过程。这项任务涉及创建车辆可以遵循的轨迹或路径，考虑障碍物、道路状况和交通法规等各种因素，旨在确保安全可靠的导航，同时优化行驶时间和能源效率等因素。
最传统的方法是Dijkstra算法，该算法配合SLAM方法获取全局地图信息。还有一些是A*算法来获取赛车的最优路径，也存在混合A*算法与成本函数的学习模型。这种集成旨在解决导航过程中遇到的不可预见的障碍，这些障碍通常无法被传统的全球路径规划算法检测到。
路径规划被视为一个优化问题，也已经看到了各种ML方法的成功应用，从而产生了显著的结果。例如，使用经典的RL算法Q-Learning为机器人生成全局路径，与RRT算法相比，该路径实现了更短、更流畅的路径。还有一种引入包括映射器、全局策略和用于Jetbot基于图像的导航的本地策略框架。测绘人员使用摄像头图像进行监督学习，以生成占用网格地图，在此之后采用A*算法计算短期目标。
车道保持一直是各种平台广泛研究的重点。虽然车道保持任务与路径跟随任务有相似之处，但两者之间存在明显差异。路径跟随涉及遵循预定的路径并利用实时反馈来安全地保持所需的轨迹。另一方面，车道保持任务的目标是将小型车辆引导到指定车道内，符合与车道中心偏差的特定容差。这项任务主要依赖于视觉输入，利用RGB摄像头连续监控车道内的位置。
跟车是自动驾驶汽车在道路上行驶时与前方车辆保持安全和适当距离的能力。它要求车辆跟踪和跟随前方车辆的运动，相应地调整其速度和位置，以确保安全、舒适和高效的驾驶体验。感知方面，LiDAR技术测量车辆之间的距离，而IMU提供加速度数据。
超车是指自动驾驶汽车改变车道安全地超过道路上朝同一方向行驶的另一辆车。超车的目的是在保持正常交通流量的同时，安全有效地领先于速度较慢的车辆。
障碍物检测和避让是指识别并绕过其路径上的障碍物或潜在危险，以确保安全和不间断的驾驶行为。它利用各种传感器，包括摄像头、激光雷达、超声波传感器和其他技术，不断扫描周围环境以检测和分类障碍物。上一篇文章刚刚介绍了计算机视觉的应用。
使用基于外观的方法，障碍物通常被识别为图像中的前景。主要的挑战在于根据既定标准区分相关的前景或背景元素，例如颜色差异或纹理特征。光流分析、背景减法、差分法可用于基于运动的障碍物检测。YOLO是专门为实时物体检测而设计的，其变体已被用于提高成功率。CNN在克服传统方法的局限性方面提供了有前途的能力，在多样化和动态的环境中展示了更大的适应性和更高的实时性能。
除了基于摄像头的方法外，LiDAR还广泛用于避障系统。原始LiDAR点云数据或最小处理的数据经常被使用，涉及插补空样本和清理嘈杂数据等过程，作为神经网络执行后续控制任务的输入。
最后常见的是多车辆混合现实的强化学习方法。虚拟和真实的车辆都存在于模拟中，该模拟管理虚拟汽车的物理特性并在混合现实中模拟碰撞。
