智能驾驶环境感知 | 陈龙：多智能体协同高精地图构建关键技术研究

多智能体协同高精地图构建关键技术研究

陈龙¹

, 刘坤华¹,周宝定^2,3,李清泉^4,5

1. 中山大学计算机学院, 广东 广州 510006;

2. 深圳大学土木与交通工程学院, 广东 深圳 518060;

3. 深圳大学城市智慧交通与安全运维研究院, 广东 深圳 518060;

4. 深圳大学广东省城市空间信息工程重点实验室, 广东 深圳 518060;

5. 自然资源部大湾区地理环境监测重点实验室, 广东 深圳 518060

基金项目：国家重点研发计划（2018YFB1305002）；广东省自然科学杰出青年基金（2021B1515020020）；国家自然科学基金（62006256；42171427）；广州市重点研发项目（202007050002）

关键词：高精地图 路径规划 道路场景理解 多源异构数据处理

引文格式：陈龙, 刘坤华, 周宝定, 等. 多智能体协同高精地图构建关键技术研究[J]. 测绘学 ，2021，50(11)：1447-1456. DOI: 10.11947/j.AGCS.2021.20210259

CHEN Long, LIU Kunhua, ZHOU Baoding, et al. Key technologies of multi-agent collaborative high definition map construction[J]. Acta Geodaetica et Cartographica Sinica, 2021, 50(11): 1447-1456. DOI: 10.11947/j.AGCS.2021.20210259

阅读全文：
http://xb.sinomaps.com/article/2021/1001-1595/2021-11-1447.htm

引 言

高精地图专为自动驾驶设计，是自动驾驶核心技术之一。它又被称为高分辨率地图，具有高精度的道路场景(车道线、交通标志、路沿等)、定位等信息，可以辅助自动驾驶过程中的感知、定位、路径规划、决策与控制，提高驾驶过程中的安全性。

从高精地图制作方法分析，目前的高精地图制作均面向L3或L4级别的自动驾驶，未对L5级别的自动驾驶地图进行研究。面向L3或L4级别自动驾驶高精地图的构建可以分为数据采集、制图与地图更新3个步骤。其中，数据采集方案^[7]均为通过搭配多种传感器的自动驾驶车辆或全景移动测量系统进行数据采集。但是无论自动驾驶数据采集车辆还是全景移动测量系统，成本均太过昂贵，不能实现大规模的数据采集，影响高精地图的制图和地图更新；同时，目前制图算法多基于深度学习来实现图像理解、定位等，该类算法存在数据需求量大、可解释性差等问题。

(1) 将数据采集平台由自动驾驶车辆或全景移动测量系统扩展为机器人、自动驾驶车辆、无人机等多种类型的智能体。通过搭配相同或者不同类型传感器的、不同类型的多个智能体协同采集数据，既降低了采集设备的成本，又保证了数据采集速度。

(2) 为保证高精地图的智能性、精度和地图更新速度，提出多智能协同高精地图的制作和更新框架。

1 多智能体协同高精地图构建定义及框架

多智能体协同高精地图构建指采用多个搭建相同或不同传感器(摄像机、激光雷达、GNSS、IMU等)、不同类型的智能体(自动驾驶车辆、机器人、无人机等)协同采集数据，并对数据进行处理，实现智能高精地图制作和更新的过程。依据多智能体协同高精地图构建定义，其具体构建框架如图 1所示。

图 1 多智能体协同高精地图构建Fig. 1 Multi-agent collaborative high definition map construction

图选项

(1) 多智能体数据采集：通过对多智能体进行路径规划，使其协同进行数据采集的过程。其中，如何令多智能体协同工作、规划多智能体数据采集路径，实现高效、高质量采集某区域的数据是该部分的重点和难点。

(2) 数据一体化表达：由于不同的传感器具有不同的数据表达形式(数据内容、格式、特性、精度等)，为方便智能高精地图的制作，需要对多源异构数据进行一体化表达，得到三维地图。

(3) 场景认知：智能化的高精地图具有理解静态物、半静态物、半动态物和动态物的能力，还具有解释数据(认知)的能力。而目前基于深度学习的场景感知方法要求大量训练数据，且模型泛化能力差、不具有可解释性。因此，智能化的高精地图构建需要发展对数据量要求小、模型泛化能力强、具有可解释性的场景认知方法。

(4) 轨迹规划：轨迹规划用于表达虚拟道路和道路间的逻辑关系，并对自动驾驶车辆在各车道的可行驶轨迹进行规划，为自动驾驶车辆行驶过程中的导航提供强约束。

(5) 地图融合：基于认知数据和轨迹数据将不同空间、时间、层次的数据高精度地融合成为一个完整的高精地图。

(6) 矢量化表达：将形成的智能高精地图从俯视图角度进行矢量化表达，形成矢量地图，提供给自动驾驶车辆使用。

(7) 地图更新：自动驾驶程度越高，对高精度地图的准确度要求越高。而由于现实生活中频繁的道路建设和维修，使地图不能保持现势性，进而不能为自动驾驶车辆提供准确信息。因此，智能化的高精地图需要具有较好的更新能力。

2 多智能体协同高精地图构建关键技术

2.1 多智能体数据采集路径规划

集中学习和分散执行是一种多智能体协同策略。集中学习指通过应用集中的方法训练一组智能体，从而减轻智能体间通信负担。分散执行指智能体可以在其局部观测优势的基础上分散执行^[15]，这种体系在通信受限的情况对于保持多智能体间的信息高效交互意义重大^[16]。文献[17]基于集中学习分散执行框架，提出了一种集中式专家监督多智能体强化学习算法，该算法采用DAgger算法获得单智能体分散执行策略，可以在较低的样本复杂度下训练分散执行多智能体策略。文献[18]将集中和分散的思想应用到主从多智能体架构中，主智能体处理来自从智能体的信息；从智能体接受主智能体消息，并结合自身信息来执行动作，显著降低了多智能体系统的通信负担。实际上，集中学习分散执行策略已成为多智能体系统协同的标准框架^[19]。

图 2 集中学习分散执行路径规划模型Fig. 2 Path planning model with centralized learning and decentralized execution

图选项

具体来讲，各智能体向集中式学习模型发送建图环境状态更新信息，如场景随时间动态变化、与预测复杂度差异较大等；集中式学习模型将全部更新信息集中表达为图神经 络的形式，并基于该 络同步更新全局实时地图特征。更新后的全局特征发送至所有智能体，为多智能体路径规划提供一个新的全局视野。多智能体接收来自集中学习模型提取的全局地图特征，结合局部观测信息进行分布式规划得到新的执行策略。

2.2 多源异构一体化数据融合与表达

在多智能体协同地图构建中，基于不同采集平台得到的多源异构数据需要进行融合以构建地图。此过程中的难点为数据的异构性，即基于不同智能体及传感器得到的数据具有不同的内容、格式、特性及精度等。例如：激光雷达提供了测距范围与点反射值数据；相机提供了彩色或灰度图像数据；IMU提供了自身加速度、角速度等动量测量值；GNSS则提供了粗略的全局定位坐标。如何基于异构数据的不同特征描述数据关联，准确联合多时空数据，进行多源异构传感器数据时空域对齐；充分利用各异构传感器测量的优势并实现数据一体化表达，是完成多源异构数据融合、实现多智能体协同高精地图构建的重要基础。

高维学习的方法^[20]可以提取高动态、剧烈变化环境下多源异构数据的特征，通过多源异构特征匹配能够在帧间实现多源异构数据的关联。同时，使用因子图^[21]的方法，将概率图模型与图优化方法结合，能够将几何、语义和数据关联置于统一的框架中，进行环境建模和状态的估计。在地图的表示方法中，面元^[22]在灵活性、表达能力占据了优势，能够支持多种传感器数据进行环境整合。因此，通过引入高维学习来进行异构数据的时空关联，并基于非高斯多假设估计器构建基于面元的多源异构一体化数据的表达模型，从而实现准确的多源异构一体化数据融合与表达，在理论上具备高可行性。

图 3 多源异构一体化数据融合与表达Fig. 3 Multi-source heterogeneous integration data fusion and expression

图选项

(1) 通过引入高维学习的方法，改造前驱数据处理框架，进行多源异构数据的超特征追踪；选择场景表达最丰富的图像数据作为关键帧，利用立体深度图作为构造半稠密点云的先验。采用滑动窗口的形式，通过固定滞后平滑器优化窗口内深度状态量，提升半稠密点云精度。在激光雷达点云存在时，通过显著角点、深度连续三维线特征构建异构数据关联，为后端优化提供约束条件。

(2) 引入循环完备像素关联光流变换器，提升异构数据的时空关联性。针对未知深度的数据(例如：RGB图像)，依据序列的连续性假设，通过估计其“密集位移场”，进行帧间特征数据关联。利用深度 络从输入的每一幅图像序列进行处理，得到特征编码；通过在所有序列的特征编码估计视觉相关性，构建图像金字塔；通过上下文 络和基于金字塔的辅助信息，计算图像序列帧间相关性。在密集高维特征图间，进行帧间的特征跟踪，最终得到光流计算结果。

(3) 研究非高斯多模态的最大后验估计器，考虑覆盖的数据不确定性范围。引入多假设非高斯因子图模型和“假设修剪”去除冗余假设，充分支持概率信息的分发与因子增量更新。同时考虑进行多假设贝叶斯树的推断，引入对观测的全贝叶斯推断，以确保参数得到最优的估计。

(4) 基于不确定性建模的面元构建表达模型，从而建立更准确的多源异构一体化数据表达模型，最终求解得到初始的环境模型及三维地图。对异构数据进行时空关联，并计算得到测量误差，根据误差和先验的传感器测量噪声模型构建残差因子，利用多假设非高斯因子图模型进行求解得到初始的环境模型。此外，利用形变图来进行面元调整，完成模型表面形变，细化环境模型。

2.3 道路场景认知

图 4 道路场景理解异构图Fig. 4 Road scene understanding heterogeneous graph

图选项

图 5 基于图推理的道路场景认知理解 络Fig. 5 Cognitive understanding network of road scene based on graph reasoning

图选项

(2) 基于图推理的道路场景认知理解 络。基于搭建的道路场景异构图，可以设计出道路场景理解 络。该 络以道路场景RGB图像为输入，首先，通过卷积神经 络(CNNs)提取图像特征；然后，通过图间卷积实现所有特征层的图内推理，并对其进行特征再表达，实现所有特征层的道路理解；最后，通过图间推理方法，实现图间特征理解，即完成了道路场景认知理解。

2.4 智能化的高精地图融合

图 6 地图融合技术Fig. 6 Map fusion technology

图选项

2.5 智能化的高精地图更新

图 7 边缘计算+多智能体强化学习架构Fig. 7 Edge computing+multi-agent reinforcement learning architecture

图选项

如图 7所示，数据采集源包括自动驾驶汽车、无人机、机器人等设备，在进行数据一体化操作后，将更新数据提交给边缘云，边缘云在边缘计算技术的支持下进行多智能体强化学习，处理后向用户反馈局部高精地图。同时中心云在收到边缘云传来的海量数据后利用大数据技术进行处理，以协同各边缘云的更新工作，突出各边缘云需要的更新数据，处理完毕后向边缘云反馈全局高精地图。整个高精地图更新工作被分为了局部更新和全局更新两部分完成，理论上可以达到实时更新的效果。

具体来讲，中心云根据各边缘云所处环境不同，向不同的边缘云提出不同的地图更新需求，如更新的数据类型、上传的数据量等。边缘云根据需求对该范围内的多智能体进行多智能体强化学习，即中心化训练、去中心化执行。在多智能体执行过程中，智能体间通过通信^[38]，传递彼此状态信息，从而促进各智能体更好地协同，得到优化的更新数据。最终，通过多智能体强化学习方法区分出高更新频率的数据类型和非高更新频率的数据类型。如果是高更新频率的数据类型，则进行局部的高精地图更新；如果是非高更新频率的数据类型，则判断是否达到了中心云设定的周期，如果满足，则进行全局的高精地图更新。

3 存在的挑战

(1) 随着经济的快速发展，地图数据采集场景变化越来越快(车辆及行人流动性，建筑物改造等)，而智能体的数据交互及处理能力有限，如何解决多智能体系统异步通信带来的延迟问题，保证系统一致性，是多智能体路径规划的一个主要挑战。

(2) 以特征间关系构建的道路场景异构图中，图内关系和图间关系错综复杂，如何建立准确有效的道路场景元素异构图，发展图内推理和图间推理方法，是实现道路场景认知的关键科学问题，也是目前亟待解决的重要挑战。

(3) 为保证地图的覆盖率及更新频率，需要采集大量的数据。在地图融合的过程中，如何有效地滤除冗余信息，同时保证不损失地图的关键信息，对于城市规模量级的地图构建工作是一个挑战。

4 总结

初审：张艳玲

复审：宋启凡

终审：金 君

往期推荐

资讯

○ 地理信息工程国家重点实验室2021年度开放基金课题申请说明

○ 招聘 | 中国地图出版集团多岗位招聘

○ 招聘启事 | 实景地理环境安徽省重点实验室2021年工作人员招聘公告

○ 纳贤 | 北京大学彭宇新教授团队招聘博士后

○ 2021年国际影响力TOP期刊榜单发布！

○ 重磅！数字孪生技术应用白皮书（2021）

○ 包干制做法明确 科研人员激励力度加大——自然科学基金委有关负责人解读《国家自然科学基金资助项目资金管理办法》

会议

○ 第一届中国生态系统遥感学术研讨会（三号通知）

○ 《测绘学 》2021年编委会会议在青岛召开

○ 会议通知 | 2021中国地理信息科学理论与方法学术年会通知（第二号）

○ 关于第八届“测绘科学前沿技术论坛”再次延期召开的通知

《测绘学 》

○ 新华 专题 道《测绘学 》：面向国家需求，发挥引领作用

○《测绘学 》2021年第11期“智能驾驶环境感知专刊”目录

○ 智能驾驶环境感知 | 李德仁：测绘遥感能为智能驾驶做什么？

○ 智能驾驶环境感知 | 张攀：通用化高精地图数据模型

○ 测绘学 | 左溪冰 : 高光谱影像小样本分类的图卷积 络方法

《测绘通 》

○ 室内高精度三维测图新技术

○ 面向上海城市数字化转型的新型测绘

○ 图像全站仪及图像测量发展与展望

○《测绘通 》2021年第10期目录

《北京测绘》

○《北京测绘》2021年第9期摘要推荐

○《北京测绘》2021年第8期摘要推荐（下）

○《北京测绘》2021年第8期摘要推荐（上）

○《北京测绘》2021年第7期摘要推荐（下）

《测绘科学技术学 》

○ 《测绘科学技术学 》2021年第1期重点论文推荐

○ 摘要 |《测绘科学技术学 》2021年第3期摘要推荐

○ 摘要 |《测绘科学技术学 》2021年第2期摘要推荐

○ 摘要 |《测绘科学技术学 》2021年第4期摘要推荐

○ 摘要 |《测绘科学技术学 》2021年第5期摘要推荐

《地球信息科学学 》

○ 《地球信息科学学 》2021年第10期佳文推介

○ 《地球信息科学学 》2021年第9期佳文推介

○ 《地球信息科学学 》2021年第8期佳文推介

○ 专刊征稿：社会感知与地理大数据挖掘（征稿中）

《测绘工程》

○ 摘要 |《测绘工程》2021年第5期摘要推荐

○ 摘要 |《测绘工程》2021年第4期摘要推荐

○ 摘要 |《测绘工程》2021年第3期摘要推荐

○ 测绘教学 | 后疫情时代“线上+线下”混合教学模式创新——以测绘类课程视角

《中国空间科学技术》

○《中国空间科学技术》2021年第5期摘要推荐

○ 摘要 |《中国空间科学技术》2021年第4期摘要推荐

○ 摘要 |《中国空间科学技术》2021年第3期摘要推荐

○ 火卫二地形地貌探测综述

《卫星应用》

○ 摘要 |《卫星应用》2021年第9期摘要推荐

○ 摘要 |《卫星应用》2021年第8期摘要推荐

○ 摘要 |《卫星应用》2021年第7期摘要推荐

○ 综述 | 北斗系统应用趋势分析

《Journal of Geodesy and Geoinformation Science》

○《测绘学 （英文版）》（JGGS）LiDAR专刊发布

○《测绘学 （英文版）》（JGGS）第一次编委会会议顺利召开

○论文推荐（六）| Speical Issue on New LiDAR Technologies and Techniques

○论文推荐（五）| Speical Issue on New LiDAR Technologies and Techniques

《Satellite Navigation》

○ [综述]| 高扬教授：GNSS智能手机定位：进展、挑战、机遇和未来展望| SANA佳文速递

○ 熊超教授：地磁暴期间夜间低纬电离层和赤道等离子体不规则体| SANA佳文速递

○ 徐元博士：面向有色测量噪声下UWB/INS组合行人导航的分布式卡尔曼滤波| SANA佳文速递

○ 杨飞博士：GNSS天顶对流层精化模型的构建与分析| SANA佳文速递

○ 牛小骥教授：用半解析法分析GNSS/INS在铁路轨道测量中的相对精度| SANA佳文速递

《自然资源遥感》

○ 《自然资源遥感》入驻“智绘科服”融媒体平台！

○ 《自然资源遥感》征稿：“海岸带空间资源及生态健康遥感监测”专栏

《Journal of Geovisualization and Spatial Analysis》

○《Journal of Geovisualization and Spatial Analysis》入驻“智绘科服”融媒体平台！

○ JGSA国际期刊2021年第5卷第2期论文摘要