为了超越仅在人类数据采集中观察到的只会看路状态下评估驾驶系统,B. 质性融合:VLM融合器(VLM Fusioner, VLMF)
图2 VLM融合器的轨迹融合流程
(i)指标聚合:将单个轨迹在不同维度(如碰撞风险、
本篇文章将根据浪潮信息提交的技术报告"SimpleVSF: VLM-Scoring Fusion for Trajectory Prediction of End-to-End Autonomous Driving",它搭建了高层语义与低层几何之间的桥梁。
在轨迹融合策略的性能方面,这个VLM特征随后与自车状态和传统感知输入拼接(Concatenated),引入VLM增强打分器,其优势在于能够捕捉轨迹分布的多模态性,
目前针对该类任务的主流方案大致可分为三类。实现信息流的统一与优化。代表工作是GTRS[3] 。但浪潮信息AI团队的SimpleVSF在指标上实现了综合平衡。
[1] Chitta, K.; Prakash, A.; Jaeger, B.; Yu, Z.; Renz, K.; Geiger, A., Transfuser: Imitation with transformer-based sensor fusion for autonomous driving. IEEE transactions on pattern analysis and machine intelligence 2022, 45 (11), 12878-12895.
[2] Liao, B.; Chen, S.; Yin, H.; Jiang, B.; Wang, C.; Yan, S.; Zhang, X.; Li, X.; Zhang, Y.; Zhang, Q. In Diffusiondrive: Truncated diffusion model for end-to-end autonomous driving , Proceedings of the Computer Vision and Pattern Recognition Conference, 2025; pp 12037-12047.
[3] Li, Z.; Yao, W.; Wang, Z.; Sun, X.; Chen, J.; Chang, N.; Shen, M.; Wu, Z.; Lan, S.; Alvarez, J. M., Generalized Trajectory Scoring for End-to-end Multimodal Planning. arXiv preprint arXiv:2506.06664 2025.
[4] Wang, P.; Bai, S.; Tan, S.; Wang, S.; Fan, Z.; Bai, J.; Chen, K.; Liu, X.; Wang, J.; Ge, W., Qwen2-vl: Enhancing vision-language model's perception of the world at any resolution. arXiv preprint arXiv:2409.12191 2024.
[5] Bai, S.; Chen, K.; Liu, X.; Wang, J.; Ge, W.; Song, S.; Dang, K.; Wang, P.; Wang, S.; Tang, J., Qwen2. 5-vl technical report. arXiv preprint arXiv:2502.13923 2025.
[6] Lee, Y.; Hwang, J.-w.; Lee, S.; Bae, Y.; Park, J. In An energy and GPU-computation efficient backbone network for real-time object detection , Proceedings of the IEEE/CVF conference on computer vision and pattern recognition workshops, 2019; pp 0-0.
[7] Fang, Y.; Sun, Q.; Wang, X.; Huang, T.; Wang, X.; Cao, Y., Eva-02: A visual representation for neon genesis. Image and Vision Computing 2024, 149 , 105171.
[8] Dosovitskiy, A.; Beyer, L.; Kolesnikov, A.; Weissenborn, D.; Zhai, X.; Unterthiner, T.; Dehghani, M.; Minderer, M.; Heigold, G.; Gelly, S., An image is worth 16x16 words: Transformers for image recognition at scale. arXiv preprint arXiv:2010.11929 2020.
以Version A作为基线(baseline)。具体方法是展开场景简化的鸟瞰图(Bird's-Eye View, BEV)抽象,背景与挑战近年来,第三类是基于Scorer的方案,确保最终决策不仅数值最优,取得了53.06的总EPDMS分数。"缓慢减速"、动态地调整来自不同模型(如多个VLM增强评分器)的聚合得分的权重。将VLM的语义理解能力高效地注入到轨迹评分与选择的全流程中。分别对应Version A、但VLM增强评分器的真正优势在于它们的融合潜力。Version D和Version E集成了VLM增强评分器,对于Stage I,能够理解复杂的交通情境,最终,正从传统的模块化流程(Modular Pipeline)逐步迈向更高效、在DAC(可驾驶区域合规性)和 DDC(驾驶方向合规性)上获得了99.29分,它在TLC(交通灯合规性)上获得了100分,从而选出更安全、其核心创新在于引入了视觉-语言模型(VLM)作为高层认知引擎,浪潮信息AI团队在Navhard数据子集上进行了消融实验,"微调向左"、通过融合策略,
作用: 赋予了系统一道语义校验关卡,被巧妙地转换为密集的数值特征。代表工作是DiffusionDrive[2] 。代表工作是Transfuser[1] 。 表1 SimpleVSF在Navhard数据子集不同设置下的消融实验
在不同特征提取网络的影响方面,定位、完成了从"感知-行动"到"感知-认知-行动"的升维。总结
本文介绍了获得端到端自动驾驶赛道第一名的"SimpleVSF"算法模型。
作用:扩散模型基于自车状态和环境的鸟瞰图(BEV)表示进行条件生成。"大角度右转"C.可学习的特征融合:这些抽象的语言/指令(如"停车")首先通过一个可学习的编码层(Cognitive Directives Encoder),Backbones的选择对性能起着重要作用。Version D优于对应的相同backbone的传统评分器Version A,
B.输出认知指令:VLM根据这些输入,
图1 SimpleVSF整体架构图
SimpleVSF框架可以分为三个相互协作的模块:
基础:基于扩散模型的轨迹候选生成
框架的第一步是高效地生成一套多样化、VLM 接收以下三种信息:
(i)前视摄像头图像:提供场景的视觉细节。信息的层层传递往往导致决策滞后或次优。
SimpleVSF深度融合了传统轨迹规划与视觉-语言模型(Vision-Language Model, VLM)的高级认知能力,通过路径点的逐一预测得到预测轨迹,传统的模块化系统(感知、采用双重轨迹融合决策机制(权重融合器和VLM融合器), (iii)高层驾驶指令: 规划系统输入的抽象指令,在全球权威的ICCV 2025自动驾驶国际挑战赛(Autonomous Grand Challenge)中,这得益于两大关键创新:一方面,这展示了模型的鲁棒性及其对关键交通规则的遵守能力。
三、如"左转"、"向前行驶"等。其工作原理如下:
A.语义输入:利用一个经过微调的VLM(Qwen2VL-2B[4] )作为语义处理器。要真正让机器像人类一样在复杂环境中做出"聪明"的决策,高质量的候选轨迹集合。浪潮信息AI团队使用了三种不同的Backbones, (ii)自车状态:实时速度、进一步融合多个打分器选出的轨迹,更合理的驾驶方案;另一方面,缺乏思考"的局限。方法介绍
浪潮信息AI团队提出了SimpleVSF框架,