THE RESEARCH ATLAS

EMMA:面向自动驾驶的端到端多模态模型

以 Gemini 为基础,从摄像头输入与文本描述预测驾驶轨迹、感知对象和道路结构。

EMMA: End-to-End Multimodal Model for Autonomous Driving

Jyh-Jing Hwang; Runsheng Xu; Hubert Lin; Wei-Chih Hung; Jingwei Ji; Kristy Choi; Di Huang; Tong He; Paul Covington; Benjamin Sapp; Yin Zhou; James Guo; Dragomir Anguelov; Mingxing Tan
2024-10-30 · Waymo · 研究论文
来源核查: 2026-10-25机构所在地 · Waymo 🇺🇸 美国
机构与地域来源

地域依据是署名机构或发布机构所在地,不代表作者国籍或完整合作名单。

arxiv.org ↗

waymo.com ↗

为什么值得读

直接观察通用多模态知识如何迁移到驾驶任务,而不是把语言模型与自动驾驶看成两条无关路线。

连接了什么

Waymo 明确说明 EMMA 基于 Gemini;多种驾驶任务使用统一的语言表示。

研究基准评估;非部署证明

研究报告的是任务评估,不能据此认定为商用 Waymo Driver。原文指出视频时长、三维传感器融合与计算开销的局限。

沿着这些连接继续阅读 ↗
关系与版本的来源
阅读原始来源 ↗原始 PDF ↗

引用

@misc{hwang2024emma,
  title = {EMMA: End-to-End Multimodal Model for Autonomous Driving},
  author = {Jyh-Jing Hwang and Runsheng Xu and Hubert Lin and Wei-Chih Hung and Jingwei Ji and Kristy Choi and Di Huang and Tong He and Paul Covington and Benjamin Sapp and Yin Zhou and James Guo and Dragomir Anguelov and Mingxing Tan},
  year = {2024},
  eprint = {2410.23262},
  archivePrefix = {arXiv},
  primaryClass = {cs.CV},
  url = {https://arxiv.org/abs/2410.23262}
}

论文与代码版权归原作者;引用及许可请以原始来源为准。

相关研究

2012 · Academic · 研究论文署名机构 · University of Toronto 🇨🇦 加拿大

基于深度卷积神经网络的 ImageNet 分类

ImageNet Classification with Deep Convolutional Neural Networks

深度卷积网络将数据、GPU 计算与表示学习结合,为现代视觉研究提供了重要起点。

2020-06 · Academic · 研究论文署名机构 · UC Berkeley 🇺🇸 美国

去噪扩散概率模型

Denoising Diffusion Probabilistic Models

模型学习逐步反转加噪过程,为图像生成建立了重要的扩散建模路线。

2021-02 · OpenAI · 研究论文署名机构 · OpenAI 🇺🇸 美国

从自然语言监督中学习可迁移的视觉模型

Learning Transferable Visual Models From Natural Language Supervision

通过对比学习对齐图像与自然语言描述,使视觉表示能够迁移到新类别。