Transformer大模型在自动驾驶中应用趋势明确。Transformer基于Attention机制,凭借优秀的长序列处理能力和更高的并行计算效率,2021年由特斯拉引入自动驾驶领域。Transformer与CNN相比最大的优势在于其泛化性更强。CNN只能对标注过的物体进行相似度的比对,通过不断学习完成对该物体识别的任务;而Transformer可以通过注意力层的结构找到更基本的元素与元素间之间多个维度的相关信息进而找到一种更泛化的相似规律,进而提高自动驾驶的泛化能力。同时,不同于RNN存在存储时间长度有限以及顺序依赖的问题,Transformer模型具有更高的并行计算效率并且可以学习到长时间距离的依赖关系。目前,Transformer主要应用在自动驾驶感知模块中从2D特征图向BEV鸟瞰图的视角转换。

  城市领航辅助驾驶落地在即,AI大模型助力实现“脱高精度地图”。目前,主机厂正逐步从高速场景向城市场景拓展,2023年有望成为城市领航辅助驾驶的大规模落地的元年。相比于高速场景,城市场景所面临的Cornercase大幅提升,要求自动驾驶系统具备更强的泛化能力。目前已落地城市NGP主要基于高精度地图方案,高精地图能够提供超视距、厘米级相对定位及导航信息,在数据和算法尚未成熟之前,对于主机厂实现高级别自动驾驶具有重要意义。但高精度地图应用过程中无法做到实施更新、法规风险高、高成本的三大问题难以解决。BEV感知算法通过将不同视角的摄像头采集到的图片统一转换到上帝视角,相当于车辆实施生成活地图,补足了自动驾驶后续决策所需要的道路拓扑信息,因而可以实现去高精度地图化。目前,小鹏、华为等头部自动驾驶厂商均明确提出“脱图时间表”,自动驾驶算法“重感知,轻地图”趋势明确。     大数据和大算力是大模型应用的重要前置条件。Transformer大模型量变引起质变需要1亿公里的里程数据。并且,传感器采集得到的rawdata需进行标注后才可用于算法模型训练,自动标注工具可大幅提升数据处理速度。2018年至今,特斯拉数据标注从2D人工标注逐步发展至4D空间自动标注;国内厂商中小鹏、毫末智行等亦相继推出自动标注工具大幅提升标注效率。除真实数据外,仿真场景是弥补训练大模型数据不足问题的重要解决方式。生成式AI有望推动仿真场景大幅提升泛化能力,帮助主机厂提升仿真场景数据的应用比例,从而提高自动驾驶模型的迭代速度、缩短开发周期。大算力是Transformer模型训练的另一重要条件,超算中心成为自动驾驶厂商重要的基础设施。特斯拉AI计算中心Dojo总计使用了1.4万个英伟达的GPU来训练AI模型,网络训练速度提升30%,国内厂商中小鹏与阿里联合出资打造自动驾驶AI智算中心“扶摇”,将自动驾驶算法的模型训练时间提速170倍。  

成为VIP会员查看完整内容
87

相关内容

ChatGPT(全名:Chat Generative Pre-trained Transformer),美国OpenAI 研发的聊天机器人程序 [1] ,于2022年11月30日发布 。ChatGPT是人工智能技术驱动的自然语言处理工具,它能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动,真正像人类一样来聊天交流,甚至能完成撰写邮件、视频脚本、文案、翻译、代码,写论文任务。 [1] https://openai.com/blog/chatgpt/
【ChatGPT系列报告】AI开启智能电车的下半场,35页pdf
专知会员服务
38+阅读 · 2023年6月15日
AI 大模型市场研究报告(2023),43页pdf
专知会员服务
235+阅读 · 2023年5月10日
【ChatGPT系列报告】解析Midjourney的成长之路
专知会员服务
81+阅读 · 2023年4月27日
【ChatGPT系列报告】AI+行业应用深度研究,28页ppt
专知会员服务
148+阅读 · 2023年4月7日
【ChatGPT系列报告】ChatGPT:AI模型框架研究,36页ppt
专知会员服务
170+阅读 · 2023年3月29日
【ChatGPT系列报告】国内大模型概览,42页ppt
专知会员服务
436+阅读 · 2023年3月8日
【ChatGPT系列报告】AIGC & ChatGPT 发展报告,27页ppt
专知会员服务
354+阅读 · 2023年2月18日
毫末智行,首推自动驾驶「ChatGPT」
机器之心
6+阅读 · 2023年4月12日
大模型路在何方?昇腾AI指明方向
机器之心
3+阅读 · 2022年11月21日
自动驾驶产业链的现状与发展趋势
专知
3+阅读 · 2022年11月20日
毫末速度:中国自动驾驶落地最快的1000天
量子位
0+阅读 · 2022年8月24日
自动驾驶技术解读——自动驾驶汽车决策控制系统
智能交通技术
30+阅读 · 2019年7月7日
报告 | 5G十大细分应用场景研究报告(附PPT图片)
走向智能论坛
19+阅读 · 2019年4月24日
深度学习在自动驾驶感知领域的应用
AI100
11+阅读 · 2019年3月6日
国家自然科学基金
11+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
8+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
21+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2023年6月20日
A Survey of Large Language Models
Arxiv
408+阅读 · 2023年3月31日
VIP会员
相关VIP内容
【ChatGPT系列报告】AI开启智能电车的下半场,35页pdf
专知会员服务
38+阅读 · 2023年6月15日
AI 大模型市场研究报告(2023),43页pdf
专知会员服务
235+阅读 · 2023年5月10日
【ChatGPT系列报告】解析Midjourney的成长之路
专知会员服务
81+阅读 · 2023年4月27日
【ChatGPT系列报告】AI+行业应用深度研究,28页ppt
专知会员服务
148+阅读 · 2023年4月7日
【ChatGPT系列报告】ChatGPT:AI模型框架研究,36页ppt
专知会员服务
170+阅读 · 2023年3月29日
【ChatGPT系列报告】国内大模型概览,42页ppt
专知会员服务
436+阅读 · 2023年3月8日
【ChatGPT系列报告】AIGC & ChatGPT 发展报告,27页ppt
专知会员服务
354+阅读 · 2023年2月18日
相关资讯
毫末智行,首推自动驾驶「ChatGPT」
机器之心
6+阅读 · 2023年4月12日
大模型路在何方?昇腾AI指明方向
机器之心
3+阅读 · 2022年11月21日
自动驾驶产业链的现状与发展趋势
专知
3+阅读 · 2022年11月20日
毫末速度:中国自动驾驶落地最快的1000天
量子位
0+阅读 · 2022年8月24日
自动驾驶技术解读——自动驾驶汽车决策控制系统
智能交通技术
30+阅读 · 2019年7月7日
报告 | 5G十大细分应用场景研究报告(附PPT图片)
走向智能论坛
19+阅读 · 2019年4月24日
深度学习在自动驾驶感知领域的应用
AI100
11+阅读 · 2019年3月6日
相关基金
国家自然科学基金
11+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
8+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
21+阅读 · 2009年12月31日
微信扫码咨询专知VIP会员