TensorFlow Lite 2019 年发展蓝图

2019 年 3 月 12 日 谷歌开发者

TensorFlow Lite 2019 年发展蓝图分为四个关键部分:易用性、性能、优化和可移植性。非常欢迎您在 TensorFlow Lite 论坛中评论我们的发展蓝图,并向我们提供反馈。


我们希望您了解一下 TensorFlow Lite 2019 年规划的总体概览,可能会因各种因素而随时变化,并且下列内容的先后顺序并不反映优先次序。从原则上说,我们通常优先解决大多数用户提出的问题,所以此列表基本反映这一点。



易用性

支持更多 op

  • 根据用户反馈优先处理更多 op


op 版本控制和签名

  • op 内核将获得版本号

  • op 内核将可以通过签名识别


新转换器

  • 实现新的 TensorFlow Lite 转换器,该转换器将能更好地处理图形转换(即控制流、条件语句等)并取代 TOCO


继续改进 TF Select Op

  • 支持更多使用 TF Select(例如哈希表、字符串等)的转换类型

  • 在通过 op 剥离使用 TF Select Op 时支持更小的二进制文件大小


支持长短期记忆 (LSTM) / 循环神经网络 (RNN)

  • 增加对 LSTM 和 RNN 的完整转换支持


图形可视化工具

  • 提供增强版图形可视化工具


预处理和后处理支持

  • 针对推理的预处理和后处理提供更多支持


控制流和设备端训练

  • 增加对控制流相关 op 的支持

  • 增加对设备端训练的支持


新 API

  • 将新的 C API 作为语言绑定和大多数客户端的核心

  • iOS 版 Objective-C API

  • iOS 版 SWIFT API

  • 更新后的 Android 版 Java API

  • C# Unity 语言绑定


添加更多模型

  • 向网站的支持部分添加更多模型



性能

更多硬件委派

  • 增加对更多硬件委派的支持


支持 NN API

  • 持续支持并改进对 NN API 的支持


框架可扩展性

  • 通过自定义优化版本支持简便的 CPU 内核重写


GPU 委派

  • 继续扩展对 OpenGL 和 Metal op 的总支持 op

  • 开源


提升 TFLite CPU 的性能

  • 优化浮动和量化模型



优化

模型优化工具组

  • 训练后量化 + 混合内核

  • 训练后量化 + 定点内核

  • 训练时量化


为更多技术提供更多支持

  • RNN 支持

  • 稀疏性 / 精简

  • 支持较低位宽



可移植性

微控制器支持

  • 增加对一系列 8 位、16 位和 32 位微控制器 (MCU) 架构语音和图像分类用例的支持



更多 AI 相关阅读:



登录查看更多
6

相关内容

Google发布的第二代深度学习系统TensorFlow
【2020新书】实战R语言4,323页pdf
专知会员服务
100+阅读 · 2020年7月1日
【Google】利用AUTOML实现加速感知神经网络设计
专知会员服务
29+阅读 · 2020年3月5日
TensorFlow Lite指南实战《TensorFlow Lite A primer》,附48页PPT
专知会员服务
69+阅读 · 2020年1月17日
【德勤】中国人工智能产业白皮书,68页pdf
专知会员服务
303+阅读 · 2019年12月23日
TF - GAN入门:TensorFlow 2.0 的轻量级 GAN 库
新智元
5+阅读 · 2019年10月8日
【赠书】TensorFlow自然语言处理
AINLP
17+阅读 · 2019年7月14日
基于TensorFlow和Keras的图像识别
Python程序员
16+阅读 · 2019年6月24日
TF Boys必看!一文搞懂TensorFlow 2.0新架构!
引力空间站
18+阅读 · 2019年1月16日
开源神经网络框架Caffe2全介绍
人工智能学家
3+阅读 · 2017年12月11日
TensorFlow神经网络教程
Python程序员
4+阅读 · 2017年12月4日
发布TensorFlow 1.4
谷歌开发者
7+阅读 · 2017年11月23日
谷歌发布TensorFlowLite,用半监督跨平台快速训练ML模型!
全球人工智能
5+阅读 · 2017年11月15日
Self-Attention Graph Pooling
Arxiv
5+阅读 · 2019年4月17日
Arxiv
7+阅读 · 2018年9月27日
Arxiv
5+阅读 · 2018年9月11日
Arxiv
7+阅读 · 2018年4月24日
Arxiv
4+阅读 · 2018年4月17日
VIP会员
相关资讯
TF - GAN入门:TensorFlow 2.0 的轻量级 GAN 库
新智元
5+阅读 · 2019年10月8日
【赠书】TensorFlow自然语言处理
AINLP
17+阅读 · 2019年7月14日
基于TensorFlow和Keras的图像识别
Python程序员
16+阅读 · 2019年6月24日
TF Boys必看!一文搞懂TensorFlow 2.0新架构!
引力空间站
18+阅读 · 2019年1月16日
开源神经网络框架Caffe2全介绍
人工智能学家
3+阅读 · 2017年12月11日
TensorFlow神经网络教程
Python程序员
4+阅读 · 2017年12月4日
发布TensorFlow 1.4
谷歌开发者
7+阅读 · 2017年11月23日
谷歌发布TensorFlowLite,用半监督跨平台快速训练ML模型!
全球人工智能
5+阅读 · 2017年11月15日
相关论文
Self-Attention Graph Pooling
Arxiv
5+阅读 · 2019年4月17日
Arxiv
7+阅读 · 2018年9月27日
Arxiv
5+阅读 · 2018年9月11日
Arxiv
7+阅读 · 2018年4月24日
Arxiv
4+阅读 · 2018年4月17日
Top
微信扫码咨询专知VIP会员