如果你对在嵌入式设备上运行机器学习感兴趣,但不确定如何开始,谷歌的TensorFlow微团队的皮特·沃登将介绍如何构建和运行你自己的TinyML应用程序。这将包括可用的不同板子、软件框架和教程的概述,以帮助您入门和运行。

成为VIP会员查看完整内容
0
44

相关内容

“机器学习是近20多年兴起的一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。机器学习理论主要是设计和分析一些让 可以自动“ 学习”的算法。机器学习算法是一类从数据中自动分析获得规律,并利用规律对未知数据进行预测的算法。因为学习算法中涉及了大量的统计学理论,机器学习与统计推断学联系尤为密切,也被称为统计学习理论。算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法。很多 推论问题属于 无程序可循难度,所以部分的机器学习研究是开发容易处理的近似算法。” ——中文维基百科

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等

数据科学和人工智能是令人着迷的计算领域。微软在这些新技术上下了很大的赌注,但我们也知道,数据科学家都是训练有素的专业人士,并不是每个软件开发人员都能创建和维护复杂的数据模型,执行线性代数或购买昂贵的GPU设备来运行这些模型。这正是我们创造认知服务的原因。这套服务提供了预训练模型,您可以使用开箱即用的模型来执行视觉、语音、知识、搜索和语言方面的操作。在本次会议上,微软的云开发者倡导者Laurent Bugnion将向您展示如何使用认知服务增强应用程序的高级功能,如何使用自己的数据细化训练过的模型,以及如何将认知服务与其他Azure服务集成以实现任务自动化。

成为VIP会员查看完整内容
0
55

主题: Machine learning for protein engineering

摘要: 机器学习指导的蛋白质工程是一种新的范例,可以优化复杂的蛋白质功能。 机器学习方法使用数据来预测蛋白质功能,而无需详细的基础物理或生物学途径模型。

成为VIP会员查看完整内容
0
16

【导读】来自Jordi Pons一份循环神经网络RNNs简明教程,37页ppt

成为VIP会员查看完整内容
RNNsTutorial.pdf
0
104

TensorFlow Lite是可帮助开发人员在移动端(mobile)、嵌入式(embeded)和物联网(IoT)设备上运行TensorFlow机器学习模型的一组工具。它使设备机器学习具有低延迟和更小的二进制体积。本文是TensorFlow Lite入门指导。

TensorFlow Lite

TensorFlow Lite由两个主要组件组成:

  • interpreter(解释器):可在许多不同的硬件类型(包括手机,嵌入式Linux设备和微控制器)上运行经过特别优化的模型。
  • converter(转换器):将TensorFlow模型转换为供解释器使用的有效形式,并且可以引入优化以改善二进制大小和性能。

下图显示了 TensorFlow Lite 的架构设计:

在设备端使用模型的过程:

  • 训练并保存模型(开发机器)
  • 转换模型(开发机器)
  • 将转换后的模型复制到设备上
  • 使用TF Lite解释器运行推理

converter与量化

converter使用TF模型生成FlatBuffer文件(.tflite),然后将FlatBuffer文件部署到客户端设备(例如移动设备,嵌入式设备)并使用TensorFlow Lite解释器在本地运行。下图显示了此转换过程:

converter代码实现如下:

为什么要使用FlatBuffer? 主要原因有:

  • 无需解析/拆包即可访问序列化数据
  • 内存效率和速度-访问数据所需的唯一内存是缓冲区的内存
  • 没有依赖项的跨平台代码

使用converter转换模型的主要原因:

  • 使模型更小(内存占用更小)
  • 提高推理效率
  • 需要较少的内存访问
  • 推理中使用更少的能量

注:推理(Inference) 是通过模型(model)运行数据(data)以获得预测(predictions)的过程。这个过程需要模型(model)、解释器(interpreter)和输入数据(input data)。

为了实现这些目标,主要组成部分是所谓的量化(Quantization)如下图:

成为VIP会员查看完整内容
0
45

主题: Machine learning over real-time streaming data with TensorFlow

报告简介: 在流数据上应用机器学习来发现有用的信息一直是人们感兴趣的话题。在物联网传感器、网络交易、全球定位系统位置或社交媒体更新等许多现实应用中,不断产生大量数据。关键是要有一个能够可靠和方便地接收、预处理和提供数据的数据管道,以便进行模型推理和训练。Yong Tang使用TensorFlow开发了用于流数据处理的TensorFlow I/O包。TensorFlow I/O由TensorFlow项目的SIG IO开发,是一个软件包,主要关注TensorFlow的数据I/O、流和文件格式。除了机器学习本身之外,它还支持各种各样的开源软件和框架。在流数据领域,TensorFlow I/O为Apache Kafka、AWS kinisis和Google Cloud PubSub提供支持,这是目前应用最广泛的流框架。TensorFlow I/O构建在tf.data之上,与简洁的tf.keras API完全兼容。这意味着使用Kafka、kinisis和PubSub对流式数据进行模型推断可以像一行代码一样简单。再加上tf.data中的数据转换功能,还可以直接对成批流数据进行模型训练。除了流输入外,TensorFlow I/O还提供流输出支持,使得机器学习算法实时生成的数据可以返回到Kafka,从而允许其他应用程序连续接收数据。有了输入和输出支持,就可以用最少的组件构建以TensorFlow为中心的流媒体管道,这从长远来看大大减少了基础设施的维护。您将看到一个演示,展示了TensorFlow I/O使用的便利性,以及使用完整的流数据管道轻松进行机器学习的能力。

嘉宾介绍: 唐勇是美孚电子的工程总监。他为开源社区的不同容器和机器学习项目做出了贡献。他最近的研究重点是机器学习中的数据处理。他是TensorFlow项目的提交者和SIG I/O负责人,并因对TensorFlow的贡献而获得了谷歌的开源同行奖。除了TensorFlow,唐勇还为开源社区的许多其他项目做出了贡献,并且是Docker和CoreDNS项目的提交者。

成为VIP会员查看完整内容
0
18

报告主题:Advanced model deployments with TensorFlow Serving

报告摘要

TensorFlow服务是TensorFlow生态系统的基石之一。它极大地简化了机器学习模型的部署,并加速了模型的部署。不幸的是,机器学习工程师不熟悉TensorFlow服务的细节,他们错过了显著的性能提升。Hannes Hapke简要介绍了TensorFlow服务,然后深入介绍了高级设置和用例。他介绍了先进的概念和实施建议增加TensorFlow服务设置的性能,其中包括客户如何请求服务器模型的元信息模型,选择最优预测模型优化吞吐量的概述,批处理请求提高吞吐量性能,支持模型的一个示例实现A / B测试,和监控TensorFlow服务设置的概述。

邀请嘉宾

Hannes Hapke是一位机器学习爱好者和谷歌开发专家。他将深度学习应用于各种计算机视觉和自然语言问题,主要兴趣在于机器学习基础设施和自动化模型工作流。Hannes是《自然语言处理在行动中的作用》一书的合著者,他正在为O 'Reilly使用TensorFlow构建机器学习管道。

成为VIP会员查看完整内容
Advanced model deployments with TensorFlow Serving Presentation.pdf
0
18
小贴士
相关资讯
Python机器学习课程(代码与教程)
专知
20+阅读 · 2019年5月13日
Tensorflow官方视频课程-深度学习工具 TensorFlow入门
深度学习与NLP
12+阅读 · 2019年3月12日
Pytorch作者Adam Paszke-53页Pytorch教程PPT
专知
31+阅读 · 2018年10月27日
教程 | 从头开始了解PyTorch的简单实现
机器之心
20+阅读 · 2018年4月11日
【下载】TensorFlow机器学习教程手把手书谱
专知
35+阅读 · 2017年12月22日
TensorFlow神经网络教程
Python程序员
3+阅读 · 2017年12月4日
教程 | 在Python和TensorFlow上构建Word2Vec词嵌入模型
机器之心
6+阅读 · 2017年11月20日
干货|7步让你从零开始掌握Python机器学习!
全球人工智能
6+阅读 · 2017年9月24日
相关论文
A Survey on Trajectory Data Management, Analytics, and Learning
Sheng Wang,Zhifeng Bao,J. Shane Culpepper,Gao Cong
11+阅读 · 2020年3月25日
Anomalous Instance Detection in Deep Learning: A Survey
Saikiran Bulusu,Bhavya Kailkhura,Bo Li,Pramod K. Varshney,Dawn Song
22+阅读 · 2020年3月16日
Mingzhen Li,Yi Liu,Xiaoyan Liu,Qingxiao Sun,Xin You,Hailong Yang,Zhongzhi Luan,Depei Qian
9+阅读 · 2020年2月6日
Bryan Wilder,Eric Ewing,Bistra Dilkina,Milind Tambe
6+阅读 · 2019年5月31日
Yu Cheng,Mo Yu,Xiaoxiao Guo,Bowen Zhou
11+阅读 · 2019年1月26日
Taking Human out of Learning Applications: A Survey on Automated Machine Learning
Quanming Yao,Mengshuo Wang,Yuqiang Chen,Wenyuan Dai,Hu Yi-Qi,Li Yu-Feng,Tu Wei-Wei,Yang Qiang,Yu Yang
10+阅读 · 2019年1月17日
A Survey of Learning Causality with Data: Problems and Methods
Ruocheng Guo,Lu Cheng,Jundong Li,P. Richard Hahn,Huan Liu
7+阅读 · 2018年9月25日
Benjamin Recht
5+阅读 · 2018年6月25日
Yeonwoo Jeong,Hyun Oh Song
4+阅读 · 2018年6月12日
Julia Kreutzer,Shahram Khadivi,Evgeny Matusov,Stefan Riezler
3+阅读 · 2018年4月16日
Top