报告主题:Advanced model deployments with TensorFlow Serving

报告摘要

TensorFlow服务是TensorFlow生态系统的基石之一。它极大地简化了机器学习模型的部署,并加速了模型的部署。不幸的是,机器学习工程师不熟悉TensorFlow服务的细节,他们错过了显著的性能提升。Hannes Hapke简要介绍了TensorFlow服务,然后深入介绍了高级设置和用例。他介绍了先进的概念和实施建议增加TensorFlow服务设置的性能,其中包括客户如何请求服务器模型的元信息模型,选择最优预测模型优化吞吐量的概述,批处理请求提高吞吐量性能,支持模型的一个示例实现A / B测试,和监控TensorFlow服务设置的概述。

邀请嘉宾

Hannes Hapke是一位机器学习爱好者和谷歌开发专家。他将深度学习应用于各种计算机视觉和自然语言问题,主要兴趣在于机器学习基础设施和自动化模型工作流。Hannes是《自然语言处理在行动中的作用》一书的合著者,他正在为O 'Reilly使用TensorFlow构建机器学习管道。

成为VIP会员查看完整内容
Advanced model deployments with TensorFlow Serving Presentation.pdf
21

相关内容

一家美国的跨国科技企业,致力于互联网搜索、云计算、广告技术等领域,由当时在斯坦福大学攻读理学博士的拉里·佩奇和谢尔盖·布林共同创建。创始之初,Google 官方的公司使命为「整合全球范围的信息,使人人皆可访问并从中受益」。 Google 开发并提供了大量基于互联网的产品与服务,其主要利润来自于 AdWords 等广告服务。

2004 年 8 月 19 日, 公司以「GOOG」为代码正式登陆纳斯达克交易所。
《强化学习—使用 Open AI、TensorFlow和Keras实现》174页pdf
专知会员服务
136+阅读 · 2020年3月1日
如何用TF Serving部署TensorFlow模型
AI研习社
26+阅读 · 2019年3月27日
TF Boys必看!一文搞懂TensorFlow 2.0新架构!
引力空间站
18+阅读 · 2019年1月16日
资源 | 谷歌开源AdaNet:基于TensorFlow的AutoML框架
极市平台
4+阅读 · 2018年11月1日
【机器学习】基于TensorFlow搭建一套通用机器学习平台
发布TensorFlow 1.4
谷歌开发者
7+阅读 · 2017年11月23日
Heterogeneous Graph Transformer
Arxiv
27+阅读 · 2020年3月3日
Arxiv
5+阅读 · 2019年4月21日
Adaptive Neural Trees
Arxiv
4+阅读 · 2018年12月10日
Attend More Times for Image Captioning
Arxiv
6+阅读 · 2018年12月8日
Arxiv
23+阅读 · 2018年10月24日
VIP会员
相关VIP内容
《强化学习—使用 Open AI、TensorFlow和Keras实现》174页pdf
专知会员服务
136+阅读 · 2020年3月1日
相关论文
Heterogeneous Graph Transformer
Arxiv
27+阅读 · 2020年3月3日
Arxiv
5+阅读 · 2019年4月21日
Adaptive Neural Trees
Arxiv
4+阅读 · 2018年12月10日
Attend More Times for Image Captioning
Arxiv
6+阅读 · 2018年12月8日
Arxiv
23+阅读 · 2018年10月24日
微信扫码咨询专知VIP会员