无需写代码!谷歌推出机器学习模型分析神器,代号What-If

2018 年 9 月 12 日 量子位
铜灵 编译整理
量子位 出品 | 公众号 QbitAI

今天,谷歌推出了已开源的TensorFlow可视化工具TensorBoard中一项新功能:What-If Tool,用户可在不编写程序代码的情况下分析机器学习(ML)模型。

不用写代码?

没错,只需为TensorFlow模型和数据集提供指针,What-If Tool就能给出一个可用来探索模型结果的可交互的视觉界面。

 250张人脸和在模型中检测微笑后的结果

What-If Tool里功能很多,包括自动用Facets将数据集可视化,也有从数据集中手动编辑示例并查看更改效果的功能,还能自动生成部分关系图,显示模型预测随着单个特征的改变而改变的趋势。

不过,这还不是What-If Tool的全部实力。

7大功能

What-If Tool主要有七大功能,不知道有没有你需要的那一款:

功能一:可视化推断结果

根据推断结果的不同,你的示例会被分成不同的颜色,之后可用混淆矩阵和其他自定义形式进行处理,从不同特征的角度显示推断结果。

功能二:编辑一个数据点,看模型表现如何

你可以编辑、添加或删除任何选定数据点的特性或特性值,然后运行推断来测试模型性能,也可上传全新示例。

功能三:发掘单个特征的效果

可以用来探索为选中数据点中的单个特征自动生成的图,显示特征有效值不同时推断结果的变化。

功能四:探索反事实示例

轻轻一点,你就能比较数据点与模型预测出不同结果的最相似点。我们将这些点称为“反事实”(Counterfactuals),可以反映出模型的决策边界。

功能五:按相似度排列示例

用L1或L2距离从选定的数据点创建距离特性,并将其可视化进行进一步分析。

功能六:查看混淆矩阵和ROC曲线

对于包含描述真实标签特性的二分类模型和示例,使用阈值、ROC曲线、数值混淆矩阵和成本比交互式地探索模型性能。

功能七:测试算法公平性限制

对于二分类模型来说,这个工具可以将你的数据集分成子数据集,继而探索不同算法公平性约束(fairness constraints)的影响。

传送门

在谷歌官方博客上,研究人员还发布了用预训练模型进行的一组演示,比如检测错误分类的原因,评估二元分类模型的公平性和调查不同子数据集中模型的表现等。可以移步官方博客查看更多,博客地址:

https://ai.googleblog.com/2018/09/the-what-if-tool-code-free-probing-of.html

What-If Tool介绍主页:
https://pair-code.github.io/what-if-tool/

加入社群

量子位AI社群28群开始招募啦,欢迎对AI感兴趣的同学,在量子位公众号(QbitAI)对话界面回复关键字“交流群”,获取入群方式;


此外,量子位专业细分群(自动驾驶、CV、NLP、机器学习等)正在招募,面向正在从事相关领域的工程师及研究人员。


进专业群请在量子位公众号(QbitAI)对话界面回复关键字“专业群”,获取入群方式。(专业群审核较严,敬请谅解)

诚挚招聘

量子位正在招募编辑/记者,工作地点在北京中关村。期待有才气、有热情的同学加入我们!相关细节,请在量子位公众号(QbitAI)对话界面,回复“招聘”两个字。

量子位 QbitAI · 头条号签约作者

վ'ᴗ' ի 追踪AI技术和产品新动态

登录查看更多
3

相关内容

【干货书】机器学习Python实战教程,366页pdf
专知会员服务
333+阅读 · 2020年3月17日
《可解释的机器学习-interpretable-ml》238页pdf
专知会员服务
197+阅读 · 2020年2月24日
谷歌机器学习速成课程中文版pdf
专知会员服务
143+阅读 · 2019年12月4日
【机器学习课程】Google机器学习速成课程
专知会员服务
162+阅读 · 2019年12月2日
ExBert — 可视化分析Transformer学到的表示
专知会员服务
31+阅读 · 2019年10月16日
2019年Google最新中文版《机器学习速成课程》分享
深度学习与NLP
15+阅读 · 2019年9月1日
要替代 TensorFlow?谷歌开源机器学习库 JAX
新智元
3+阅读 · 2018年12月14日
谷歌放大招!数据增强实现自动化
新智元
8+阅读 · 2018年6月4日
【机器学习】Google发布机器学习术语表 (中英对照)
资料 | Google发布机器学习术语表 (中英对照)
机器学习算法与Python学习
4+阅读 · 2018年3月20日
无需一行代码就能搞定机器学习的开源神器
人工智能头条
6+阅读 · 2017年11月7日
Arxiv
8+阅读 · 2018年11月21日
Feature Selection Library (MATLAB Toolbox)
Arxiv
7+阅读 · 2018年8月6日
Arxiv
8+阅读 · 2018年1月19日
VIP会员
相关资讯
2019年Google最新中文版《机器学习速成课程》分享
深度学习与NLP
15+阅读 · 2019年9月1日
要替代 TensorFlow?谷歌开源机器学习库 JAX
新智元
3+阅读 · 2018年12月14日
谷歌放大招!数据增强实现自动化
新智元
8+阅读 · 2018年6月4日
【机器学习】Google发布机器学习术语表 (中英对照)
资料 | Google发布机器学习术语表 (中英对照)
机器学习算法与Python学习
4+阅读 · 2018年3月20日
无需一行代码就能搞定机器学习的开源神器
人工智能头条
6+阅读 · 2017年11月7日
Top
微信扫码咨询专知VIP会员