题目

深度学习的局限性和缺陷:Deep Learning Limitations and Flaws

关键字

弹性系统;商业智能;人工智能;超级人工智能图像处理;网络安全;实时决策;机器学习;深度学习。

简介

随着当今人们对人工智能(AI)及其作为从银行到电子商务,医疗应用等领域的集成业务的一部分的增强的兴趣日益浓厚,我们在日常运营中越来越依赖于AI。但是,最复杂的AI或超级AI(SAI)仍需要依赖其其他两个集成的子组件集,即机器学习(ML)和深度学习(DL)。但是,AI或SAI的DL组件中存在某些限制和缺陷,这些缺陷和缺陷会导致错误增长超出控制范围,并会影响其主要主组件AI和SAI以可信的方式最终处理数据和信息。精确决策和事件预测的过程,包括作为用例(UC)和服务水平协议(SLA)的一部分进行的任何预测,这些预测都作为任务分配给了AI或SAI。本文指出了目前人工智能技术发展背后的科学家和工程师所关注的这些局限性和缺陷。从内置于您日常业务运营中的弹性的角度来看,这类限制和缺陷也会影响业务弹性系统(BRS),本文也对此进行了说明。

作者

Bahman Zohuri,美国新墨西哥州阿尔伯克基,新墨西哥大学电气与计算机工程系

Masoud Moghaddam,美国阿尔伯克基,Galaxy Advance工程总监兼顾问

成为VIP会员查看完整内容
0
51

相关内容

机器学习的一个分支,它基于试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的一系列算法。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等

主题: Explainable Reinforcement Learning: A Survey

摘要: 可解释的人工智能(XAI),即更透明和可解释的AI模型的开发在过去几年中获得了越来越多的关注。这是由于这样一个事实,即AI模型随着其发展为功能强大且无处不在的工具而表现出一个有害的特征:性能与透明度之间的权衡。这说明了一个事实,即模型的内部工作越复杂,就越难以实现其预测或决策。但是,特别是考虑到系统像机器学习(ML)这样的方法(强化学习(RL))在系统自动学习的情况下,显然有必要了解其决策的根本原因。由于据我们所知,目前尚无人提供可解释性强化学习(XRL)方法的概述的工作,因此本调查试图解决这一差距。我们对问题进行了简短的总结,重要术语的定义以及提议当前XRL方法的分类和评估。我们发现a)大多数XRL方法通过模仿和简化一个复杂的模型而不是设计本质上简单的模型来起作用,并且b)XRL(和XAI)方法通常忽略了方程的人为方面,而不考虑相关领域的研究像心理学或哲学。因此,需要跨学科的努力来使所生成的解释适应(非专家)人类用户,以便有效地在XRL和XAI领域中取得进步。

成为VIP会员查看完整内容
0
62

题目: Natural Language Processing Advancements By Deep Learning: A Survey

摘要: 自然语言处理(NLP)帮助智能机器更好地理解人类语言,实现基于语言的人机交流。算力的最新发展和语言大数据的出现,增加了使用数据驱动方法自动进行语义分析的需求。由于深度学习方法在计算机视觉、自动语音识别,特别是NLP等领域的应用取得了显著的进步,数据驱动策略的应用已经非常普遍。本综述对得益于深度学习的NLP的不同方面和应用进行了分类和讨论。它涵盖了核心的NLP任务和应用,并描述了深度学习方法和模型如何推进这些领域。我们并进一步分析和比较不同的方法和最先进的模型。

成为VIP会员查看完整内容
0
58

题目: A Hierarchy of Limitations in Machine Learning

简介:

“所有模型都是错误的,但有些模型是有用的,”乔治·E·普·博克斯(George E. P. Box)(1979)说。 机器学习专注于概率模型在社会系统中进行预测的有用性,但是直到现在才掌握了这些模型错误的方式以及这些缺点的后果。 本文尝试对机器学习模型在应用于社会时的特定概念,过程和统计局限性进行全面,结构化的概述。 机器学习建模者本身可以使用所描述的层次结构来识别可能的故障点,并思考如何解决这些故障点,并且机器学习模型的使用者在面对有关是否,在何处以及如何应用机器学习的决策时可以知道要问什么。 局限性从量化本身固有的承诺到显示未建模的依存关系如何导致交叉验证作为评估模型性能的方式过于乐观的局限性。

目录:

成为VIP会员查看完整内容
0
40

简介:

当AI在著名的AlphaGo游戏中击败人类时,深度学习(DL)一战成名,深度学习训练和学习方法已被广泛认可为“人性化”的机器。 企业AI平台中的许多高级自动化功能是由机器学习(ML)和深度学习技术的快速增长而引起的。 深度学习的下一步是什么?

2019年的深度学习深入探讨了DL在AI的许多方面(无论是NLP还是计算机视觉应用程序)“无处不在”。 逐步地,启用了AI和DL的自动化系统,工具和解决方案正在渗透并接管所有业务部门-从营销到客户体验,从虚拟现实到自然语言处理(NLP)-到处都有数字化影响。

深度学习的端到端加密引发了公众对个人数据绝对隐私的需求的争议。这种消费者需求与Facebook当前的AI研究工作产生直接冲突。 Facebook的AI研究人员需要“大量收集”个人数据来训练学习算法。

Facebook意识到端到端加密的乌托邦概念确实是一个在研究世界中从大量个人数据中寻求答案的神话。为了将来的努力,研究人员现在正在认真考虑针对单个设备上的“数据”训练算法,而不是大量收集个人数据。在这种情况下,Facebook工程师将直接在用户手机上安装内容审核算法,以绕过违反数据隐私的行为。

在一个有争议的帖子中,该KD Nugget帖子的作者预测深度学习可能不是AI的未来。根据作者的说法,其背后的原因是,将来许多DL方法不仅会变得不合法,而且将变得完全非法。该帖子还暗示,未来的移动应用很可能没有DL。

启用DL的解决方案的另一个严重局限性在于,学习算法仍无法提供选择的详细原因,这可能会激起用户盲目接受AI工具提供的决策。

《深度学习的未来预测》表明,在未来5至10年中,DL将通过每个软件开发平台实现民主化。 DL工具将成为开发人员工具包的标准组成部分。 纳入标准DL库的可重用DL组件将具有其先前模型的训练特征,以加快学习速度。 随着深度学习工具的自动化持续发展,该技术存在一种固有的风险,即技术会变得如此复杂,以至于普通开发人员会发现自己完全无知。

成为VIP会员查看完整内容
0
20

主题: Deep Learning Compiler

简介:

Apache TVM是一个用于Cpu、Gpu和专用加速器的开源深度学习编译器堆栈。它的目标是缩小以生产力为中心的深度学习框架和以性能或效率为中心的硬件后端之间的差距。在此次演讲中主要围绕AWS AI的深度学习编译器的项目展开,讲述了如何通过TVM使用预量化模型,完全从零开始添加新的操作或者是降低到现有继电器操作符的序列。

邀请嘉宾:

Yida Wang是亚马逊AWS AI团队的一名应用科学家。在加入Amazon之前,曾在Intel实验室的并行计算实验室担任研究科学家。Yida Wang在普林斯顿大学获得了计算机科学和神经科学博士学位。研究兴趣是高性能计算和大数据分析。目前的工作是优化深度学习模型对不同硬件架构的推理,例如Cpu, Gpu, TPUs。

成为VIP会员查看完整内容
0
27

《Deep Learning》作为深度学习界的圣经,又名“花书”。英文版由全球知名的三位专家Ian Goodfellow、Yoshua Bengio 和Aaron Courville撰写,是深度学习领域奠基性的经典教材,中文版由北京大学教授张志华审校出版。

全书的内容包括3个部分:第1部分介绍基本的数学工具和机器学习的概念,它们是深度学习的预备知识;第2部分系统深入地讲解现今已成熟的深度学习方法和技术;第3部分讨论某些具有前瞻性的方向和想法,它们被公认为是深度学习未来的研究重点。 《深度学习》适合各类读者阅读,包括相关专业的大学生或研究生,以及不具有机器学习或统计背景、但是想要快速补充深度学习知识,以便在实际产品或平台中应用的软件工程师。

中文版链接:https://github.com/yanshengjia/ml-road/blob/master/resources/深度学习.pdf

英文版链接:https://github.com/yanshengjia/ml-road/blob/master/resources/Deep%20Learning.pdf

成为VIP会员查看完整内容
0
161

Deep Learning is applied to energy markets to predict extreme loads observed in energy grids. Forecasting energy loads and prices is challenging due to sharp peaks and troughs that arise due to supply and demand fluctuations from intraday system constraints. We propose deep spatio-temporal models and extreme value theory (EVT) to capture theses effects and in particular the tail behavior of load spikes. Deep LSTM architectures with ReLU and $\tanh$ activation functions can model trends and temporal dependencies while EVT captures highly volatile load spikes above a pre-specified threshold. To illustrate our methodology, we use hourly price and demand data from 4719 nodes of the PJM interconnection, and we construct a deep predictor. We show that DL-EVT outperforms traditional Fourier time series methods, both in-and out-of-sample, by capturing the observed nonlinearities in prices. Finally, we conclude with directions for future research.

0
4
下载
预览

With the spreading prevalence of Big Data, many advances have recently been made in this field. Frameworks such as Apache Hadoop and Apache Spark have gained a lot of traction over the past decades and have become massively popular, especially in industries. It is becoming increasingly evident that effective big data analysis is key to solving artificial intelligence problems. Thus, a multi-algorithm library was implemented in the Spark framework, called MLlib. While this library supports multiple machine learning algorithms, there is still scope to use the Spark setup efficiently for highly time-intensive and computationally expensive procedures like deep learning. In this paper, we propose a novel framework that combines the distributive computational abilities of Apache Spark and the advanced machine learning architecture of a deep multi-layer perceptron (MLP), using the popular concept of Cascade Learning. We conduct empirical analysis of our framework on two real world datasets. The results are encouraging and corroborate our proposed framework, in turn proving that it is an improvement over traditional big data analysis methods that use either Spark or Deep learning as individual elements.

0
3
下载
预览
小贴士
相关资讯
Gartner 报告:人工智能的现状与未来
InfoQ
9+阅读 · 2019年11月29日
深度学习的图像修复
AI研习社
20+阅读 · 2019年3月28日
深度强化学习简介
专知
28+阅读 · 2018年12月3日
338页新书《Deep Learning in Natural Language Processing》
机器学习算法与Python学习
6+阅读 · 2018年11月6日
吴恩达《ML Yearning》| 端到端的深度学习
人工智能前沿讲习班
5+阅读 · 2018年9月27日
深度学习之CNN简介
Python技术博文
16+阅读 · 2018年1月10日
深度学习(Deep Learning)发展史
Linux中国
5+阅读 · 2017年8月2日
深度学习的偏见、局限性及其未来
深度学习世界
4+阅读 · 2017年7月10日
相关论文
Ramchandra Joshi,Purvi Goel,Raviraj Joshi
4+阅读 · 2020年1月19日
Deep Learning for Energy Markets
Michael Polson,Vadim Sokolov
4+阅读 · 2019年4月10日
Ziwei Zhang,Peng Cui,Wenwu Zhu
40+阅读 · 2018年12月11日
Chunwei Tian,Yong Xu,Lunke Fei,Ke Yan
4+阅读 · 2018年10月11日
Physical Primitive Decomposition
Zhijian Liu,William T. Freeman,Joshua B. Tenenbaum,Jiajun Wu
3+阅读 · 2018年9月13日
Image Captioning based on Deep Reinforcement Learning
Haichao Shi,Peng Li,Bo Wang,Zhenyu Wang
7+阅读 · 2018年9月13日
Wenhao Jiang,Lin Ma,Xinpeng Chen,Hanwang Zhang,Wei Liu
6+阅读 · 2018年4月3日
Ignasi Clavera,Anusha Nagabandi,Ronald S. Fearing,Pieter Abbeel,Sergey Levine,Chelsea Finn
7+阅读 · 2018年3月30日
Holger R. Roth,Chen Shen,Hirohisa Oda,Masahiro Oda,Yuichiro Hayashi,Kazunari Misawa,Kensaku Mori
5+阅读 · 2018年3月23日
Anand Gupta,Hardeo Thakur,Ritvik Shrivastava,Pulkit Kumar,Sreyashi Nag
3+阅读 · 2017年11月25日
Top