人工智能之机器学习算法体系汇总

2017 年 8 月 5 日 云栖社区 王小雷

参加完2017CCAI,听完各位专家的演讲后受益匪浅。立志写“人工智能之机器学习”系列,此为开篇,主要梳理了机器学习方法体系,人工智能相关趋势,Python与机器学习,以及结尾的一点感恩。


人工智能之机器学习体系汇总

直接上干货!此处梳理出面向人工智能的机器学习方法体系,主要体现机器学习方法和逻辑关系,理清机器学习脉络,后续文章会针对机器学习系列讲解算法原理和实战。抱着一颗严谨学习之心,有不当之处欢迎斧正。


大图下载地址:https://yqfile.alicdn.com/b4e74068d29f07bea448fc1eee360e83417d1d5f.png


  • 监督学习 Supervised learning

  • 人工神经网络 Artificial neural network

  • 自动编码器 Autoencoder

  • 反向传播 Backpropagation

  • 玻尔兹曼机 Boltzmann machine

  • 卷积神经网络 Convolutional neural network

  • Hopfield网络 Hopfield network

  • 多层感知器 Multilayer perceptron

  • 径向基函数网络(RBFN) Radial basis function network(RBFN)

  • 受限玻尔兹曼机 Restricted Boltzmann machine

  • 回归神经网络(RNN) Recurrent neural network(RNN)

  • 自组织映射(SOM) Self-organizing map(SOM)

  • 尖峰神经网络 Spiking neural network


  • 贝叶斯 Bayesian

  • 朴素贝叶斯 Naive Bayes

  • 高斯贝叶斯 Gaussian Naive Bayes

  • 多项朴素贝叶斯 Multinomial Naive Bayes

  • 平均一依赖性评估(AODE) Averaged One-Dependence Estimators(AODE)

  • 贝叶斯信念网络(BNN) Bayesian Belief Network(BBN)

  • 贝叶斯网络(BN) Bayesian Network(BN)


  • 决策树 Decision Tree

  • 分类和回归树(CART) Classification and regression tree (CART)

  • 迭代Dichotomiser 3(ID3) Iterative Dichotomiser 3(ID3)

  • C4.5算法 C4.5 algorithm

  • C5.0算法 C5.0 algorithm

  • 卡方自动交互检测(CHAID) Chi-squared Automatic Interaction Detection(CHAID)

  • 决策残端 Decision stump

  • ID3算法 ID3 algorithm

  • 随机森林 Random forest

  • SLIQ


  • 线性分类 Linear classifier

  • Fisher的线性判别 Fisher's linear discriminant

  • 线性回归 Linear regression

  • Logistic回归 Logistic regression

  • 多项Logistic回归 Multinomial logistic regression

  • 朴素贝叶斯分类器 Naive Bayes classifier

  • 感知 Perceptron

  • 支持向量机 Support vector machine


  • 无监督学习 Unsupervised learning

  • 人工神经网络 Artificial neural network

  • 对抗生成网络

  • 前馈神经网络 Feedforward neurral network

           极端学习机 Extreme learning machine

  • 逻辑学习机 Logic learning machine

  • 自组织映射 Self-organizing map


  • 关联规则学习 Association rule learning

  • 先验算法 Apriori algorithm

  • Eclat算法 Eclat algorithm

  • FP-growth算法 FP-growth algorithm


  • 分层聚类 Hierarchical clustering

  • 单连锁聚类 Single-linkage clustering

  • 概念聚类 Conceptual clustering


  • 聚类分析 Cluster analysis

  • BIRCH

  • DBSCAN

  • 期望最大化(EM) Expectation-maximization(EM)

  • 模糊聚类 Fuzzy clustering

  • K-means算法 K-means algorithm

  • k-均值聚类 K-means clustering

  • k-位数 K-medians

  • 平均移 Mean-shift

  • OPTICS算法 OPTICS algorithm


  • 异常检测 Anomaly detection

  • k-最近邻算法(K-NN) k-nearest neighbors classification(K-NN)

  • 局部异常因子 Local outlier factor


  • 半监督学习 Semi-supervised learning

  • 生成模型 Generative models

  • 低密度分离 Low-density separation

  • 基于图形的方法 Graph-based methods

  • 联合训练 Co-training


  • 强化学习 Reinforcement learning

  • 时间差分学习 Temporal difference learning

  • Q学习 Q-learning

  • 学习自动 Learning Automata

  • 状态-行动-回馈-状态-行动(SARSA) State-Action-Reward-State-Action(SARSA)


  • 深度学习 Deep learning

  • 深度信念网络 Deep belief machines

  • 深度卷积神经网络 Deep Convolutional neural networks

  • 深度递归神经网络 Deep Recurrent neural networks

  • 分层时间记忆 Hierarchical temporal memory

  • 深度玻尔兹曼机(DBM) Deep Boltzmann Machine(DBM)

  • 堆叠自动编码器 Stacked Boltzmann Machine

  • 生成式对抗网络 Generative adversarial networks


  • 迁移学习 Transfer learning

  • 传递式迁移学习 Transitive Transfer Learning


  • 其他

  • 集成学习算法

  • Bootstrap aggregating (Bagging)

  • AdaBoost

  • 梯度提升机(GBM) Gradient boosting machine(GBM)

  • 梯度提升决策树(GBRT) Gradient boosted decision tree(GBRT)


  • 降维

  • 主成分分析(PCA) Principal component analysis(PCA)

  • 主成分回归(PCR) Principal component regression(PCR)

  • 因子分析 Factor analysis


学习应当严谨,有不当场之处欢迎斧正。

强力驱动 Wikipedia CSDN


人工智能相关趋势分析

2.1.人工智能再次登上历史舞台


人工智能与大数据对比——当今人工智能高于大数据


[数据来自Goolge trends]


2.2.Python才是王道


数据来自Google trends]


2.3.深度学习趋势大热


[数据来自Google trends]


2.4.中国更爱深度学习


[数据来源-Google trends]


结语

关于人工智能的一点感想,写在最后


AI systems can’t model everything... AI needs to be robust to “unknown unknowns”  [Thomas G.Dietterich ,2017CCAI]


中国自古有之


“知之为知之,不知为不知,是知也”【出自《论语》】


人工智能已然是历史的第三波浪潮,堪称“工业4.0”,有突破性的成就,但也有未解之谜。真正创造一个有认知力的“生命”——还有很大的难度。希望此次浪潮会持续下去,创造出其真正的价值,而非商业泡沫。


大多数的我们发表不了顶级学术论文,开创不了先河。不要紧,沉下心,努力去实践。人工智能路漫漫,却让我们的生活充满了机遇与遐想。


往期精彩文章

0 【沉淀】访谈阿里孙伟光:三年跑遍两个省、刷完市面上所有相关书籍,这位技术人还经历了啥?

1【干货合集】阿里云专家诠释持续集成与云端交付的正确姿势!

2 深度学习入门系列之八:BP算法双向传,链式求导最缠绵

3 科班出身和培训上岗的程序员谁更牛?

4 阿里云高性能时序数据库 HiTSDB 启动公测,为物联网而生的数据库!


-END-

云栖社区

ID:yunqiinsight

云计算丨互联网架构丨大数据丨机器学习丨运维


点击“阅读原文”


登录查看更多
1

相关内容

玻尔兹曼机(也称为带有隐藏单元的随机Hopfield网络)是一种随机递归神经网络。这是一个马尔可夫随机场,它是从统计物理学翻译过来的,用于认知科学。Boltzmann机器基于具有外部场的随机旋转玻璃模型,即Sherrington-Kirkpatrick模型,它是随机的Ising模型,并应用于机器学习。Boltzmann机器可以看作是Hopfield网络的随机,生成对应物。它们是最早的能够学习内部表示的神经网络之一,并且能够表示和(给定足够的时间)解决组合问题。它是一类典型的随机神经网络属于反馈神经网络类型 。
专知会员服务
139+阅读 · 2020年5月19日
【经典书】机器学习高斯过程,266页pdf
专知会员服务
195+阅读 · 2020年5月2日
Sklearn 与 TensorFlow 机器学习实用指南,385页pdf
专知会员服务
129+阅读 · 2020年3月15日
【新书】Pro 机器学习算法Python实现,379页pdf
专知会员服务
198+阅读 · 2020年2月11日
专知会员服务
159+阅读 · 2020年1月16日
【推荐系统/计算广告/机器学习/CTR预估资料汇总】
专知会员服务
87+阅读 · 2019年10月21日
TensorFlow 2.0 学习资源汇总
专知会员服务
66+阅读 · 2019年10月9日
ML、DL、NLP面试常考知识点、代码、算法理论基础汇总分享
【收藏】机器学习的Pytorch实现资源集合【附下载链接】
机器学习算法与Python学习
10+阅读 · 2018年9月8日
机器学习的Pytorch实现资源集合
专知
11+阅读 · 2018年9月1日
机器学习汇总,珍藏版!
机器学习算法与Python学习
8+阅读 · 2018年3月5日
Machine Learning:十大机器学习算法
开源中国
20+阅读 · 2018年3月1日
免费|机器学习算法Python实现
全球人工智能
5+阅读 · 2018年1月2日
机器学习方法体系汇总
机器学习算法与Python学习
9+阅读 · 2017年8月12日
机器学习知识体系
数据挖掘入门与实战
5+阅读 · 2017年7月24日
A General and Adaptive Robust Loss Function
Arxiv
8+阅读 · 2018年11月5日
Arxiv
4+阅读 · 2018年5月21日
Arxiv
5+阅读 · 2017年12月14日
Arxiv
5+阅读 · 2015年9月14日
VIP会员
相关VIP内容
专知会员服务
139+阅读 · 2020年5月19日
【经典书】机器学习高斯过程,266页pdf
专知会员服务
195+阅读 · 2020年5月2日
Sklearn 与 TensorFlow 机器学习实用指南,385页pdf
专知会员服务
129+阅读 · 2020年3月15日
【新书】Pro 机器学习算法Python实现,379页pdf
专知会员服务
198+阅读 · 2020年2月11日
专知会员服务
159+阅读 · 2020年1月16日
【推荐系统/计算广告/机器学习/CTR预估资料汇总】
专知会员服务
87+阅读 · 2019年10月21日
TensorFlow 2.0 学习资源汇总
专知会员服务
66+阅读 · 2019年10月9日
相关资讯
ML、DL、NLP面试常考知识点、代码、算法理论基础汇总分享
【收藏】机器学习的Pytorch实现资源集合【附下载链接】
机器学习算法与Python学习
10+阅读 · 2018年9月8日
机器学习的Pytorch实现资源集合
专知
11+阅读 · 2018年9月1日
机器学习汇总,珍藏版!
机器学习算法与Python学习
8+阅读 · 2018年3月5日
Machine Learning:十大机器学习算法
开源中国
20+阅读 · 2018年3月1日
免费|机器学习算法Python实现
全球人工智能
5+阅读 · 2018年1月2日
机器学习方法体系汇总
机器学习算法与Python学习
9+阅读 · 2017年8月12日
机器学习知识体系
数据挖掘入门与实战
5+阅读 · 2017年7月24日
相关论文
A General and Adaptive Robust Loss Function
Arxiv
8+阅读 · 2018年11月5日
Arxiv
4+阅读 · 2018年5月21日
Arxiv
5+阅读 · 2017年12月14日
Arxiv
5+阅读 · 2015年9月14日
Top
微信扫码咨询专知VIP会员