机器学习是指通过经验自动提高性能的计算机程序(例如,学习识别人脸、推荐音乐和电影,以及驾驶自动机器人的程序)。本课程从不同的角度涵盖了机器学习的理论和实际算法。我们涵盖的主题如贝叶斯网络,决策树学习,支持向量机,统计学习方法,无监督学习和强化学习。本课程涵盖了归纳偏差、PAC学习框架、贝叶斯学习方法、基于边际的学习和奥卡姆剃刀等理论概念。编程作业包括各种学习算法的动手实验。本课程旨在为研究生提供机器学习研究人员目前所需要的方法学、技术、数学和算法的全面基础知识。

通过学习这门课程,能够获取:

实现和分析现有的学习算法,包括学习良好的分类、回归、结构化预测、聚类和表示学习方法 将实际机器学习的多个方面整合到一个系统中:数据预处理、学习、正则化和模型选择 描述用于学习的模型和算法的形式属性,并解释这些结果的实际含义 比较和对比不同的学习模式(有监督的,无监督的,等等) 设计实验来评估和比较现实问题中不同的机器学习技术 运用概率、统计学、微积分、线性代数和最优化来开发新的预测模型或学习方法 给出ML技术的描述,分析它以确定(1)形式主义的表达能力;(2)算法隐含的归纳偏差;(3)搜索空间的大小和复杂度;(5)关于终止、收敛、正确性、准确性或泛化能力的任何保证(或缺乏保证)。

课程地址:

http://www.cs.cmu.edu/~mgormley/courses/10601/

成为VIP会员查看完整内容
0
43

相关内容

“机器学习是近20多年兴起的一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。机器学习理论主要是设计和分析一些让 可以自动“ 学习”的算法。机器学习算法是一类从数据中自动分析获得规律,并利用规律对未知数据进行预测的算法。因为学习算法中涉及了大量的统计学理论,机器学习与统计推断学联系尤为密切,也被称为统计学习理论。算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法。很多 推论问题属于 无程序可循难度,所以部分的机器学习研究是开发容易处理的近似算法。” ——中文维基百科

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等

标准机器学习方法简介。允许您找到适合您的应用程序的问题/方法。为更深入的学习提供必要的词汇和工具。促进ML的良好实践、解释和重现性。

成为VIP会员查看完整内容
0
29

在人工智能、统计学、计算机系统、计算机视觉、自然语言处理和计算生物学等许多领域中,许多问题都可以被视为从局部信息中寻找一致的全局结论。概率图模型框架为这一范围广泛的问题提供了一个统一的视图,能够在具有大量属性和巨大数据集的问题中进行有效的推理、决策和学习。这门研究生水平的课程将为您在复杂问题中运用图模型中解决核心研究主题提供坚实的基础。本课程将涵盖三个方面: 核心表示,包括贝叶斯网络和马尔科夫网络,以及动态贝叶斯网络;概率推理算法,包括精确和近似; 以及图模型的参数和结构的学习方法。进入这门课程的学生应该预先具备概率、统计学和算法的工作知识,尽管这门课程的设计是为了让有较强数学背景的学生赶上并充分参与。希望通过本课程的学习,学生能够获得足够的实际应用的多变量概率建模和推理的工作知识,能够用通用模型在自己的领域内制定和解决广泛的问题。并且可以自己进入更专业的技术文献。

成为VIP会员查看完整内容
0
40

人工智能是一门研究生(高年级本科生可选)专业基础课程,旨在讲授人工智能的基本理论、方法和技术,并落实到算法,主要内容包括:智能体,搜索算法,约束满足问题,逻辑智能体,自动推理,自动规划,知识表示,不确定知识和推理, 决策,机器学习,自然语言理解,机器人等。授课内容参见讲义。参考资料选自国际优秀教材和重要文献。

https://www.math.pku.edu.cn/teachers/linzq/teaching/ai/ai.html

人工智能 

1 引论

1.1  AI

1.2  基础

1.3  历史

1.4  现状

1.5  争论

2 智能体

2.1 智能体

2.2 智能程序

2.3 理性

2.4 环境

2.5 智能体结构

2.6 多智能体

3 搜索算法

3.1 问题求解主体

3.2 基本搜索算法

3.3 启发式搜索

3.4 局部搜索

3.5 在线搜索

3.6 对抗搜索

3.7 元搜索

4 约束满足问题

4.1  约束满足问题

4.2  约束传播

4.3  回溯搜索

4.4  局部搜索

4.5  结构与分解

5 逻辑智能体

5.1 知识智能体

5.2 命题逻辑

5.3 可满足性问题

5.4 一阶逻辑

5.5 AI的逻辑基础

6 自动推理

6.1 自动定理证明

6.2 前向和反向推理

6.3 归结

6.4 模型检测

7 自动规划

7.1  规划智能体

7.2  经典规划

7.3  分层规划

7.4  情态演算

7.5  偏序规划

7.6  非经典规划

7.7  排程

8 知识表示

8.1  知识

8.2  本体

8.3  产生式系统

8.4  定性物理

8.5  结构描述

8.6  框架与语义网

8.7  语义Web

8.8  知识图谱

8.9  知识嵌入

8.10  变化

8.11  解释与诊断

8.12  心智状态

8.13  常识   

9 不确定知识和推理

9.1  不确定性

9.2  概率

9.3  贝叶斯网络

9.4  概率推理

9.5  动态贝叶斯网络

9.6  因果推理

9.7  概率程序设计

9.8  概率逻辑

10 决策

10.1 决策智能体

10.2 优先性

10.3 效用

10.4 决策网

10.5 序列决策

10.6 多智能体系统

10.7 博弈论

11 机器学习

11.1 学习智能体

11.2 归纳学习

11.3 深度学习

11.4 统计学习

11.5 强化学习

11.6 迁移学习

11.7 集成学习

11.8 联邦学习

11.9 解释学习

11.10 计算学习理论

12 自然语言理解

12.1 语言

12.2 语法

12.3 语义

12.4 语言模型

12.5 神经语言系统

12.6 自然语言任务

12.7 对话 AI

13 机器人

13.1 机器人

13.2 计算机视觉

13.3 机器人感知

13.4 运动规划

13.5 控制器

13.6 智能汽车

14 人工智能哲学

14.1  AI 哲学

14.2  弱 AI

14.3  强 AI 

14.4  伦理

14.5  AI 的未来
成为VIP会员查看完整内容
0
55

机器学习涉及的是通过经验自动提高其性能的计算机程序(例如,学习人脸识别,推荐音乐和电影,以及驱动自主机器人的程序)。本课程从多种角度涵盖了机器学习的理论和实际算法。我们涵盖了贝叶斯网络、决策树学习、支持向量机、统计学习方法、无监督学习和强化学习等主题。课程涵盖的理论概念如归纳偏差,PAC学习框架,贝叶斯学习方法,基于边际的学习,和奥卡姆剃刀。编程作业包括各种学习算法的动手实验。本课程旨在为研究生提供机器学习研究人员所需要的方法论、技术、数学和算法的全面基础知识。

学习成果: 课程结束时,学生应能够:

实现并分析现有的学习算法,包括为分类、回归、结构预测、聚类和表示学习而充分研究的方法 将实际机器学习的多个方面集成到一个系统中:数据预处理、学习、正则化和模型选择 描述学习模型和算法的形式属性,并解释这些结果的实际含义 比较和对比不同的学习范式(监督的、非监督的,等等) 设计实验评估和比较不同的机器学习技术在现实世界的问题 运用概率论、统计学、微积分、线性代数和最优化来开发新的预测模型或学习方法 给出一种ML技术的描述,分析它,确定(1)形式主义的表达能力;(2)算法中隐含的归纳偏差;(3)搜索空间

参考书籍:

Machine Learning, Tom Mitchell. Machine Learning: a Probabilistic Perspective, Kevin Murphy. Full online access is free through CMU’s library – for the second link, you must be on CMU’s network or VPN. A Course in Machine Learning, Hal Daumé III. Online only.

目录内容: Classification & Regression Linear Models 深度学习 强化学习 生成模型 概率图模型 学习理论 学习方式

成为VIP会员查看完整内容
0
50

本课程由四个部分组成。

  • 数学基础。矩阵、向量、Lp范数、范数的几何、对称性、正确定性、特征分解。无约束优化,graident下降,凸函数,拉格朗日乘数,线性最小二乘。概率空间,随机变量,联合分布,多维高斯函数。

  • 线性分类器。线性判别分析、分离超平面、多类分类、贝叶斯决策规则、贝叶斯决策规则的几何、线性回归、逻辑回归、感知器算法、支持向量机、非线性变换。

  • 学习理论。偏差与方差、训练与测试、泛化、PAC框架、Hoeffding不等式、VC维。

  • 鲁棒性。对抗性攻击,有目标和无目标攻击,最小距离攻击,最大损失攻击,规则攻击。通过纳微扰。支持向量机的鲁棒性。

https://engineering.purdue.edu/ChanGroup/ECE595/index.html

成为VIP会员查看完整内容
0
29

以深度神经网络为代表的“深度学习”系统正越来越多地接管所有人工智能任务,从语言理解、语音和图像识别,到机器翻译、规划,甚至是游戏和自动驾驶。因此,在许多高级学术机构中,深度学习的专业知识正从深奥的要求迅速转变为强制性的先决条件,并成为工业就业市场的一大优势。

在本课程中,我们将学习深度神经网络的基础知识,以及它们在各种人工智能任务中的应用。在本课程结束时,预计学生将对这门学科非常熟悉,并能够将深度学习应用于各种任务。他们也将被定位去理解关于这个主题的许多当前的文献,并通过进一步的学习来扩展他们的知识。

如果你只对课程感兴趣,你可以在YouTube频道上观看。

https://deeplearning.cs.cmu.edu/F20/

成为VIP会员查看完整内容
0
49

现代人工智能(AI)系统通常需要在一个未知的、不确定的、可能敌对的环境中,通过积极地与环境交互来收集相关数据,从而做出连续的决策。强化学习(RL)是一个通用框架,可以捕获交互式学习设置,并已被用于设计智能代理,以实现超人水平的表现,在具有挑战性的任务,如围棋,电脑游戏,机器人操作。

这门研究生水平的课程着重于强化学习的理论和算法基础。本课程的四个主题为: (1)可证明有效的探索; (2)策略优化(特别是策略梯度); (3)控制; (4)模仿学习。

通过本课程,学生将能够理解经典的和最新的可证明正确的RL算法及其分析。学生将能够对与RL相关的课题进行研究。

成为VIP会员查看完整内容
0
47

课程内容:

  • 数学基础:矩阵、向量、Lp范数、范数的几何、对称性、正确定性、特征分解。无约束最优化,graident下降法,凸函数,拉格朗日乘子,线性最小二乘法。概率空间,随机变量,联合分布,多维高斯。

  • 线性分类器:线性判别分析,分离超平面,多类分类,贝叶斯决策规则,贝叶斯决策规则几何,线性回归,逻辑回归,感知机算法,支持向量机,非线性变换。

  • 鲁棒性:对抗性攻击、定向攻击和非定向攻击、最小距离攻击、最大允许攻击、基于规则的攻击。通过纳微扰。支持向量机的鲁棒性。

  • 学习理论:偏差和方差,训练和测试,泛化,PAC框架,Hoeffding不等式,VC维。

参考书籍:

  • Pattern Classification, by Duda, Hart and Stork, Wiley-Interscience; 2 edition, 2000.
  • Learning from Data, by Abu-Mostafa, Magdon-Ismail and Lin, AMLBook, 2012.
  • Elements of Statistical Learning, by Hastie, Tibshirani and Friedman, Springer, 2 edition, 2009.
  • Pattern Recognition and Machine Learning, by Bishop, Springer, 2006.

讲者: Stanley Chan 教授 https://engineering.purdue.edu/ChanGroup/stanleychan.html

课程目标: 您将能够应用基本的线性代数、概率和优化工具来解决机器学习问题

•你将了解一般监督学习方法的原理,并能评论它们的优缺点。 •你会知道处理数据不确定性的方法。 •您将能够使用学习理论的概念运行基本的诊断。 •您将获得机器学习算法编程的实际经验。

成为VIP会员查看完整内容
0
141

课程题目

机器学习中的常识性问题

课程内容

机器学习是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能。它是人工智能的核心,是使计算机具有智能的根本途径。本课程主要介绍了当下机器学习的常识性问题,如机器学习概念,发展历史,超参数,常用的统计学习方法,以及数学理论等基础性知识。

成为VIP会员查看完整内容
0
43

主题: Introduction to Machine Learning

课程简介: 机器学习是指通过经验自动提高性能的计算机程序(例如,学习识别人脸、推荐音乐和电影以及驱动自主机器人的程序)。本课程从不同的角度介绍机器学习的理论和实用算法。主题包括贝叶斯网络、决策树学习、支持向量机、统计学习方法、无监督学习和强化学习。本课程涵盖理论概念,例如归纳偏差、PAC学习框架、贝叶斯学习方法、基于边际的学习和Occam的剃刀。编程作业包括各种学习算法的实际操作实验。这门课程的目的是让一个研究生在方法论,技术,数学和算法方面有一个彻底的基础,目前需要的人谁做的机器学习的研究。

邀请嘉宾: Hal Daumé III,纽约市微软研究院的研究员,是机器学习小组的一员;他也是马里兰大学的副教授。他主要从事自然语言处理和机器学习。

Matt Gormley,卡内基梅隆大学计算机科学学院机器学习部(ML)助教。

Roni Rosenfeld,卡内基梅隆大学计算机学院机器学习系教授兼主任,个人主页:https://www.cs.cmu.edu/~roni/。等

成为VIP会员查看完整内容
0
36
小贴士
相关VIP内容
专知会员服务
29+阅读 · 9月30日
专知会员服务
40+阅读 · 6月12日
专知会员服务
29+阅读 · 2020年11月27日
专知会员服务
49+阅读 · 2020年10月27日
专知会员服务
47+阅读 · 2020年9月27日
【机器学习课程】机器学习中的常识性问题
专知会员服务
43+阅读 · 2019年12月2日
【CMU】机器学习导论课程(Introduction to Machine Learning)
专知会员服务
36+阅读 · 2019年8月26日
相关论文
Ameen Ali,Idan Schwartz,Tamir Hazan,Lior Wolf
0+阅读 · 10月21日
Bayesian Attention Belief Networks
Shujian Zhang,Xinjie Fan,Bo Chen,Mingyuan Zhou
5+阅读 · 6月9日
Zhuchen Shao,Hao Bian,Yang Chen,Yifeng Wang,Jian Zhang,Xiangyang Ji,Yongbing Zhang
5+阅读 · 6月2日
Ankit Pal,Muru Selvakumar,Malaikannan Sankarasubbu
38+阅读 · 2020年3月22日
Mahtab Ahmed,Muhammad Rifayat Samee,Robert E. Mercer
3+阅读 · 2019年1月1日
Alexander Jung
15+阅读 · 2018年8月19日
Haque Ishfaq,Assaf Hoogi,Daniel Rubin
3+阅读 · 2018年4月3日
Lei Sang,Min Xu,Shengsheng Qian,Xindong Wu
6+阅读 · 2018年3月24日
Kiran K. Thekumparampil,Chong Wang,Sewoong Oh,Li-Jia Li
3+阅读 · 2018年3月10日
Top