【凸优化】凸集、凸函数与凸优化基本概念

2018 年 1 月 17 日 机器学习研究会
数学模型与基本概念


目标函数或约束函数至少有一个不是决策变量的线性函数。即

2
梯度与海塞矩阵

梯度和海塞矩阵是在非线性规划中用得较多的概念,其定义如下:

梯度


对于一元函数,其梯度就是其一阶导数。

海塞矩阵


海塞矩阵的定义与梯度类似,但是求的是二阶偏导,并且结果是一个矩阵,如下所示


转自:机器学习算法与自然语言处理


完整内容请点击“阅读原文”

登录查看更多
2

相关内容

【ICLR2020】图神经网络与图像处理,微分方程,27页ppt
专知会员服务
47+阅读 · 2020年6月6日
元学习与图神经网络逻辑推导,55页ppt
专知会员服务
127+阅读 · 2020年4月25日
机器学习速查手册,135页pdf
专知会员服务
335+阅读 · 2020年3月15日
面试时让你手推公式不在害怕 | 梯度下降
计算机视觉life
14+阅读 · 2019年3月27日
机器学习中的最优化算法总结
人工智能前沿讲习班
22+阅读 · 2019年3月22日
博客 | 机器学习中的数学基础(凸优化)
AI研习社
14+阅读 · 2018年12月16日
入门 | 这是一份文科生都能看懂的线性代数简介
机器之心
13+阅读 · 2018年3月31日
【干货】​深度学习中的线性代数
专知
21+阅读 · 2018年3月30日
干货|掌握机器学习数学基础之优化[1](重点知识)
机器学习研究会
9+阅读 · 2017年11月19日
【直观详解】支持向量机SVM
机器学习研究会
18+阅读 · 2017年11月8日
【基础数学】- 01
遇见数学
19+阅读 · 2017年7月25日
Generalization and Regularization in DQN
Arxiv
6+阅读 · 2019年1月30日
Learning to Importance Sample in Primary Sample Space
Meta-Learning with Latent Embedding Optimization
Arxiv
6+阅读 · 2018年7月16日
Arxiv
11+阅读 · 2018年4月25日
Arxiv
5+阅读 · 2018年4月22日
VIP会员
相关资讯
面试时让你手推公式不在害怕 | 梯度下降
计算机视觉life
14+阅读 · 2019年3月27日
机器学习中的最优化算法总结
人工智能前沿讲习班
22+阅读 · 2019年3月22日
博客 | 机器学习中的数学基础(凸优化)
AI研习社
14+阅读 · 2018年12月16日
入门 | 这是一份文科生都能看懂的线性代数简介
机器之心
13+阅读 · 2018年3月31日
【干货】​深度学习中的线性代数
专知
21+阅读 · 2018年3月30日
干货|掌握机器学习数学基础之优化[1](重点知识)
机器学习研究会
9+阅读 · 2017年11月19日
【直观详解】支持向量机SVM
机器学习研究会
18+阅读 · 2017年11月8日
【基础数学】- 01
遇见数学
19+阅读 · 2017年7月25日
相关论文
Top
微信扫码咨询专知VIP会员