会员服务
大模型 · 课程 ·
2024 年 4 月 22 日
UvA 《大模型》课程，涵盖预训练、对齐、参数高效微调、扩散模型
专知会员服务
专知会员服务
专知，提供专业可信的知识分发服务，让认知协作更快更好！

我们讨论了大型基础模型的参数高效微调方法。

成为VIP会员查看完整内容
https://uvafomo.github.io/
Lecture 1: Introduction and Transformer Basics Lecture 2: Pre-Training from Language to Vision Lecture 3: Training Models at Scale Lecture 4: Pre-Training Across Modalities Lecture 5: Adaptation and Alignment Lecture 6: Parameter-Efficient Fine Tuning
43

相关内容

大模型是基于海量多源数据打造的预训练模型，是对原有算法模型的技术升级和产品迭代，用户可通过开源或开放API/工具等形式进行模型零样本/小样本数据学习，以实现更优的识别、理解、决策、生成效果和更低成本的开发部署方案。
大模型如何代码建模？上交大等最新《语言模型与代码生成》综述，涵盖了50多个模型、30多个评估任务和500个相关工作
大模型如何代码建模？上交大等最新《语言模型与代码生成》综述，涵盖了50多个模型、30多个评估任务和500个相关工作
专知会员服务
55+阅读 · 2023年11月16日
不可错过！斯坦福最新《大型语言模型与应用》课程，讲述LLMs技术栈和应用以及评估
不可错过！斯坦福最新《大型语言模型与应用》课程，讲述LLMs技术栈和应用以及评估
专知会员服务
102+阅读 · 2023年10月8日
多模态预训练怎么做？鹏程实验室最新《大规模多模态预训练模型》全面综述，45页pdf全面阐述其数据、网络架构等技术
多模态预训练怎么做？鹏程实验室最新《大规模多模态预训练模型》全面综述，45页pdf全面阐述其数据、网络架构等技术
专知会员服务
103+阅读 · 2023年2月24日
不可错过！CMU《结构化数据机器学习》课程，附Slides
不可错过！CMU《结构化数据机器学习》课程，附Slides
专知会员服务
55+阅读 · 2022年11月2日
不可错过！首门《自监督学习统计模型》课程！霍普金斯Daniel Khashabi讲授
不可错过！首门《自监督学习统计模型》课程！霍普金斯Daniel Khashabi讲授
专知会员服务
23+阅读 · 2022年9月30日
不可错过！图宾根大学《深度学习》课程，12讲述神经网络、GNN、GAN、序列模型等主题，附Slides与151页pdf笔记
不可错过！图宾根大学《深度学习》课程，12讲述神经网络、GNN、GAN、序列模型等主题，附Slides与151页pdf笔记
专知会员服务
49+阅读 · 2021年5月8日
不可错过！CMU《机器学习导论》2021课程，ML祖师爷Tom Mitchell带队主讲
不可错过！CMU《机器学习导论》2021课程，ML祖师爷Tom Mitchell带队主讲
专知会员服务
64+阅读 · 2021年3月20日
【DeepMind深度学习课程】序列循环神经网络，141页ppt，Sequences and Recurrent Network
【DeepMind深度学习课程】序列循环神经网络，141页ppt，Sequences and Recurrent Network
专知会员服务
86+阅读 · 2020年6月23日
【干货书】Python概率图模型实现，284页pdf带你实战学习概率图模型
【干货书】Python概率图模型实现，284页pdf带你实战学习概率图模型
专知会员服务
235+阅读 · 2020年4月8日
【CMU-Spring2020课程】离散微分几何15讲，Discrete Differential Geometry
【CMU-Spring2020课程】离散微分几何15讲，Discrete Differential Geometry
专知会员服务
55+阅读 · 2020年3月26日
ChatGPT大模型如何做科学研究? CMU提出《大模型智能体系统》，高推理展现出大型语言模型的新兴自主科学研究能力
ChatGPT大模型如何做科学研究? CMU提出《大模型智能体系统》，高推理展现出大型语言模型的新兴自主科学研究能力
专知
16+阅读 · 2023年4月12日
不可错过！图宾根大学《深度学习》课程，12讲述神经网络、GNN、GAN、序列模型等主题，附Slides与151页pdf笔记
不可错过！图宾根大学《深度学习》课程，12讲述神经网络、GNN、GAN、序列模型等主题，附Slides与151页pdf笔记
专知
18+阅读 · 2021年5月8日
【实用书】Python文本分析第二版，688页pdf带你入门自然语言处理
【实用书】Python文本分析第二版，688页pdf带你入门自然语言处理
专知
25+阅读 · 2020年5月15日
【CMU-Spring2020课程】离散微分几何15讲，Discrete Differential Geometry
【CMU-Spring2020课程】离散微分几何15讲，Discrete Differential Geometry
专知
11+阅读 · 2020年3月26日
【Amazon】使用预训练Transformer模型进行数据增强
【Amazon】使用预训练Transformer模型进行数据增强
专知
12+阅读 · 2020年3月6日
FewRel 2.0数据集：以近知远，以一知万，少次学习新挑战
FewRel 2.0数据集：以近知远，以一知万，少次学习新挑战
PaperWeekly
24+阅读 · 2019年11月6日
下载 | 384页NLP多任务联合学习教程（PPT）
下载 | 384页NLP多任务联合学习教程（PPT）
机器学习算法与Python学习
20+阅读 · 2018年11月22日
(免费精品课程分享)-PyTorch深度学习实战
(免费精品课程分享)-PyTorch深度学习实战
深度学习与NLP
18+阅读 · 2018年10月28日
【干货】Python机器学习项目实战1（附代码）
【干货】Python机器学习项目实战1（附代码）
专知
14+阅读 · 2018年5月21日
入门 | 奇异值分解简介：从原理到基础机器学习应用
入门 | 奇异值分解简介：从原理到基础机器学习应用
机器之心
16+阅读 · 2018年3月1日
拓扑非线性分析专题讲习班
国家自然科学基金
14+阅读 · 2016年12月31日
支持新产品快速设计的复杂产品系统功能模块化方法
国家自然科学基金
1+阅读 · 2015年12月31日
具有动态不确定性的下三角多智能体系统分布式自适应协同控制
国家自然科学基金
2+阅读 · 2015年12月31日
高维高频数据下金融资产积分波动率矩阵的统计分析
国家自然科学基金
2+阅读 · 2015年12月31日
面向复杂情报的大数据分析方法与决策支持
国家自然科学基金
33+阅读 · 2014年12月31日
高维数据下的模型平均方法
国家自然科学基金
4+阅读 · 2014年12月31日
复杂多元数据的半参数统计推断
国家自然科学基金
5+阅读 · 2014年12月31日
观测反馈能稳的控制系统的最佳结构参数
国家自然科学基金
0+阅读 · 2014年12月31日
动态群稀疏约束场景知识建模的感兴趣监控目标超分辨率重建
国家自然科学基金
0+阅读 · 2014年12月31日
基于动态分层与自学习的多智能体自适应协作模型
国家自然科学基金
17+阅读 · 2008年12月31日
Algorithmically Designed Artificial Neural Networks (ADANNs): Higher order deep operator learning for parametric partial differential equations
Arxiv
0+阅读 · 2024年5月29日
Is ChatGPT a Good Recommender? A Preliminary Study
Arxiv
162+阅读 · 2023年4月20日
NeuralField-LDM: Scene Generation with Hierarchical Latent Diffusion Models
Arxiv
36+阅读 · 2023年4月19日
On Efficient Training of Large-Scale Deep Learning Models: A Literature Review
Arxiv
190+阅读 · 2023年4月7日
A Survey on Graph Diffusion Models: Generative AI in Science for Molecule, Protein and Material
Arxiv
73+阅读 · 2023年4月4日
A Survey of Large Language Models
A Survey of Large Language Models
Arxiv
424+阅读 · 2023年3月31日
Unleashing the Power of Edge-Cloud Generative AI in Mobile Networks: A Survey of AIGC Services
Arxiv
132+阅读 · 2023年3月29日
Nature Language Reasoning, A Survey
Arxiv
69+阅读 · 2023年3月26日
Knowledge Graphs: Opportunities and Challenges
Arxiv
153+阅读 · 2023年3月24日
Sparks of Artificial General Intelligence: Early experiments with GPT-4
Arxiv
45+阅读 · 2023年3月22日
VIP会员
相关主题
大模型
课程
相关VIP内容
大模型如何代码建模？上交大等最新《语言模型与代码生成》综述，涵盖了50多个模型、30多个评估任务和500个相关工作
大模型如何代码建模？上交大等最新《语言模型与代码生成》综述，涵盖了50多个模型、30多个评估任务和500个相关工作
专知会员服务
55+阅读 · 2023年11月16日
不可错过！斯坦福最新《大型语言模型与应用》课程，讲述LLMs技术栈和应用以及评估
不可错过！斯坦福最新《大型语言模型与应用》课程，讲述LLMs技术栈和应用以及评估
专知会员服务
102+阅读 · 2023年10月8日
多模态预训练怎么做？鹏程实验室最新《大规模多模态预训练模型》全面综述，45页pdf全面阐述其数据、网络架构等技术
多模态预训练怎么做？鹏程实验室最新《大规模多模态预训练模型》全面综述，45页pdf全面阐述其数据、网络架构等技术
专知会员服务
103+阅读 · 2023年2月24日
不可错过！CMU《结构化数据机器学习》课程，附Slides
不可错过！CMU《结构化数据机器学习》课程，附Slides
专知会员服务
55+阅读 · 2022年11月2日
不可错过！首门《自监督学习统计模型》课程！霍普金斯Daniel Khashabi讲授
不可错过！首门《自监督学习统计模型》课程！霍普金斯Daniel Khashabi讲授
专知会员服务
23+阅读 · 2022年9月30日
不可错过！图宾根大学《深度学习》课程，12讲述神经网络、GNN、GAN、序列模型等主题，附Slides与151页pdf笔记
不可错过！图宾根大学《深度学习》课程，12讲述神经网络、GNN、GAN、序列模型等主题，附Slides与151页pdf笔记
专知会员服务
49+阅读 · 2021年5月8日
不可错过！CMU《机器学习导论》2021课程，ML祖师爷Tom Mitchell带队主讲
不可错过！CMU《机器学习导论》2021课程，ML祖师爷Tom Mitchell带队主讲
专知会员服务
64+阅读 · 2021年3月20日
【DeepMind深度学习课程】序列循环神经网络，141页ppt，Sequences and Recurrent Network
【DeepMind深度学习课程】序列循环神经网络，141页ppt，Sequences and Recurrent Network
专知会员服务
86+阅读 · 2020年6月23日
【干货书】Python概率图模型实现，284页pdf带你实战学习概率图模型
【干货书】Python概率图模型实现，284页pdf带你实战学习概率图模型
专知会员服务
235+阅读 · 2020年4月8日
【CMU-Spring2020课程】离散微分几何15讲，Discrete Differential Geometry
【CMU-Spring2020课程】离散微分几何15讲，Discrete Differential Geometry
专知会员服务
55+阅读 · 2020年3月26日
热门VIP内容
相关资讯
ChatGPT大模型如何做科学研究? CMU提出《大模型智能体系统》，高推理展现出大型语言模型的新兴自主科学研究能力
ChatGPT大模型如何做科学研究? CMU提出《大模型智能体系统》，高推理展现出大型语言模型的新兴自主科学研究能力
专知
16+阅读 · 2023年4月12日
不可错过！图宾根大学《深度学习》课程，12讲述神经网络、GNN、GAN、序列模型等主题，附Slides与151页pdf笔记
不可错过！图宾根大学《深度学习》课程，12讲述神经网络、GNN、GAN、序列模型等主题，附Slides与151页pdf笔记
专知
18+阅读 · 2021年5月8日
【实用书】Python文本分析第二版，688页pdf带你入门自然语言处理
【实用书】Python文本分析第二版，688页pdf带你入门自然语言处理
专知
25+阅读 · 2020年5月15日
【CMU-Spring2020课程】离散微分几何15讲，Discrete Differential Geometry
【CMU-Spring2020课程】离散微分几何15讲，Discrete Differential Geometry
专知
11+阅读 · 2020年3月26日
【Amazon】使用预训练Transformer模型进行数据增强
【Amazon】使用预训练Transformer模型进行数据增强
专知
12+阅读 · 2020年3月6日
FewRel 2.0数据集：以近知远，以一知万，少次学习新挑战
FewRel 2.0数据集：以近知远，以一知万，少次学习新挑战
PaperWeekly
24+阅读 · 2019年11月6日
下载 | 384页NLP多任务联合学习教程（PPT）
下载 | 384页NLP多任务联合学习教程（PPT）
机器学习算法与Python学习
20+阅读 · 2018年11月22日
(免费精品课程分享)-PyTorch深度学习实战
(免费精品课程分享)-PyTorch深度学习实战
深度学习与NLP
18+阅读 · 2018年10月28日
【干货】Python机器学习项目实战1（附代码）
【干货】Python机器学习项目实战1（附代码）
专知
14+阅读 · 2018年5月21日
入门 | 奇异值分解简介：从原理到基础机器学习应用
入门 | 奇异值分解简介：从原理到基础机器学习应用
机器之心
16+阅读 · 2018年3月1日
相关基金
拓扑非线性分析专题讲习班
国家自然科学基金
14+阅读 · 2016年12月31日
支持新产品快速设计的复杂产品系统功能模块化方法
国家自然科学基金
1+阅读 · 2015年12月31日
具有动态不确定性的下三角多智能体系统分布式自适应协同控制
国家自然科学基金
2+阅读 · 2015年12月31日
高维高频数据下金融资产积分波动率矩阵的统计分析
国家自然科学基金
2+阅读 · 2015年12月31日
面向复杂情报的大数据分析方法与决策支持
国家自然科学基金
33+阅读 · 2014年12月31日
高维数据下的模型平均方法
国家自然科学基金
4+阅读 · 2014年12月31日
复杂多元数据的半参数统计推断
国家自然科学基金
5+阅读 · 2014年12月31日
观测反馈能稳的控制系统的最佳结构参数
国家自然科学基金
0+阅读 · 2014年12月31日
动态群稀疏约束场景知识建模的感兴趣监控目标超分辨率重建
国家自然科学基金
0+阅读 · 2014年12月31日
基于动态分层与自学习的多智能体自适应协作模型
国家自然科学基金
17+阅读 · 2008年12月31日
相关论文
Algorithmically Designed Artificial Neural Networks (ADANNs): Higher order deep operator learning for parametric partial differential equations
Arxiv
0+阅读 · 2024年5月29日
Is ChatGPT a Good Recommender? A Preliminary Study
Arxiv
162+阅读 · 2023年4月20日
NeuralField-LDM: Scene Generation with Hierarchical Latent Diffusion Models
Arxiv
36+阅读 · 2023年4月19日
On Efficient Training of Large-Scale Deep Learning Models: A Literature Review
Arxiv
190+阅读 · 2023年4月7日
A Survey on Graph Diffusion Models: Generative AI in Science for Molecule, Protein and Material
Arxiv
73+阅读 · 2023年4月4日
A Survey of Large Language Models
A Survey of Large Language Models
Arxiv
424+阅读 · 2023年3月31日
Unleashing the Power of Edge-Cloud Generative AI in Mobile Networks: A Survey of AIGC Services
Arxiv
132+阅读 · 2023年3月29日
Nature Language Reasoning, A Survey
Arxiv
69+阅读 · 2023年3月26日
Knowledge Graphs: Opportunities and Challenges
Arxiv
153+阅读 · 2023年3月24日
Sparks of Artificial General Intelligence: Early experiments with GPT-4
Arxiv
45+阅读 · 2023年3月22日
微信扫码咨询专知VIP会员
Top