【OpenAI-John Schulman】从人类反馈中强化学习:进展与挑战 - 专知VIP

会员服务 ·

35

OpenAI · ChatGPT · 强化学习 · 人类反馈强化学习 (RLHF) ·

2023 年 4 月 22 日

【OpenAI-John Schulman】从人类反馈中强化学习:进展与挑战

专知会员服务

专知，提供专业可信的知识分发服务，让认知协作更快更好！

OpenAI 推出的 ChatGPT 对话模型掀起了新的 AI 热潮，它面对多种多样的问题对答如流，似乎已经打破了机器和人的边界。这一工作的背后是大型语言模型 (Large Language Model，LLM) 生成领域的新训练范式：来自OpenAI John Schulman讲述《从人类反馈中强化学习:进展与挑战》技术细节，值得关注！

在本次演讲中，谈论语言模型的幻觉问题，激活检索，语言模型开放问题和真实性。

成为VIP会员查看完整内容

62

相关内容

OpenAI

OpenAI，由诸多硅谷大亨联合建立的人工智能非营利组织。2015年马斯克与其他硅谷科技大亨进行连续对话后，决定共同创建OpenAI，希望能够预防人工智能的灾难性影响，推动人工智能发挥积极作用。特斯拉电动汽车公司与美国太空技术探索公司SpaceX创始人马斯克、Y Combinator总裁阿尔特曼、天使投资人彼得·泰尔（Peter Thiel）以及其他硅谷巨头去年12月份承诺向OpenAI注资10亿美元。

西交大最新《ChatGPT:人工智能生成的内容、挑战与解决方案》综述

西交大最新《ChatGPT:人工智能生成的内容、挑战与解决方案》综述

专知会员服务

141+阅读 · 2023年6月3日

ChatGPT中的RLHF技术如何用？CMU最新《自然语言生成中的人工反馈集成》综述，详述人类反馈的格式、目标、用途和建模

ChatGPT中的RLHF技术如何用？CMU最新《自然语言生成中的人工反馈集成》综述，详述人类反馈的格式、目标、用途和建模

专知会员服务

73+阅读 · 2023年5月4日

ChatGPT核心技术“RLHF”如何学习？最新《基于人类反馈的强化学习:从零到chatGPT》综述，附视频与51页slides

ChatGPT核心技术“RLHF”如何学习？最新《基于人类反馈的强化学习:从零到chatGPT》综述，附视频与51页slides

专知会员服务

186+阅读 · 2023年3月2日

ChatGPT如何work的？最新《大型语言模型》综述，51页slides

ChatGPT如何work的？最新《大型语言模型》综述，51页slides

专知会员服务

161+阅读 · 2023年2月28日

ChatGPT 背后的“功臣”——RLHF 技术详解

ChatGPT 背后的“功臣”——RLHF 技术详解

专知会员服务

167+阅读 · 2023年2月21日

斯坦福大学最新【强化学习】2022课程，含ppt

斯坦福大学最新【强化学习】2022课程，含ppt

专知会员服务

124+阅读 · 2022年2月27日

面向任务型的对话系统研究进展

面向任务型的对话系统研究进展

专知会员服务

57+阅读 · 2021年11月17日

【DeepMind】多模态预训练模型概述，37页ppt

【DeepMind】多模态预训练模型概述，37页ppt

专知会员服务

93+阅读 · 2021年7月2日

元强化学习综述及前沿进展

元强化学习综述及前沿进展

专知会员服务

61+阅读 · 2021年1月31日

【DeepMind】强化学习教程，83页ppt

【DeepMind】强化学习教程，83页ppt

专知会员服务

152+阅读 · 2020年8月7日

不可错过！华盛顿大学最新《可解释人工智能》课程，系统讲述XAI最新进展

不可错过！华盛顿大学最新《可解释人工智能》课程，系统讲述XAI最新进展

专知

5+阅读 · 2022年9月14日

一个AI玩41个游戏，谷歌最新多游戏决策Transformer综合表现分是DQN的两倍

一个AI玩41个游戏，谷歌最新多游戏决策Transformer综合表现分是DQN的两倍

量子位

1+阅读 · 2022年7月23日

【万字长文总结】如何解决"稀疏奖励(Sparse Reward)"下的强化学习问题？

【万字长文总结】如何解决"稀疏奖励(Sparse Reward)"下的强化学习问题？

深度强化学习实验室

43+阅读 · 2020年7月6日

【干货】Ian GoodFellow ICLR 2019演讲：对抗机器学习的进展与挑战

【干货】Ian GoodFellow ICLR 2019演讲：对抗机器学习的进展与挑战

GAN生成式对抗网络

18+阅读 · 2019年5月15日

OpenAI丨深度强化学习关键论文列表

OpenAI丨深度强化学习关键论文列表

中国人工智能学会

17+阅读 · 2018年11月10日

【OpenAI】深度强化学习关键论文列表

【OpenAI】深度强化学习关键论文列表

专知

11+阅读 · 2018年11月10日

资源 | 《深度强化学习》手稿开放了！

资源 | 《深度强化学习》手稿开放了！

THU数据派

16+阅读 · 2018年10月24日

【干货】强化学习介绍

【干货】强化学习介绍

人工智能学家

13+阅读 · 2018年6月24日

【深度强化学习】深度强化学习揭秘

【深度强化学习】深度强化学习揭秘

产业智能官

20+阅读 · 2017年11月13日

【强化学习】如何开启强化学习的大门？

【强化学习】如何开启强化学习的大门？

产业智能官

13+阅读 · 2017年9月10日

基于重要性采样的并行离策略强化学习方法研究

国家自然科学基金

20+阅读 · 2015年12月31日

重离子储存环CSRe上激光冷却相对论能量类锂12C3+离子束的实验研究

国家自然科学基金

0+阅读 · 2015年12月31日

胃癌患者苔色变化的微生态-炎症免疫-代谢机制研究

国家自然科学基金

0+阅读 · 2014年12月31日

量子模拟多体阻挫模型

国家自然科学基金

0+阅读 · 2013年12月31日

基于弱指导机器学习技术的中文领域本体非分类关系自动学习研究

国家自然科学基金

0+阅读 · 2013年12月31日

基于技能习得理论的反馈有效性调节机制研究

国家自然科学基金

0+阅读 · 2013年12月31日

Schrodinger-Poisson方程的若干问题研究

国家自然科学基金

1+阅读 · 2012年12月31日

可压缩Navier-Stokes方程全局光滑解的适定性问题

国家自然科学基金

0+阅读 · 2012年12月31日

基于贝叶斯推理的模糊逻辑强化学习模型研究

国家自然科学基金

17+阅读 · 2012年12月31日

基于多智能体强化学习的多机器人系统研究

国家自然科学基金

45+阅读 · 2009年12月31日

Toward Efficient Gradient-Based Value Estimation

Arxiv

0+阅读 · 2023年6月6日

AutoRL Hyperparameter Landscapes

Arxiv

0+阅读 · 2023年6月5日

Kinodynamic FMT* with Dimensionality Reduction Heuristics and Neural Network Controllers

Arxiv

0+阅读 · 2023年6月5日

NICE-SLAM with Adaptive Feature Grids

Arxiv

0+阅读 · 2023年6月4日

Multiscale Positive-Unlabeled Detection of AI-Generated Texts

Arxiv

0+阅读 · 2023年6月2日

How Ready are Pre-trained Abstractive Models and LLMs for Legal Case Judgement Summarization?

Arxiv

0+阅读 · 2023年6月2日

A Survey of Large Language Models

A Survey of Large Language Models

Arxiv

397+阅读 · 2023年3月31日

Sparks of Artificial General Intelligence: Early experiments with GPT-4

Arxiv

44+阅读 · 2023年3月22日

ReNAS:Relativistic Evaluation of Neural Architecture Search

Arxiv

11+阅读 · 2021年3月10日

Low-Shot Learning from Imaginary Data

Arxiv

15+阅读 · 2018年4月3日

VIP会员

相关主题

人类反馈强化学习 (RLHF)

相关VIP内容

西交大最新《ChatGPT:人工智能生成的内容、挑战与解决方案》综述

西交大最新《ChatGPT:人工智能生成的内容、挑战与解决方案》综述

专知会员服务

141+阅读 · 2023年6月3日

ChatGPT中的RLHF技术如何用？CMU最新《自然语言生成中的人工反馈集成》综述，详述人类反馈的格式、目标、用途和建模

ChatGPT中的RLHF技术如何用？CMU最新《自然语言生成中的人工反馈集成》综述，详述人类反馈的格式、目标、用途和建模

专知会员服务

73+阅读 · 2023年5月4日

ChatGPT核心技术“RLHF”如何学习？最新《基于人类反馈的强化学习:从零到chatGPT》综述，附视频与51页slides

ChatGPT核心技术“RLHF”如何学习？最新《基于人类反馈的强化学习:从零到chatGPT》综述，附视频与51页slides

专知会员服务

186+阅读 · 2023年3月2日

ChatGPT如何work的？最新《大型语言模型》综述，51页slides

ChatGPT如何work的？最新《大型语言模型》综述，51页slides

专知会员服务

161+阅读 · 2023年2月28日

ChatGPT 背后的“功臣”——RLHF 技术详解

ChatGPT 背后的“功臣”——RLHF 技术详解

专知会员服务

167+阅读 · 2023年2月21日

斯坦福大学最新【强化学习】2022课程，含ppt

斯坦福大学最新【强化学习】2022课程，含ppt

专知会员服务

124+阅读 · 2022年2月27日

面向任务型的对话系统研究进展

面向任务型的对话系统研究进展

专知会员服务

57+阅读 · 2021年11月17日

【DeepMind】多模态预训练模型概述，37页ppt

【DeepMind】多模态预训练模型概述，37页ppt

专知会员服务

93+阅读 · 2021年7月2日

元强化学习综述及前沿进展

元强化学习综述及前沿进展

专知会员服务

61+阅读 · 2021年1月31日

【DeepMind】强化学习教程，83页ppt

【DeepMind】强化学习教程，83页ppt

专知会员服务

152+阅读 · 2020年8月7日

热门VIP内容

相关资讯

不可错过！华盛顿大学最新《可解释人工智能》课程，系统讲述XAI最新进展

不可错过！华盛顿大学最新《可解释人工智能》课程，系统讲述XAI最新进展

专知

5+阅读 · 2022年9月14日

一个AI玩41个游戏，谷歌最新多游戏决策Transformer综合表现分是DQN的两倍

一个AI玩41个游戏，谷歌最新多游戏决策Transformer综合表现分是DQN的两倍

量子位

1+阅读 · 2022年7月23日

【万字长文总结】如何解决"稀疏奖励(Sparse Reward)"下的强化学习问题？

【万字长文总结】如何解决"稀疏奖励(Sparse Reward)"下的强化学习问题？

深度强化学习实验室

43+阅读 · 2020年7月6日

【干货】Ian GoodFellow ICLR 2019演讲：对抗机器学习的进展与挑战

【干货】Ian GoodFellow ICLR 2019演讲：对抗机器学习的进展与挑战

GAN生成式对抗网络

18+阅读 · 2019年5月15日

OpenAI丨深度强化学习关键论文列表

OpenAI丨深度强化学习关键论文列表

中国人工智能学会

17+阅读 · 2018年11月10日

【OpenAI】深度强化学习关键论文列表

【OpenAI】深度强化学习关键论文列表

专知

11+阅读 · 2018年11月10日

资源 | 《深度强化学习》手稿开放了！

资源 | 《深度强化学习》手稿开放了！

THU数据派

16+阅读 · 2018年10月24日

【干货】强化学习介绍

【干货】强化学习介绍

人工智能学家

13+阅读 · 2018年6月24日

【深度强化学习】深度强化学习揭秘

【深度强化学习】深度强化学习揭秘

产业智能官

20+阅读 · 2017年11月13日

【强化学习】如何开启强化学习的大门？

【强化学习】如何开启强化学习的大门？

产业智能官

13+阅读 · 2017年9月10日

相关基金

基于重要性采样的并行离策略强化学习方法研究

国家自然科学基金

20+阅读 · 2015年12月31日

重离子储存环CSRe上激光冷却相对论能量类锂12C3+离子束的实验研究

国家自然科学基金

0+阅读 · 2015年12月31日

胃癌患者苔色变化的微生态-炎症免疫-代谢机制研究

国家自然科学基金

0+阅读 · 2014年12月31日

量子模拟多体阻挫模型

国家自然科学基金

0+阅读 · 2013年12月31日

基于弱指导机器学习技术的中文领域本体非分类关系自动学习研究

国家自然科学基金

0+阅读 · 2013年12月31日

基于技能习得理论的反馈有效性调节机制研究

国家自然科学基金

0+阅读 · 2013年12月31日

Schrodinger-Poisson方程的若干问题研究

国家自然科学基金

1+阅读 · 2012年12月31日

可压缩Navier-Stokes方程全局光滑解的适定性问题

国家自然科学基金

0+阅读 · 2012年12月31日

基于贝叶斯推理的模糊逻辑强化学习模型研究

国家自然科学基金

17+阅读 · 2012年12月31日

基于多智能体强化学习的多机器人系统研究

国家自然科学基金

45+阅读 · 2009年12月31日

相关论文

Toward Efficient Gradient-Based Value Estimation

Arxiv

0+阅读 · 2023年6月6日

AutoRL Hyperparameter Landscapes

Arxiv

0+阅读 · 2023年6月5日

Kinodynamic FMT* with Dimensionality Reduction Heuristics and Neural Network Controllers

Arxiv

0+阅读 · 2023年6月5日

NICE-SLAM with Adaptive Feature Grids

Arxiv

0+阅读 · 2023年6月4日

Multiscale Positive-Unlabeled Detection of AI-Generated Texts

Arxiv

0+阅读 · 2023年6月2日

How Ready are Pre-trained Abstractive Models and LLMs for Legal Case Judgement Summarization?

Arxiv

0+阅读 · 2023年6月2日

A Survey of Large Language Models

A Survey of Large Language Models

Arxiv

397+阅读 · 2023年3月31日

Sparks of Artificial General Intelligence: Early experiments with GPT-4

Arxiv

44+阅读 · 2023年3月22日

ReNAS:Relativistic Evaluation of Neural Architecture Search

Arxiv

11+阅读 · 2021年3月10日

Low-Shot Learning from Imaginary Data

Arxiv

15+阅读 · 2018年4月3日

微信扫码咨询专知VIP会员