解释股票预测通常是传统非生成式深度学习模型的一项艰难任务,在这些模型中,解释仅限于在重要文本上可视化注意力权重。如今,大型语言模型(LLMs)提供了解决这一问题的方法,鉴于它们已知的能力在于为其决策过程生成人类可读的解释。然而,股票预测的任务对LLMs来说仍然充满挑战,因为它需要能力去权衡混乱社会文本对股价的各种影响。随着解释组件的引入,这个问题变得更加困难,这要求LLMs口头解释为什么某些因素比其他因素更重要。另一方面,为了对LLMs进行微调以适应这样的任务,需要在训练集中对每次股票运动的解释有专家注释的样本,这既昂贵又难以扩展。

为了解决这些问题,我们提出了我们的摘要-解释-预测(SEP)框架,它利用了一个口头自我反思代理和近端策略优化(PPO),允许LLM自学如何生成可解释的股票预测,以一种完全自主的方式。反思代理通过自我推理过程学习如何解释过去的股票运动,而PPO训练器训练模型在测试时根据输入文本生成最可能的解释。PPO训练器的训练样本也是在反思过程中生成的响应,这消除了对人类注释者的需求。使用我们的SEP框架,我们对一种专门的LLM进行了微调,它在预测准确性和马修斯相关系数上都超过了传统的深度学习和LLM方法,用于股票分类任务。为了证明我们框架的泛化能力,我们进一步在投资组合构建任务上测试它,并通过各种投资组合指标展示其有效性。

成为VIP会员查看完整内容
15

相关内容

【NeurIPS2023】大型语言模型是零样本的时间序列预测者
专知会员服务
43+阅读 · 2023年10月13日
【NeurIPS2022】通过模型转换的可解释强化学习
专知会员服务
34+阅读 · 2022年10月4日
【CVPR2022】语言引导与基于视觉的深度度量学习的集成
专知会员服务
15+阅读 · 2022年3月17日
【AAAI2022】通过多任务学习改进证据深度学习
专知会员服务
18+阅读 · 2021年12月21日
专知会员服务
27+阅读 · 2021年8月20日
专知会员服务
15+阅读 · 2021年8月13日
【SIGIR2021】基于嵌入的增量式时序知识图谱补全框架
专知会员服务
57+阅读 · 2021年4月21日
专知会员服务
34+阅读 · 2020年11月29日
【KDD2020】图神经网络生成式预训练
专知
20+阅读 · 2020年7月3日
回归预测&时间序列预测
GBASE数据工程部数据团队
42+阅读 · 2017年5月17日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
114+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
279+阅读 · 2023年3月31日
Arxiv
17+阅读 · 2021年3月16日
VIP会员
相关VIP内容
【NeurIPS2023】大型语言模型是零样本的时间序列预测者
专知会员服务
43+阅读 · 2023年10月13日
【NeurIPS2022】通过模型转换的可解释强化学习
专知会员服务
34+阅读 · 2022年10月4日
【CVPR2022】语言引导与基于视觉的深度度量学习的集成
专知会员服务
15+阅读 · 2022年3月17日
【AAAI2022】通过多任务学习改进证据深度学习
专知会员服务
18+阅读 · 2021年12月21日
专知会员服务
27+阅读 · 2021年8月20日
专知会员服务
15+阅读 · 2021年8月13日
【SIGIR2021】基于嵌入的增量式时序知识图谱补全框架
专知会员服务
57+阅读 · 2021年4月21日
专知会员服务
34+阅读 · 2020年11月29日
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员