大型语言模型(LLMs)在各种自然语言处理(NLP)任务中展现了显著的能力,并吸引了包括金融服务在内的多个领域的关注。尽管对通用领域LLMs的研究广泛,且它们在金融领域具有巨大的潜力,但金融LLM(FinLLM)的研究仍然有限。本综述提供了FinLLMs的全面概览,包括它们的历史、技术、性能以及机遇和挑战。首先,我们通过对通用领域预训练语言模型(PLMs)的时间顺序概览,到当前的FinLLMs,包括GPT系列、选定的开源LLMs和金融LMs。其次,我们比较了财务PLMs和FinLLMs中使用的五种技术,包括训练方法、训练数据和微调方法。第三,我们总结了六个基准任务和数据集的性能评估。此外,我们提供了八个高级金融NLP任务和数据集,以开发更复杂的FinLLMs。最后,我们讨论了FinLLMs面临的机会和挑战,如幻觉、隐私和效率。为了支持金融领域的AI研究,我们在GitHub上编译了一系列可访问的数据集和评估基准。

成为VIP会员查看完整内容
68

相关内容

大型语言模型在预测和异常检测中的应用综述
专知会员服务
63+阅读 · 2月19日
《大型语言模型自然语言生成评估》综述
专知会员服务
66+阅读 · 1月20日
KnowledGPT:基于知识库的检索和存储访问增强大型语言模型
【经典书】时间序列分析与应用R语言,第二版,501页pdf
专知会员服务
112+阅读 · 2021年9月22日
【干货书】Python高级数据科学分析,424页pdf
专知会员服务
114+阅读 · 2020年8月7日
深度学习自然语言处理综述,266篇参考文献
专知会员服务
229+阅读 · 2019年10月12日
【干货书】计算机科学离散数学,627页pdf
专知
60+阅读 · 2020年8月31日
论文浅尝 | 面向单关系事实问题的中文问答模型
开放知识图谱
28+阅读 · 2019年2月11日
RNN | RNN实践指南(2)
KingsGarden
19+阅读 · 2017年5月4日
国家自然科学基金
11+阅读 · 2017年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
37+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
A Survey of Large Language Models
Arxiv
397+阅读 · 2023年3月31日
Arxiv
66+阅读 · 2023年3月26日
Optimization for deep learning: theory and algorithms
Arxiv
104+阅读 · 2019年12月19日
VIP会员
相关VIP内容
相关基金
国家自然科学基金
11+阅读 · 2017年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
37+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员