本论文旨在通过让非机器学习专业人士也能使用高级建模能力,实现时间序列智能的民主化。我们通过三项互补性研究达成这一目标:构建基础模型、深化模型理解、并解决实际应用中的挑战。 首先,我们提出MOMENT——首个开源时间序列基础模型系列,能够在极少量监督下,对跨领域数据完成多种任务。这些模型可扩展至长序列多元上下文处理,并整合多模态数据,从而应用于传统方法难以应对的复杂现实场景。

其次,我们通过研究模型的组合推理能力、表征结构和编码概念,揭示其内部学习机制。这些发现既深化了对模型的理解,也直接提升了其性能。 接着,我们针对部署挑战开发了新方法,包括:从分布式无标注数据中学习、评估标签质量、以及在标注数据稀缺时选择鲁棒模型。最后,我们探索如何利用大型语言模型(LLM)智能体,结合本论文开发的开源工具,自动化时间序列智能工程流程

我们在临床场景中验证了这些方法的实用性——该领域既富含时间序列数据,模型应用又能产生重大影响。研究表明:专用基础模型与支持其落地应用的实用工具相结合,能显著推进时间序列智能发展,最终产出具有社会价值的解决方案。

成为VIP会员查看完整内容
3

相关内容

【UCSD博士论文】可控且高效的视觉生成
专知会员服务
15+阅读 · 5月12日
【ETHZ博士论文】金融网络与图学习的其他探索
专知会员服务
18+阅读 · 1月22日
【伯克利博士论文】在大规模语言模型时代构建自主系统
专知会员服务
39+阅读 · 2024年12月28日
【UIUC博士论文】《从视频中进行机器人学习》
专知会员服务
25+阅读 · 2024年12月20日
【ETHZ博士论文】机器学习代码: 安全性与可靠性
专知会员服务
19+阅读 · 2024年10月25日
【CMU博士论文】经典方法对现代机器学习的改进
专知会员服务
27+阅读 · 2024年8月16日
【ETHZ博士论文】增强现实中3D场景的重建、理解与编辑
专知会员服务
34+阅读 · 2024年2月17日
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
28+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
16+阅读 · 2012年12月31日
Arxiv
169+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
463+阅读 · 2023年3月31日
Arxiv
76+阅读 · 2023年3月26日
Arxiv
169+阅读 · 2023年3月24日
Arxiv
24+阅读 · 2023年3月17日
VIP会员
相关VIP内容
【UCSD博士论文】可控且高效的视觉生成
专知会员服务
15+阅读 · 5月12日
【ETHZ博士论文】金融网络与图学习的其他探索
专知会员服务
18+阅读 · 1月22日
【伯克利博士论文】在大规模语言模型时代构建自主系统
专知会员服务
39+阅读 · 2024年12月28日
【UIUC博士论文】《从视频中进行机器人学习》
专知会员服务
25+阅读 · 2024年12月20日
【ETHZ博士论文】机器学习代码: 安全性与可靠性
专知会员服务
19+阅读 · 2024年10月25日
【CMU博士论文】经典方法对现代机器学习的改进
专知会员服务
27+阅读 · 2024年8月16日
【ETHZ博士论文】增强现实中3D场景的重建、理解与编辑
专知会员服务
34+阅读 · 2024年2月17日
相关资讯
相关基金
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
28+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
16+阅读 · 2012年12月31日
微信扫码咨询专知VIP会员