项目名称: 大规模稀疏线性系统的神经网络算法研究

项目编号: No.11301330

项目类型: 青年科学基金项目

立项/批准年度: 2014

项目学科: 数理科学和化学

项目作者: 王珂

作者单位: 上海大学

项目金额: 22万元

中文摘要: 科学工程计算中的大部分问题最终都要转化为线性问题进行数值求解,对线性系统数值方法的研究主要集中在寻求高效的数值迭代方法上,在计算机软硬件高度发达、信息存储几乎不成问题的今天,传统的数值方法很难取得质的改进,而信息处理和计算机科学家正致力于根据人工神经网络理论构造更加逼近人脑功能的新一代计算机,所以为线性系统的数值求解问题设计研究相应的神经网络算法就显得尤为必要。本项目拟对大型稀疏线性系统的神经网络算法进行研究,主要包括两方面的内容:首先,根据线性方程组自身的特点,设计构造高效的神经网络算法,这包括对现有文献中方法的改进和根据神经网络算法的最新成果(比如前馈神经网络学习算法)设计全新的算法并分析其稳定性;其次,对设计的神经网络算法的初始权值选取和最佳学习率确定进行研究,这也是拟解决的关键问题,与传统数值方法的最优参数确定一样,是很有挑战的。通过对已有成果改进、创新,以形成相对系统的算法理论。

中文关键词: 线性方程组;子空间方法;预条件技术;神经网络算法;并行计算

英文摘要: Most problems in the scientific and engineering computing have to be transformed into linear problems to be solved numerically. The study for numerical solutions to linear systems is mainly focused on seeking efficient numerical iterative methods. Nowadays, with the hardware and software of computer highly developed and the information storing almost not a problem, it is hard to get great improvement for traditional numerical methods. Meanwhile, information processing and computer scientists are working on constructing new generation of computer which is closer to the function of the human brain based on artificial neural network theory. Therefore, it is particularly necessary to study the neural network algorithm for solving linear systems numerically. The project intends to study the neural network algorithm for large sparse linear systems, including two aspects: First, according to the characteristics of linear equations, design effective and efficient neural network algorithms, which includes improvements for the existing methods in literatures and designing new algorithms according to the latest achievements of the neural network algorithms (such as feedforward neural network learning algorithm) and analyze their stability; Secondly, study for the selection of the initial weights and determination of the b

英文关键词: Linear equations;Subspace method;Preconditioning;Neural network algorithm;Parallel computing

成为VIP会员查看完整内容
1

相关内容

类脑超大规模深度神经网络系统
专知会员服务
52+阅读 · 2022年1月21日
「大规模图神经网络系统」最新2022综述:从算法到系统
专知会员服务
113+阅读 · 2022年1月14日
WSDM 2022 | 基于图神经网络的协同过滤设计空间研究
专知会员服务
36+阅读 · 2022年1月3日
专知会员服务
24+阅读 · 2021年7月22日
专知会员服务
22+阅读 · 2021年7月15日
专知会员服务
40+阅读 · 2021年6月2日
专知会员服务
138+阅读 · 2021年3月30日
基于机器学习的数据库技术综述
专知会员服务
53+阅读 · 2021年1月2日
专知会员服务
42+阅读 · 2020年7月29日
类脑超大规模深度神经网络系统
专知
2+阅读 · 2022年1月21日
硬件加速神经网络综述
计算机研究与发展
25+阅读 · 2019年2月1日
一文读懂神经网络(附PPT、视频)
数据派THU
17+阅读 · 2018年3月25日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
2+阅读 · 2013年12月31日
国家自然科学基金
2+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
3+阅读 · 2011年12月31日
国家自然科学基金
2+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
Arxiv
0+阅读 · 2022年4月20日
Arxiv
0+阅读 · 2022年4月19日
Arxiv
0+阅读 · 2022年4月17日
Arxiv
0+阅读 · 2022年4月15日
Arxiv
15+阅读 · 2021年2月19日
小贴士
相关VIP内容
类脑超大规模深度神经网络系统
专知会员服务
52+阅读 · 2022年1月21日
「大规模图神经网络系统」最新2022综述:从算法到系统
专知会员服务
113+阅读 · 2022年1月14日
WSDM 2022 | 基于图神经网络的协同过滤设计空间研究
专知会员服务
36+阅读 · 2022年1月3日
专知会员服务
24+阅读 · 2021年7月22日
专知会员服务
22+阅读 · 2021年7月15日
专知会员服务
40+阅读 · 2021年6月2日
专知会员服务
138+阅读 · 2021年3月30日
基于机器学习的数据库技术综述
专知会员服务
53+阅读 · 2021年1月2日
专知会员服务
42+阅读 · 2020年7月29日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
2+阅读 · 2013年12月31日
国家自然科学基金
2+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
3+阅读 · 2011年12月31日
国家自然科学基金
2+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
微信扫码咨询专知VIP会员