本文件给出了面向机器学习的系统的框架,规定了系统的技术要求。

本文件适用于各领域的机器学习系统及相关解决方案的规划、设计及开发,可作为评估、选型及验收的依据。 随着各行业应用对人工智能系统功能完备性、机器学习算法、运算能力、平台稳定性等方面的要求不断提升,技术领先国家、主要厂商都在致力面向机器学习的人工智能系统的设计、发展和创新。 在国外,包括Google、微软、亚马逊等人工智能服务厂商,都在积极研制、商用以机器学习为核心的人工智能产品。机器学习、深度学习、各类模型的训练和部署、各类人工智能系统组件等成为各厂商投入的重点。多种多样的上层业务(自动驾驶、工业制造、媒体资讯、金融等),都基于机器学习迅速发展,取得了显著的成果。国内的人工智能相关产品也在不断引入新的特性和能力。国内外产业在面向机器学习的人工智能系统上有共性的需求,而上层应用的发展也亟待机器学习能力的支撑和发展。

机器学习技术是开源主导,如Tensorflow ,Apache MXNet, Caffe等对机器学习的发展和普及起到了重要作用。但开源技术距离商用尚有一定距离。 在各类开源软件不断发展的同时,如何规范机器学习的基本能力,引导厂商根据应用需求设计、实现系统架构,提供基本技术能力,成为产业对标准迫切的需求。 综上所述,有必要制定基于机器学习的人工智能系统框架和基本功能要求,这对推动系统架构的发展,统一用户和厂商对系统基本功能的认识,帮助用户验证和选型有重要意义。同时能够促进产学研结合,推动机器学习在行业的普及和应用。

在《人工智能标准化白皮书(2021)版》中,对人工智能系统框架、智能运算平台架构有深入的解读:机器学习计算框架与算法管理、分布式计算平台、异构资源池化与调度、智能芯片等,是产业迫切的标准需求。 国际上,人工智能标准刚刚起步。ISO/IEC JTC1/SC42 人工智能分委会2017年底正式成立。由美国代表团在SC42牵头立项“基于机器学习的人工智能框架”。从目前草案来看,机器学习平台能力,包含机器学习框架、算法、流程、生命周期管理、基础设施等是系统的最重要部分。

国内人工智能标准也在逐步制定中。例如征求意见阶段的国家标准《信息技术 人工智能 平台计算资源技术要求》是人工智能系统平台资源层架构和能力的细化。

在国际、国内标准都处于起步阶段的时期,编制本标准并推动在试点行业的验证实施,有利于增强标准对产业的指引,促进相关技术和成果的应用和推广。同时本标准领先于国际标准制定,有助于推动国内技术和标准成果贡献、影响国际标准。本标准也是后续面向机器学习的人工智能系统相关标准的依据。

机器学习系统主要包含机器学习服务(机器学习领域组件)、机器学习框架、机器学习运行时组件、工具、运维管理组件。提供机器学习应用的开发、训练、部署、运行和管理能力,机器学习系统的参考框架见图1。 1.1 机器学习运行时组件

机器学习运行时组件是为保障机器学习应用按照预期在特定机器学习系统上运行所必要的软件环境,包括设备驱动软件和算子库。

设备驱动软件负责机器学习各种类型任务的调度与执行,包括为机器学习任务分配提供资源管理通道,为应用提供存储管理、设备管理、执行流管理、事件管理、核函数执行功能。算子库提供机器学习算法在设备执行调度的最小计算单元,包括面向机器学习计算任务的通用算子和面向特定设备计算加速任务的优化算子。

1.2 机器学习框架 机器学习框架包含模型训练、模型推理及机器学习算法库三个模块,为机器学习应用开发、优化、验证和部署过程中提供工具支撑。 模型训练模块用于机器学习应用设计开发阶段,该模块提供自动微分、损失函数、优化器等调用接口,支持模型定义、自动分布式并行训练、多硬件后端适配等能力。 模型推理模块用于机器学习应的验证部署阶段,该模块提供模型加载、微调、性能评估、转换等接口,提供模型部署及推理加速等能力。 算法库面向机器学习训练、推理及模型性能优化任务,提供预先优化好的算法,以封装函数库的方式供用户调用,提升机器学习模型开发、优化、验证、部署的效率。 注:面向不同的机器学习任务,框架的模块可进行针对性取舍。

1.3 机器学习服务组件 机器学习服务是人工智能行业应用访问、利用机器学习能力和资源的主要方式,支持工作流管理、通用算法模板和应用部署。机器学习系统通过服务组件,进行服务部署、运行环境准备、运行状态汇报、服务容错等,并提供服务调用接口,供各领域上层应用调用。为满足应用场景的需求,机器学习系统可提供视频、图像、音频、文本及其他类型智能化操作的算法服务。

成为VIP会员查看完整内容
33

相关内容

人工智能(Artificial Intelligence, AI )是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。 人工智能是计算机科学的一个分支。
《信息技术实时定位系统性能测试方法》国家标准意见稿
《面向制造业的数字化仿真分类》国家标准意见稿
专知会员服务
63+阅读 · 2022年4月13日
《智能制造机器视觉在线检测测试方法》国家标准意见稿
《人工智能芯片基准测试评估方法》行业标准
专知会员服务
77+阅读 · 2022年2月20日
基于深度学习的数据融合方法研究综述
专知
30+阅读 · 2020年12月10日
基于图神经网络的知识图谱研究进展
AI科技评论
20+阅读 · 2020年8月31日
清华大学《高级机器学习》课程
专知
35+阅读 · 2020年7月21日
孟小峰:机器学习与数据库技术融合
计算机研究与发展
14+阅读 · 2018年9月6日
贝叶斯机器学习前沿进展
架构文摘
13+阅读 · 2018年2月11日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
141+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
344+阅读 · 2023年3月31日
Arxiv
58+阅读 · 2023年3月26日
Arxiv
121+阅读 · 2023年3月24日
Arxiv
18+阅读 · 2023年3月17日
VIP会员
相关资讯
基于深度学习的数据融合方法研究综述
专知
30+阅读 · 2020年12月10日
基于图神经网络的知识图谱研究进展
AI科技评论
20+阅读 · 2020年8月31日
清华大学《高级机器学习》课程
专知
35+阅读 · 2020年7月21日
孟小峰:机器学习与数据库技术融合
计算机研究与发展
14+阅读 · 2018年9月6日
贝叶斯机器学习前沿进展
架构文摘
13+阅读 · 2018年2月11日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员