(本文阅读时间:5分钟)
近日,IDEA 研究院举办了“RE/IN 科技沙龙”第三期直播。IDEA 研究院认知计算与自然语言研究中心讲席科学家张家兴博士、微软亚洲研究院高级研究员、系统研究组负责人杨凡博士,以及 OneFlow 创始人袁进辉博士,从 AI 基础设施谈起,展望 AI 产业成熟。
以数据库产业的发展路径为例,人们为了不再做重复的文件系统开发,提出了关系型数据库。在关系型数据库成为标准产品后,又逐渐催生了分布式、云原生,并在其基础之上构建出各式场景服务。
AI 领域也正经历着这一专业化分工。上有落地应用和方案层,中层做标准化算法研究,底层含通用硬件如 GPU 和 AI 芯片等。在深度学习出现后,随着 AI 框架、工具链的发展,AI 软件层面也正在出现标准化趋势。
点击完整视频回放,看行业大咖探讨 AI 基础设施将如何助力 AI 产业发展!
通用计算从 CPU 发展到软件层面,走过了若干个十年,而深度学习出现后,其发展速度比通用计算快了有十倍以上。AI 技术栈分层中,起到支撑作用的是各类 AI 通用硬件以及开始标准化的软件。AI 基础设施经历了从以 Caffe 为代表的早期开发工具,到以 TensorFlow 为代表的、借鉴大数据设计理念的开发框架,再到以 PyTorch 为主流的、更加便利的框架发展。今天大模型横空出世,占据了各个领域的主流任务。
杨凡指出,随着通用学习模型越来越大,不可避免地会出现如何在分布式状态下去训练大模型的问题,带来了可用性和性能之间的矛盾。新的生态催生了新的框架需求,“比如 Oneflow 正在做的分布式,比如移动端和云端中间出现的新概念边缘计算。”他认为,“现在是一个 AI 的黄金时代,充满了机会和希望。”
你也许还想看: