AI落地之难:大多数机器学习模型没有投入生产|QCon

2022 年 7 月 7 日 InfoQ

人工智能是一项伟大的技术,但这项伟大的技术,就像人类的大脑一样开发程度不足 5%,它只能被称为弱人工智能。

不过,哪怕只是弱人工智能,它已经让我们的生产生活发生了巨大的变化,如果把人工智能当成虚拟员工,这位员工已经深入到了企业的各个职能线中,从决策到产研,承担着重要的辅助角色,从而帮助企业降本增效来推动形成商业价值。

人工智能采用率的提高同样会对计算资源和基础设施提出新的要求。

第一个,数据问题。人工智能需要大量的数据用以训练模型,如果上层的数据体系没有建设好,人工智能还能做得好就是怪事了。

第二个,算力问题。近年来,人工智能的进步,一方面得益于平台的崛起,另一方面归功于硬件的进步,使得算力被进一步释放。如何进一步释放 CPU/GPU 算力,以满足机器学习的性能和速度对于计算的要求,这个问题我们在去年的 QCon 全球软件开发大会(上海站)「算力革新」专题已经探讨过。

第三个,存储问题。机器学习时代,我们需要什么样的数据库?AI 数据库或许是一个好的选择,它不仅能满足机器学习对于高质量数据的要求,也能满足特征工程以及机器学习模型的上线需求以及在离线性能要求,且具备灵活性和可扩展性。

第四个,网络问题。为最大限度地交付结果,人工智能需要高带宽、低延迟的网络。AI 中的数据流动性比传统数据更自由、更实时,因此,仅靠高带宽并不一定能提高 AI 的性能,或许我们还需要一些新的网络结构。

第五个,工程问题,这是 AI 落地的最大问题,夸张一点说,当前的 AI 工程还处于蛮荒时代,手动交付比比皆是。大家都希望以更简化、更具流程性的方式构建和部署人工智能应用,MLOps 的诞生就是为了解决这个问题,它旨在以稳定,可扩展和可靠的方式将机器学习算法投入生产所需的技术堆栈。

从算法到应用,从模型训练到生产部署,人工智能工作流程的每个阶段都值得被重视。但当前的事实就是,IT、数据科学、工程各个环节都是脱节自顾自工作,大多数的机器学习模型并没有投入生产,如果一项技术长期无法转化为商业价值,那么它终将被资本抛弃,就如几年前,AI 泡沫散去,浮尸遍野。

鉴于以上考虑,本次 QCon 北京 2022 策划了从大数据、存储到人工智能各个领域的专题,希望能端到端地帮助你解决 AI 落地的疑难杂症。

专题推荐:ML 模型效率与易用性·AICon

推荐理由: 经历了最早期的快速发展,现阶段的 AI 工程转向关注效率和易用性。比如,针对推荐系统这种最常见的 AI 系统,如何大幅降本提效?电商场景下又要怎么考虑?

推荐议题:

专题推荐:AI 基础架构

推荐理由: 为满足 AI 日益增大的强算力、高性能需求,AI 基础设施需要与时俱进。AI 数据库如何优化内存,提升计算性能?大模型时代,异构计算平台系统如何优化?向量数据库的使用场景有哪些?大规模机器学习中的通信如何加速?本专题将为你揭晓。

推荐议题:

专题推荐:分布式数据库

推荐理由: 业务的数智化使得数据存储量也呈现出爆发式的增长,为了降本增效以及进行数据智能决策。为支撑上层更多元化的业务,数据库俨然已经需要全面进入云原生 + 分布式的时代。

推荐议题:

专题推荐:数据湖存储底座

推荐理由: 云原生数据湖,是一种存储各种类型数据,提供弹性的容量和吞吐能力,能够接入广泛的数据源,支持多种计算与处理分析引擎,并广泛应用到 AI 数据分析场景。如何精细化管理,如何加速,如何在高性能计算场景落地,如果你也关心这些问题,本专题将对你有所帮助。

推荐议题:

此外,QCon 北京 2022 还设置了研发效能、前端新基建、前端前沿技术、业务架构、云原生时代的可观测最佳实践、Rust 实战等共计 30 个专题,大会具体日程已上线,点击底部【阅读原文】了解更多。

现在购票还可享受 9 折特惠,单张立减 880 元,感兴趣的同学可以直接联系票务经理:17310043226(微信同电话)

登录查看更多
0

相关内容

6G内生AI网络架构十问
专知会员服务
36+阅读 · 2022年5月18日
6G 无线内生AI架构与技术白皮书(2022)
专知会员服务
30+阅读 · 2022年5月18日
【2021新书】机器学习模型生产部署实践,161页pdf,
专知会员服务
110+阅读 · 2021年6月11日
专知会员服务
57+阅读 · 2021年5月20日
【边缘智能综述论文】A Survey on Edge Intelligence
专知会员服务
114+阅读 · 2020年3月30日
是时候开始关注Rust了|QCon
InfoQ
0+阅读 · 2022年2月22日
需求分析如何落地?这篇告诉你答案
人人都是产品经理
1+阅读 · 2021年10月29日
大家都在谈论的AI思维到底是什么?
微软研究院AI头条
0+阅读 · 2021年10月12日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
3+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
2+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
Arxiv
0+阅读 · 2022年8月31日
Arxiv
0+阅读 · 2022年8月31日
VIP会员
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
3+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
2+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
Top
微信扫码咨询专知VIP会员