本文内容来自英特尔
到2020年,深度学习将达到截然不同的成熟阶段。
届时,部署和采用人工智能将不再局限于试验,而是成为大多数研究与工业领域中日常业务运营的核心部分。AI热潮下,人人都想分一杯羹,但是,你的公司准备好用人工智能产生价值了吗?
得益于支持深度学习工作负载的硬件和软件在速度与准确性方面的进步,该技术不仅可行,而且经济高效。深度学习推理(即,使用模型从数据中推理出以前未能获得过的结果)将带来极大的附加价值。模型可以部署在云端或数据中心,但我们将在终端设备(如相机和手机)上越来越多地看到它们。
英特尔预测,到 2020 年,推理周期和训练周期之间的比率将从深度学习初期的 1:1 提高至超过 5:1。英特尔称这一转变为“大规模推理”;由于推理还将占用近 80% 的人工智能 (AI) 工作流程,因此真正的人工智能就绪之路是从选择适合这一任务的硬件架构开始的。
显然,随着人工智能领域变得越来越复杂,一刀切的解决方案无法应对人工智能领域各种环境的特殊限制。在这种情况下,关键硬件考量因素包括可用性、易用性和运营费用。
你现在的边缘设备、工作站或服务器使用什么类型的基础设施?你想要处理多种架构的复杂性吗?
确定人工智能就绪
首先需要确认的是,你关于的人工智能的应用准备已经就绪了。
如果按照人工智能就绪划分,组织可以分为三类:基础、运营或转型。
进入下一个阶段或继续获得成功的过程则取决于是否具备合适的技能和资源、基础设施和技术、以及流程和模型。人工智能就绪企业运营和转型的一个典型特征是(程度不尽相同),借助人工智能技术,能够通过大规模推理做出更好的决策,或者实现业务流程/响应自动化。
在基础阶段,企业应该优先开发和部署概念验证 (PoC),以便建立和构建随人工智能扩展所需的基础设施、技能和管理层支持。
开发和部署数据监管和安全策略
我们可以从两个不同的角度来看待人工智能领域的安全性。
第一,人工智能本身的安全性至关重要,必须严格保护其算法、参数和数据。
第二,人工智能极有潜力应用于检测高级漏洞利用情况。
人工智能、安全性和管理之间的关系错综复杂,且涵盖多个方面。当组织处于人工智能之旅的早期阶段时,所面临的管理问题与其他以数据为中心的IT项目并无差别,主要是项目是否能够交付、客户隐私是否受到保护等。随着其使用范围扩大,人工智能会涉及更多问题:例如,在预测性计划和维护中,就采购决策(如果存在)而言,需要多大程度的人为参与?
此外,在人工智能驱动型决策会影响的大众生活领域,相较于与不准确或有失偏颇的人工智能输出相关的声誉损失风险,当今消费者数据泄露带来的风险不足一提。
威胁可能会以 “模型中毒” 的形式呈现,即通过离群输入或者在未用参数中插入后门来使模型偏离。我们应该考虑基于硬件的可信执行环境(TEE),以便在端点和更新受保护的聚合器之间建立可信任的模型,从而最大限度减少模型中毒的风险。
过渡到大规模深度学习推理的基础设施策略
人工智能是一个复杂的组合,涉及让原始数据准备就绪、创建、保护并微调模型,以及在现实世界中大规模部署解决方案。因此,人工智能必须不断地在本地数据中心的相对安全范围之外运行和完善。
这意味着,为人工智能构建本地和/或混合云解决方案需要采用新方法,包括创建能够池化大量按需计算资源的灵活数据中心。此外,需要能够高速移动数据且最大限度减少时延的存储、连接以及网络。
对于人工智能,并没有 “放之四海而皆准” 的方法,这一事实带来了更多困难。但是,对于考虑哪个基础设施策略适合其组织的IT领导者,他们的选项主要分为四类。
就本质而言,许多人工智能应用案例都要求系统实时执行推理,而不是在离线或批处理模式下执行。此外,随着时间推移,可能需要重新训练并更新模型。但是,内存、电源和数据移动都会产生瓶颈,从而降低利用率,增加成本。
增强优化软件的影响
如果没有合适的软件,硬件就无法发挥其最佳状态。每个人工智能应用案例都需要软件架构为进行中的工作选择合适的工具,这可能需要考虑到下游系统、定制、优化和其他改动。
查看这些选项时,请考虑工具包、库和框架是否:
针对现有硬件能力进行了优化。包括 TensorFlow* 在内的许多开源软件库已针对英特尔 ® 至强 ® 可扩展处理器进行优化。
与企业的应用案例需求一致。无论是运行概念验证,还是扩展现有解决方案,IT 领导者需要定义他们希望软件优化帮助他们克服哪些具体的瓶颈或挑战。
是内部人才的首选。企业内的数据科学家和开发人员将要使用这些工具。如果他们不熟悉 IT 部门选择的优化,则务必让他们了解他们可以缩短开发时间并提高效率的方法。
英特尔在 TensorFlow* 上与 Google 合作,在 MXNet* 上与Apache 合作,在 PaddlePaddle* 上与百度合作,并在 Caffe*上积极合作,使用针对数据中心内英特尔 ® 至强 ®可扩展处理器的软件优化,来提高深度学习的性能;此外,英特尔将继续添加来自微软和其他行业领导者的框架。
未来举措:打破模型与现实之间的障碍
虽然人工智能对于技术和社会的影响仍处于起步阶段,但其上升势头是显而易见的。一些领先的公司和市场已开始采用人工智能技术,但刚刚起步的公司和市场应该寻求建立通向大规模深度学习推理的路径,而这一切从人工智能就绪开始:探索商业案例、整理数据、找到能够将人工智能转化为现实业务的合适人员与技术组合。
在考虑人工智能之旅的第一步或后续步骤时,请思考你的组织位于人工智能就绪模型的哪个阶段。根据你的就绪程度,使用该核对清单确保您的企业可以随业务目标、成功所需的工具、人才和安全考量因素一起扩展。
更多精彩请点击阅读原文👇
实习/全职编辑记者招聘ing
加入我们,亲身体验一家专业科技媒体采写的每个细节,在最有前景的行业,和一群遍布全球最优秀的人一起成长。坐标北京·清华东门,在大数据文摘主页对话页回复“招聘”了解详情。简历请直接发送至zz@bigdatadigest.cn