【物联网】5G时代的智能边缘计算AI-EC平台

2017 年 10 月 9 日 产业智能官 雷锋网

雷锋网按：本文作者吴强，雷锋网专栏作者。

2017年9月初华为透露：首款搭载AI芯片的商务手机将于10月发布并提出：Mobile AI=On_Device AI + Cloud AI。无独有偶，一周后苹果公司也发布了搭载A11可以人脸识别的史上最贵手机。那么On_Device AI将不可避免吗？本文作者提出了另外一种选项供参考：Mobile AI=5G_Device + AI-EC。

所谓的智能边缘计算（AI over Edge Computing, 以下简称AI-EC）是指在5G边缘（可理解在基站端）提供各类AI推理算法资源和相应的可编程AI计算资源的公共平台。其中的算法资源，主要以客观世界目标的视觉识别，音频识别以及自然语言处理为代表的通用类的AI推理算法软件。而另一个可编程AI计算资源是由以GPU及Tensor RT为代表的软硬件服务器支撑平台，用以承载和加速前者AI算法的推理计算，也可承载在线弱监督学习的训练或其他GPU应用。这种AI-EC平台所提供的AI推理服务如同在线函数库调用一样，你给它视频或图片，它返给你识别结果；你给他中文语音，它给你翻译成目标语言。今后亿万个物联网终端，智能穿戴等5G终端不必非得安装智能芯片及相关软件同样可以拥有智能，因为通用的AI推理功能已从终端剥离并转移到AI-MC平台上。（说白了就是智能产业将被纵向分割：会做终端的专做终端，懂算法的专做算法，5G将成为产业应用上下游的总线纽带）

一.AI-EC的架构

二.AI-EC的功能

深度学习的推理服务。雾智能终端将视频，音频，语言等上传至AI-EC 平台，由其平台上相关已训练好的推理模块进行推理，然后将结果反馈给雾智能终端。
高性能计算池服务。很多对GPU依赖的应用可以不受时间、空间及移动速度的限制。例如现场指纹推理，哈希算法(对加解密和区块链的支撑)，快速傅立叶变换，蒙特卡罗等等。
“串流”云游戏服务。5G时代的云游戏市场将会进一步增大，玩家不必拥有独立显卡，也可以通过“串流”黑科技来感受类似效果的云游戏。AI-EC的云游戏模块可以根据玩家的操控将游戏效果渲染成视频流下推给玩家的5G终端，玩家不受地点限制可以在高铁地铁上。例如GeForce Now云游戏，其官方建议20Mbps则可实现720P画质、60fps帧速；除此之外，网络时延需小于60ms。
视频业务审核服务。5G时代手机户外现场直播重大活动或事件将成为可能。而直播视频中是否有不合法的内容（如暴力，色情，极端宗教及敏感议题等）必须借助AI来实施审核并采取相应措施。
VR等实时渲染服务。随着渲染需求的不断加大以及VR/AR等应用的日益普及，坐在飞速行驶的高铁上也可以感受VR，可以即时渲染出个性化产品设计效果，装修设计效果等，影视短片的后期效果等。例如可以即时渲染出女士本人穿上网购服装的效果。

三. AI-EC的特点

a. 网络时延优势：边缘位置优势保证了时间敏感的实时类应用的AI推理时延要求。

b. 网络分布优势：AI-EC让广泛分布的推理申请在末端就得到结果，既减少了网络流量，又降低了云中心集中推理的计算压力。例如上万个监控视频的推理需求，动态应急布设监控及无人机监控等。

c. 智能终端减负：物联网、智能穿戴等终端的体积，重量，功耗，成本以及价格都将因此而降低，同时也降低了终端的研发门槛，有利于5G终端的广泛普及。

d.产业布局灵活：人工智能的各种算法发展日新月异，组合千变万化，研发的人员及硬件成本越来越高，这些将由AI-EC营运商解决。AI应用产业被纵向分解成算法服务商和终端供应商。

e. 非商业属性：AI-EC平台一般将由国有控股的电信运营商来承建，其公共属性有利于将人工智能服务作为像电力、天然气和通讯网络一样的市政设施供应给千家万户。有利于政府、教育、医疗，军工等公共机构充分利用AI-EC平台上的算法资源和计算资源，有利于相关部门对人工智能产业发展进行规划，引导，管理及法律法规制定等，有利于将5G与AI-EC整体打包像高铁一样输出给其它国家。

人脸识别鉴权技术：目前我国公安部相关研究所已立项“多维身份可信认证系统”，当海关、机场，车站，酒店，银行以及特殊单位等机构需要鉴权时，应有统筹法律法规约束。
医学影像辅助诊疗：同样应由国家相关部门在大数据标注与训练，隐私保护，相关识别技术的商业化与非商业化推广及医院相关区域的AI-EC覆盖等，应有统筹法律法规约束。
其它公共事业的AI部署：如AI教学、AI职业培训、科研院所的公用计算资源部署、AI市政公共设施、智能交通管理、AI家庭设施等部署，管理，法律法规约束等。

四.AI-EC带来的选择

a. 雾智能终端与硬智能终端的选择：前者适合在网络覆盖良好的城市区域内使用通用类的、复杂度高的、变化快的、对功耗和成本要求比较苛刻的终端AI智能应用；后者允许在网络覆盖不确定的乡村，山区，荒漠，海上等区域，使用AI需求相对固定的、变化少的以及对时延要求极端苛刻的AI智能应用。

b. AI-EC雾端还是商业云端的选择：对时延要求高的，集中推理压力大的，业务敏感或不适合在商业云使用的应用可选择前者。

第四次(人工智能)产业革命的春风已经扑面而来，它开始渐渐地冲击着各个传统行业甚至是人类文明。东西方的主要高科技巨头都在AI计算资源和AI人才资源争夺上以及AI产业事实标准的制定上豪赌般地投入，无疑他们是有远见的。作为经济大国的中国在4G时代已通过网购，手机支付，共享单车等业务崭露头角，那么在5G时代是否可以从顶层设计来与时俱进，通过AI-EC来推动人工智能、物联网、智能穿戴等终端在各行各业的普及，从而提高效率或解决原来解决不了的问题，帮助中国早日成为科技强国并引领人类在AI领域的发展！

本文仅代表个人观点，意在抛砖引玉。作者才疏学浅，之所以愿意献丑撰写本文是因作者认为：人工智能的时代更需要跨行业交流及脑力激荡的，如能引发其它相关行业人士的思考，则达到了本文的目的。

延展阅读：一文入门百度天工IoT平台

来源：蜗牛看物联安全

产品概述

为了更好的推动物联网在中国的发展，百度云正式推出了物接入服务，全面助力构建物联网社会。IoT Hub 适用于五大业务场景：

智慧能源（百度园区）

智能硬件

工业4.0（风电厂）

智能家居

车联网

在各场景实现的主要功能包括：

设备监控，通过接入天工平台随时监控物理设备运行情况

数据存储，通过TSDB存储历史数据，支持实时查询

运维报警，通过规则引擎、机器学习完成故障预测、故障报警

PAAS平台，让ISV解决了设备安全连接与多种类型设备都低成本接入的难题，让其专注于SaaS级的服务，让企业人力成本更聚焦，更高效。

产品市场现状

盈利模式

1. 按消息收费

平台有每月一百万条免费消息额度，超过的按照一定数量MQTT消息进行收费。

2. 按数据收费

平台提供1百万点/月的免费额度，超过的按照x百万点/每月进行收费。

重点应用领域

暂未知，通过百度天工的开发者群了解，ISV数量已初具规模，应用场景在设备监控领域已有数个成功案例。

产品结构分析

★产品技术架构

天工技术架构

Edge SDK：百度云面向设备端提供的SDK，可以安装在单机设备或企业网关上。安装了SDK的设备只需要配置一个云端生成的密钥便可以完成与云端连接，实现与云端通讯配置。Edge SDK支持SSL方式连接，保证用户数据安全。

SDK运行在客户端。目前包含三个具体的SDK：

1) modbus: modbus物解析网关。Modbus(TCP和RTU)协议数据的采集、上传，并且在云端进行解析和存储。

2) device-management: 新版物管理SDK。

3) bacnet: bacnet网关。BACNET(IP)协议数据的采集、上传，并且在云端进行存储。

例如，百度modbus网关是一个端上的程序，需要运行在用户设备的现场。它采集用户modbus从站的数据，并且上传到百度物解析服务，然后根据解析项目配置的解析设置，进行解析。最后入库。他通过定义订阅MQTT主题以接受管理配置（采集策略），然后执行相关的采集任务，采集到数据后，依然通过MQTT协议上数据上传到云端。

百度BACNet网关是一个端上的程序，需要运行在用户BACNet设备所在的网络上的计算机或者开发板上。它模拟成一个BACNet IP设备，并且根据配置，采集网络内其他BACNet设备的数据，并且上传到指定的物接入主题。它主要基于bacnet-stack-0.8.3开发，并且依赖paho.mqtt.c, cJSON等库。

物接入：物接入是全托管的云服务，可以在智能设备与云端之间建立安全的双向连接，并通过主流的物联网协议（如MQTT）通讯，实现从设备端到云端以及从云端到设备端的安全稳定的消息传输。

就是MQTT代理服务器。

厂端数据上送是通过在本地PC安装edge SDK，作为数据采集的主站，同时支持以MQTT协议将数据上送至云端。

物管理：主要用于对接入云端的设备进行管理和操作。物管理需要与百度云的物接入服务配合使用，对接入云端的设备进行一站式设备管理，可应用于设备的层级管理、监测、遥控、固件升级和维护保养等各个场景。

物解析：在云端为用户提供工业协议解析服务（比如Modbus和OPC UA）。当云端收到设备端返回的原始数据后，结合用户提供的设备通讯地址表，物解析服务可将数据解析成直接可用于存储和分析的数据。

规则引擎：作为百度云天工智能物联网平台的重要组件，用于将信息根据预先设置好的规则转发至百度云的其它服务。用户可通过规则引擎设定消息处理规则，对规则匹配的消息采取相应的转发操作，如推送给手机APP等；也可以将设备消息无缝转发到时序数据库、百度Kafka和对象存储中进行存储。

时序数据库：用于管理时间序列数据的专业化数据库。区别于传统的关系型数据库，时序数据库针对时间序列数据的存储、查询和展现进行了专门的优化，从而获得极高的数据压缩能力、极优的查询性能，特别适用于物联网应用场景。

天算智能大数据平台：提供了完备的大数据托管服务、智能API、众多业务场景模板以及人脸识别、文字识别、语音识别等服务，帮助用户实现智能业务。

天工平台可与天算智能大数据平台实现无缝对接，助力企业快速具备海量数据分析能力。

合作伙伴应用&企业应用：提供了API接口，可与企业应用或其他第三方平台进行对接。

★各层协议及通讯方式

edge sdk与厂端设备：modbus，opc ua（还未支持），BACnet。

装有edge sdk的PC与物接入：MQTT协议，支持ssl。

物接入与物解析和规则引擎：MQTT协议。

规则引擎：基于MQTT主题处理消息；主题中的消息必须是JSON格式。

产品功能规格

物接入

功能点

试用过程举例：

在物接入界面，新增物接入实例，定义云端mqtt服务器地址

物接入实例下挂的设备定义厂端物理设备：

设备身份定义连接的用户名：

设备策略定义mqtt的topic（主题）：

自动生成连接的密钥：

连接用户名：melon/device0922

连接秘钥：zvG+GpeHiteiQ1OzN6AR8PIWOW2eXAH52xSaJKBlY8g=

对接成功后其他mqtt客户端可以订阅该主题，也可通过“规则引擎”对消息进行处理，然后送往不同的数据目的地（如时序数据库TSDB、Kafka，以及另一个topic）。

物解析

物解析的输出的数据格式为json，消息示例如下：

物解析和物接入的关系：

物解析底层依赖于物接入。物解析是在物接入的基础上，自动创建了一些配置。比如在物解析中新建第一个网关时，系统会自动在物接入中新建一个实例，同时在这个实例中配置设备（thing）、身份（principal）、策略（policy）、主题（topic）等。物解析服务端和网关设备之间，通过这个实例来发布消息或订阅消息。

规则引擎

规则引擎就是通过灵活的设定规则，将设备传上云端的数据，送往不同的数据目的地（如时序数据库TSDB、Kafka、对象存储BOS等）以达到不同的业务目标。

支持创建规则和调试规则。

物管理

流式计算（还未上线）

灵活强大的数据事件处理引擎，可以用来设置针对流式处理数据的实时分析计算工具

平台交互设计

入口

整体均采用web方式进行交互，在百度云官网登录后，进入各功能模块模块的入口如下：

物接入

物接入详细使用过程见3.3.1.2.

物解析

物解析所挂子设备的对应维护点表界面如下：

规则引擎

规则引擎主要面向消息配置sql查询语句，并配置转发目的地。

时序数据库TSDB

支持线上支付后开通不同配置的时序数据库，数据库支持线上的统计数据查看：

详细数据可通过导出进行查看，导出文件格式：CSV(UTF-8)

★★天工规则引擎设计

使用过程介绍

1）创建数据源

配置物接入IoT Hub打通云端和设备端之间的双向通道。

2）创建目的地

目的地即规则引擎对消息处理完后，转发的目的地。目前支持三种目的地配置：

百度Kafka

时序数据库TSDB

物接入主题

3）新建规则

查询字段：从消息中筛选出来用于后续操作（如：转发至TSDB或百度Kafka）的数据。如果填写“*”，则将原样转发payload中的所有数据至目的地。如果将消息转发至TSDB，需要预先对消息格式进行调整，具体操作请查看将消息转发至TSDB。

主题：消息来源的物接入主题。

约束条件：后续操作的触发条件。缺省情况下，转发每一条消息至目的地。

查询字段和约束条件中支持的操作符包括算术运算、逻辑运算等等

4）验证规则

满足条件做转发：

不满足条件，不做转发：

应用实例

智慧路灯（官方）

如下图所示为百度云天工智能物联网平台智慧路灯解决方案架构。

路灯接入可以采用多种方式，例如：3G/4G，电力载波，LPWAN等，无论采用哪种方式，用户只需在接入设备中预装Edge SDK，都能轻松打通路灯和百度云之间的双向安全通道，实现将路灯接入百度云的物接入服务。路灯可以实时将设备状态、电压电流、环境温度、地理坐标等信息发送至物接入服务。同时在工程师的智能终端上预装APP对接百度云，可实时上报工程师的地理位置坐标。

物接入接收到路灯上送的消息后，可将消息分别转发至物管理和规则引擎服务。

用户可在规则引擎上制定策略，实现以下操作：

· 当路灯下线或电压电流超过阈值时，检索距离现场最近的维护工程师，并自动发送告警、路灯坐标等信息给指定的维护工程师。工程师的智能终端可对接百度地图服务，自动在地图上显示待维修路灯的位置。

· 将电压电流、环境温度等信息转发至时序数据库，并对接天算大数据平台，用于后续的数据挖掘。

用户可在物管理服务中对路灯进行分层管理，可以将每个路灯划分到不同的“市/区/街道”下，后续可在不同维度下对路灯进行操作，例如：统一关闭/打开某一条街道下的路灯。同时物管理服务提供了API接口，可方便用户自研或对接第三方管理平台。

总结：在终端设备上安装edge SDK，天工可实现路灯设备数据上送和转发，现阶段没有实现对路灯进行控制。

单链路灯控制（自编）

需求：

当照度传感器A实时值低于500流明时，开启灯A。假设照度传感器A和灯A均支持modbus协议。

实现方案：

1. 本地安装百度modbus网关，与照度传感器A和灯A通过以太网连接；

2. 百度modbus网关采用MQTT协议实时上传照度传感器A的实时值至物解析；

3. 物解析将消息转发至规则引擎，当判断照度传感器A实时值低于500流明时，发送一个包含desired改变的payload（含义为开灯）的mqtt消息至物影子-灯A；

4. 当物影子-灯A接收到"desired"相关属性的更新后，会diff设备影子中"reported"和“desired”相关字段，将diff后的结果发送到delta主题。百度modbus网关通过订阅delta主题，可将设备状态同步到“desired”的状态。

人工智能赛博物理操作系统

AI-CPS OS

“人工智能赛博物理操作系统”（新一代技术+商业操作系统“AI-CPS OS”：云计算+大数据+物联网+区块链+人工智能）分支用来的今天，企业领导者必须了解如何将“技术”全面渗入整个公司、产品等“商业”场景中，利用AI-CPS OS形成数字化+智能化力量，实现行业的重新布局、企业的重新构建和自我的焕然新生。

AI-CPS OS的真正价值并不来自构成技术或功能，而是要以一种传递独特竞争优势的方式将自动化+信息化、智造+产品+服务和数据+分析一体化，这种整合方式能够释放新的业务和运营模式。如果不能实现跨功能的更大规模融合，没有颠覆现状的意愿，这些将不可能实现。

领导者无法依靠某种单一战略方法来应对多维度的数字化变革。面对新一代技术+商业操作系统AI-CPS OS颠覆性的数字化+智能化力量，领导者必须在行业、企业与个人这三个层面都保持领先地位：

重新行业布局：你的世界观要怎样改变才算足够？你必须对行业典范进行怎样的反思？
重新构建企业：你的企业需要做出什么样的变化？你准备如何重新定义你的公司？
重新打造自己：你需要成为怎样的人？要重塑自己并在数字化+智能化时代保有领先地位，你必须如何去做？

AI-CPS OS是数字化智能化创新平台，设计思路是将大数据、物联网、区块链和人工智能等无缝整合在云端，可以帮助企业将创新成果融入自身业务体系，实现各个前沿技术在云端的优势协同。AI-CPS OS形成的数字化+智能化力量与行业、企业及个人三个层面的交叉，形成了领导力模式，使数字化融入到领导者所在企业与领导方式的核心位置：

精细：这种力量能够使人在更加真实、细致的层面观察与感知现实世界和数字化世界正在发生的一切，进而理解和更加精细地进行产品个性化控制、微观业务场景事件和结果控制。
智能：模型随着时间（数据）的变化而变化，整个系统就具备了智能（自学习）的能力。
高效：企业需要建立实时或者准实时的数据采集传输、模型预测和响应决策能力，这样智能就从批量性、阶段性的行为变成一个可以实时触达的行为。
不确定性：数字化变更颠覆和改变了领导者曾经仰仗的思维方式、结构和实践经验，其结果就是形成了复合不确定性这种颠覆性力量。主要的不确定性蕴含于三个领域：技术、文化、制度。
边界模糊：数字世界与现实世界的不断融合成CPS不仅让人们所知行业的核心产品、经济学定理和可能性都产生了变化，还模糊了不同行业间的界限。这种效应正在向生态系统、企业、客户、产品快速蔓延。

AI-CPS OS形成的数字化+智能化力量通过三个方式激发经济增长：

创造虚拟劳动力，承担需要适应性和敏捷性的复杂任务，即“智能自动化”，以区别于传统的自动化解决方案；
对现有劳动力和实物资产进行有利的补充和提升，提高资本效率；
人工智能的普及，将推动多行业的相关创新，开辟崭新的经济增长空间。

给决策制定者和商业领袖的建议：

超越自动化，开启新创新模式：利用具有自主学习和自我控制能力的动态机器智能，为企业创造新商机；
迎接新一代信息技术，迎接人工智能：无缝整合人类智慧与机器智能，重新
评估未来的知识和技能类型；
制定道德规范：切实为人工智能生态系统制定道德准则，并在智能机器的开
发过程中确定更加明晰的标准和最佳实践；
重视再分配效应：对人工智能可能带来的冲击做好准备，制定战略帮助面临
较高失业风险的人群；
开发数字化+智能化企业所需新能力：员工团队需要积极掌握判断、沟通及想象力和创造力等人类所特有的重要能力。对于中国企业来说，创造兼具包容性和多样性的文化也非常重要。

子曰：“君子和而不同，小人同而不和。” 《论语·子路》云计算、大数据、物联网、区块链和人工智能，像君子一般融合，一起体现科技就是生产力。

如果说上一次哥伦布地理大发现，拓展的是人类的物理空间。那么这一次地理大发现，拓展的就是人们的数字空间。在数学空间，建立新的商业文明，从而发现新的创富模式，为人类社会带来新的财富空间。云计算，大数据、物联网和区块链，是进入这个数字空间的船，而人工智能就是那船上的帆，哥伦布之帆！

新一代技术+商业的人工智能赛博物理操作系统AI-CPS OS作为新一轮产业变革的核心驱动力，将进一步释放历次科技革命和产业变革积蓄的巨大能量，并创造新的强大引擎。重构生产、分配、交换、消费等经济活动各环节，形成从宏观到微观各领域的智能化新需求，催生新技术、新产品、新产业、新业态、新模式。引发经济结构重大变革，深刻改变人类生产生活方式和思维模式，实现社会生产力的整体跃升。