高通首次推出AI引擎打包所有软硬件算力

2018 年 2 月 22 日 智东西 明天

看点：这款AI引擎包括软硬两部分，旨在提高AI应用在终端侧的性能与速度。

智东西2月22日消息，今天，高通宣布推出人工智能引擎（AI Engine），让人工智能在终端侧（如智能手机）上的应用更快速、高效。该AI Engine包括软硬件两部分，在高通骁龙核心硬件架构（CPU、GPU、VPS向量处理器）上搭载了神经处理引擎（Neural Processing Engine, NPE）、Android NN API、Hexagon神经网络库等软件。

目前高通旗下芯片产品骁龙845、骁龙835、骁龙820、骁龙660都将支持该人工智能引擎AI Engine，其中骁龙845将支持最顶尖的终端侧人工智能处理。

软硬结合：速度更快、更安全

大多数移动机器学习（ML）任务（如图像或语音识别）目前都在云中执行，智能手机将数据发送到云端，然后再将计算结果返回到手机。但是目前，在终端设备上执行的机器学习任务越来越繁重。为了给开发人员提供更好的基于机器学习的增强功能，高通推出人工智能引擎AI Engine来封装其当前的ML产品。终端侧人工智能的关键优势包括即时响应、隐私保护增强、可靠性提升，此外，还能确保在没有网络链接的情况下用户的AI体验能到得到保障。

高通骁龙核心硬件架构——Hexagon 向量处理器、Adreno GPU和Kryo CPU都具备支持终端侧快速、高效地运行AI应用的能力。这一异构计算方案让开发者和OEM厂商都能智能手机或端智能硬件设备上优化用户AI体验。

在软件方面，高通AI Engine提供三个组件：

1、骁龙神经处理引擎（Neural Processing Engine, NPE）软件框架让开发者可为实现所需的用户体验，选择最适宜的骁龙内核，包括Hexagon向量处理器、Adreno GPU和Kryo CPU，并加速其终端侧人工智能用户体验的实现。骁龙神经处理引擎支持Tensorflow，Caffe和Caffe2框架，以及ONNX (Open Neural Network Exchange)交换格式，在多个骁龙平台和操作系统上，为开发者提供更大灵活性和更多选择。

2、随Google Android Oreo发布的Android NN API，让开发者能通过Android操作系统直接访问骁龙平台。骁龙845将率先支持Android NN。

3、Hexagon Neutral Network（NN）库让开发者可以直接将人工智能算法在Hexagon向量处理器上运行。为基础性的机器学习模块提供了优化的部署，并加速诸如卷积、池化和激活等人工智能运行。

多家手机厂商已用上AI Engine

多家智能手机厂商已利用骁龙移动平台上的人工智能引擎AI Engine组件，加速其终端上的人工智能应用，包括小米、一加、vivo、OPPO、摩托罗拉、华硕、中兴、努比亚、锤子以及黑鲨，其中部分厂商正计划采用人工智能引擎AI Engine在他们未来的旗舰骁龙智能手机上优化人工智能应用。

在今年1月的高通中国技术与合作峰会上，高通还宣布与联想、OPPO、vivo、小米、中兴等手机厂商的多项合作。这场峰会办得格外热闹，中国手机圈的半壁江山几乎都来了。

此外，高通还与一些人工智能公司进行合作，比如，商汤科技和旷视Face++提供多种预先训练的神经网络，支持图像与摄像头特性，包括单摄像头背景虚化、面部解锁与场景检测识别。Elliptic Labs可为骁龙客户提供基于超声波的智能手机手势控制技术。虹软为骁龙客户提供单摄和双摄算法，并积极开发人工智能用户体验。创通联达针对人工智能视觉用例和终端提供完整的解决方案。Uncanny Vision针对人、车辆、以及车牌检测和识别提供优化模型。以上企业以及其他更多公司都将利用Qualcomm人工智能引擎AI Engine组件，加速实现其人工智能模型的性能与用户体验。

云服务领导厂商也已经针对骁龙智能手机，对应用程序中的人工智能特性进行了优化。比如，腾讯最近在其手机QQ应用程序中推出了一个名为“高能舞室”的交互特性，加入到备受欢迎的手机QQ社交平台中。在Android端的手机QQ中，采用了人工智能引擎AI Engine组件以加速该特性的帧率。另外，百度也计划全面支持Qualcomm人工智能引擎AI Engine及其生态系统。