随着摩尔定律的放缓,提升处理器的尺寸、性能和效率变得越来越具有挑战性,硬件性能可预测提升的时代已经结束。同时,高清传感器在消费设备和自动化技术中的广泛应用,推动了感知数据的大幅增长。当前全球趋势表明,生成的数据量已经超出了人类的消耗能力,使得 AI 算法成为全球数据的主要消耗者。为应对这一挑战,迫切需要一种全新的设计方法,以创建以 AI 为核心的感知系统,能够弥合高清传感器不断增长的能力与 AI 处理器局限性之间的差距。
在本论文中,我首先提出了一个设计自适应推理系统的概念框架,将以 AI 为核心的感知系统抽象为一个具有 AI 到传感器反馈的闭环系统。接着,我探索了 AI 为核心的感知系统所启用的新应用,以基于运动的毫米波传感器行人步态分类为例。随后,我介绍了在毫米波传感器和 RGBD 摄像头的背景下,设计自适应推理系统中适应性策略的两种不同方法。最后,我提出了第一个评估自适应推理算法在效率和性能提升方面的理论框架,强调了在不损失性能的前提下,计算机视觉和自然语言处理任务中实现 10 到 100 倍效率提升的潜力。