真实世界中的自动驾驶系统部署要求其组件在车载系统上实时运行,包括预测周围交通参与者的未来轨迹的运动预测模块。现有的以代理为中心的方法在公开基准上展示了出色的性能。但是,当需要预测的代理数量增加时,它们受到高计算开销和糟糕的可扩展性的困扰。为了解决这个问题,我们引入了基于相对姿态编码的K最近邻注意力(KNARPE),这是一种新的注意力机制,允许转换器使用成对相对表示。然后,基于KNARPE,我们提出了具有相对姿态编码的异构折线变压换器(HPTR),这是一个层次框架,允许在在线推理期间进行异步令牌更新。通过在代理之间共享上下文并重用未更改的上下文,我们的方法与场景为中心的方法一样高效,同时达到与最先进的以代理为中心的方法相当的性能。在Waymo和Argoverse-2数据集上的实验表明,HPTR在不应用昂贵的后处理或模型集成的端到端方法中表现优越。代码可在https://github.com/zhejz/HPTR上获取。