新智元报道
将AI应用到体育上,是目前工业界与学术界普遍关注的问题,目前一些AI视觉分析系统已经应用到网球、篮球、足球、乒乓球上,最负盛名的莫过于应用于网球中的鹰眼系统,但是这些系统大都定位为「即时回放系统」,远非实时的系统。
事实上,将AI实时应用到体育运动中是一个极具挑战性的问题,体育比赛对AI系统的处理速度、精度和稳定性都具有较高的要求,真实的环境较为复杂,不确定性很多,这会极大地影响AI系统的性能。
冰壶作为一项极其讲究策略和技巧的高脑力运动,有着「冰上国际象棋」的美誉,其起源于16世纪的苏格兰,自1998年起成为冬奥会的正式比赛项目。
在冰壶比赛过程中冰壶的实时运动状态、冰壶在大本营的分布情况对于运动员的决策起着至关重要的作用,而这对于冰壶比赛的胜负可以起到决定性的作用。然而,在实际的冰壶比赛中,缺乏这样的系统来实时显示这些信息用于辅助比赛。
基于此,由商汤科技主导研发的AI冰壶赛事系统猎壶者(CurlingHunter)应运而生,其作为全球第一个实时用于冰壶赛事的AI跨相机多目标追踪系统,也是体育史上首个用于冰壶比赛的AI实时系统,成功应用于2022年北京冬季奥运会和冬残奥会。
论文链接:https://spj.sciencemag.org/journals/research/2022/9805054/
具体来说,该研究解决了以下三个方面的挑战:
1. 大场景超远距下相似物体的跨相机多目标追踪;
2. 无需任何辅助设备的大场景图像畸变矫正;
3. 单视角冰壶位姿估计及冰壶轨迹预测。
针对这些挑战,该研究提出了一个基于人工智能的冰壶赛事系统,称为猎壶者(CurlingHunter),可实时捕捉、预测冰壶运动轨迹,辅助运动员实时分析比赛,提高比赛的趣味性。
系统架构
2022年北京冬奥会冰壶比赛在北京「冰立方」举行(图1a),这是奥运会历史上最大的冰壶场馆。
图1 CurlingHunter的设备和系统架构
CurlingHunter 由 42 个摄像机组成,排列在「冰立方」中(图 1a),相机视野重叠(图 1b),确保赛道的每一部分都至少被三个摄像头从不同角度拍摄,以此解决运动场中的人、桁架、摄像头等遮挡问题。
摄像头布置在三个不同高度,它们分布在赛道周围,包括球机和枪机两种类型(图1c)。
冰壶场馆东侧放置了一个170平米的大屏幕,实时地显示冰壶的运动状态并预测未来轨迹(图1a),以帮助运动员进行策略的调整,同时提升观众的观赛体验。
由于实际比赛中的诸多不确定性,准确实时的捕捉冰壶轨迹具有十足的挑战性,这涉及到单相机多目标跟踪、跨相机多目标追踪、大场景图像畸变校正、冰壶视觉定位等诸多问题。
CurlingHunter 将这些问题分解为模块化的任务。
有趣的是,其中一些任务在实际的冰壶比赛中被提出,例如大环境中小目标的最优跟踪策略、冰面上目标的视觉定位、大场景中的图像失真校正、多相机数据关联等,推动了AI领域一些新方法的提出与应用。
图1d展示了CurlingHunter 的主要模块以及它们是如何处理来自前一个模块的信息。
CurlingHunter主要由三个模块组成:单相机跟踪与视觉定位(图2a)、跨相机数据关联与轨迹生成(图2b)、运动分析与轨迹预测(图2c)。
图2 三个模块的具体实现过程
1. 第一个模块为单相机多目标追踪及冰壶视觉定位,由42路相机同步并行执行。通过第一个模块,我们可以获得每个相机的跨帧数据关联,由于单视角的频繁遮挡现象,这一步骤仅仅能形成单个视角下频繁间断的轨迹段(Tracklet)。
2. 在第二个模块中,引入了时间同步模块来矫正多个相机之间的信息。设计了基于长短期记忆匹配机制(LSTMM)的跨相机数据关联方法,该方法采用了跨越时空的贪心区域增长算法,高效的解决了冰壶的跨相机信息同步问题。最后, 我们通过多相机融合,实时的还原冰壶的位置和姿态。
3. 在第三模块中,我们利用非对称加权最小二乘法(AWLS)实时计算冰壶石的速度、加速度和角速度,并提出了一个基于LSTM的模型来实时预测冰壶的未来轨迹。
图3 实验测试
最后,将CurlingHunter成功应用于2021年轮椅冰壶世锦赛、2022年北京冬奥会、2022年北京冬残奥会,CurlingHunter取得了优异的成绩,得到了世界冰壶联合会主席Kate Caithness、运动员、教练员、裁判员、观众、解说员、媒体等的高度赞扬。
结果展示
通过CurlingHunter现场170平方米的大屏(图4a、图4b),运动员可以更好、更科学地制定比赛策略。
冰壶赛道很长,运动员距离大本营有几十米,仅仅依靠运动员的眼睛,很难做到准确定位冰壶在几十米外大本营的分布情况,更难了解冰壶轨迹的全貌。
CurlingHunter很好地解决了这些问题。通过观看大屏幕,运动员可以清楚地知道冰壶的实际位置、实际轨迹、预测轨迹、本次投掷的具体情况及下一次投掷的纠正方法,这极大地解放了运动员的记忆力,从而更好地辅助运动员进行比赛。
图4 CurlingHunter在北京冬奥会和残奥会上的应用
通过CurlingHunter的网络直播(图 4c),观众可以清楚地看到运动员每次投掷的轨迹。
以往,观众只能观看赛道的一部分区域,很难了解冰壶比赛的全貌。但CurlingHunter可以给观众最直观、最全面的展示,这显著增加了观看比赛的乐趣。
此外,研究人员为CurlingHunter开发了一个管理系统(图4d-f),用于记录和管理每场比赛的轨迹、运动分析和冰面分析,可用于比赛管理、后期比赛分析,以及运动员的赛后训练等。
有趣的是,CurlingHunter得到的冰壶比赛的实际运动数据可用于冰面的力学分析。
结论
这项工作开发了一个实时AI冰壶赛事系统CurlingHunter,具有出色的实时性(~ 9.005 ms)、较高的精度(测量距离>20 m下30±3 cm)和良好的稳定性,并成功应用于实际的冰壶比赛,填补了实时辅助冰壶比赛这一领域的空白。
CurlingHunter是体育历史上第一个辅助运动员比赛的实时AI系统,并成功应用于冬奥会和残奥会。
这项工作极大地促进了AI技术在实际环境中的落地实用,同时也极大地促进了冰壶运动的发展。
此外,CurlingHunter为进一步扩展到其他的体育运动及应用到跨相机多目标追踪的学术研究提供了一个新的平台。
期刊介绍
Research是中国科协与美国科学促进会于2018年共同创办的定位为国际化、高影响力、世界一流水平、综合性、大型OA科技期刊,是美国Science自1880年创刊以来第一本合作期刊。
主要发表先进能源、先进制造、先进材料、人工智能、环境科学、柔性电子、健康科学、信息科学、微纳科技、量子信息、空间科学,11个热点交叉领域突破性原创研究成果。
主页:https://spj.sciencemag.org/journals/research/
主编(中国)为中国科协副主席,中国科学院院士包为民,主编(国际)为美国明尼苏达大学麦克凯特杰出教授崔天宏。
第二届编委会由许宁生、高松、黄如、李兰娟、饶子和、俞书宏、崔铁军等国内外60余位院士在内的170位编委组成。已被CAS、CNKI、CSCD、DOAJ、EI、SCIE、INSPEC、PMC、Scopus、SAO/NASA Astrophysics Data System数据库收录。IF=11.036