清华、瑞莱智慧、阿里发布全新AI鲁棒性评测平台

来源：瑞莱智慧
  本文为约1002字，建议阅读3分钟
本文介绍了清华大学、瑞莱智慧RealAI、阿里安全联合发布的全新版本的AI安全对抗攻防基准平台。

为准确衡量AI模型的效果和鲁棒性，清华大学、瑞莱智慧RealAI、阿里安全于上月在“2021中国人工智能产业年会-安全人工智能专题论坛”上发布了 全新版本的AI安全对抗攻防基准平台 ，提前给AI找好“陪练”和“标尺”，打造更健壮可靠的AI。相较于去年三方发布的1.0版本，今年ARES-Bench 2.0包含全面、系统的攻防基准，更符合工业界的评测基准，更贴近线上的攻击评测基准。

清华、RealAI、阿里发布

全新AI安全对抗攻防基准平台ARES-Bench 2.0

据悉，新平台ARES-Bench 2.0从原来只有CIFAR10数据上的实验，拓展到了ImageNet 百万级数据集上的攻防评测，更加贴近工业界的实际场景。同时，新平台还覆盖了对模型未知情况下的迁移攻击，贴近线上攻击评测。此外，新平台还增加了分布外的鲁棒性评测，可更加全面地评估模型鲁棒性。

平台链接：https://ml.cs.tsinghua.edu.cn/ares-bench/#/leaderboard

清华大学计算机系副研究员苏航介绍， 鲁棒性benchmark的构建对评估人工智能模型的安全风险、推动该领域的发展具有重要意义 。ARES-Bench 2.0 将对使用者免费提供18个ImageNet上的对抗训练模型，包含更多的攻击场景，覆盖几十种典型的攻防算法，并提供了SOTA的鲁棒模型，为人工智能安全的研究具有一定的推动作用，可让研究人员发现AI被攻击后产生的问题，为行业提供参考，并将AI学术研究引导至更贴近实际场景的应用研究。

阿里巴巴人工智能治理与可持续发展研究中心(AAIG)负责人薛晖表示：“我们致力于建设‘可用、可靠、可信、可控’的负责任技术体系，这是阿里巴巴安全技术团队承担的科技创新和社会使命。从源头构建更加安全的AI系统，是打造更负责任的好科技中的重要一环，只有这样才能构建更好更安全的网络空间。”

RealAI首席执行官田天说：“人工智能的安全可控，需要各方的共同参与和努力。RealAI希望与业界优秀合作伙伴携手，通过加强底层技术攻关和基础设施搭建，加速推动人工智能安全领域的技术升级与应用，为用户提供安全、有保障的人工智能服务，让人工智能真正成为社会运转的支柱力量。”

——END——