机器学习,尤其是深度神经网络,所带来的广泛影响不言而喻。这类能力卓越的模型如今已部署在自动驾驶、医疗诊断、金融与制造等关键领域。尽管其应用得益于在基准任务上的优异表现,但其以数据为驱动的特性常使其在遭遇非常规输入时表现出不可预测性。在与人类交互或存在系统失效可能性的安全关键应用中,这种不可预测性构成了重大挑战。这进一步凸显了“可信机器学习”的必要性:模型不仅要在标准指标上表现出色,还必须在真实世界环境中体现出可靠与稳健的特性。

我们的工作正是围绕这一需求展开:改进能够为此类系统提供鲁棒性认证的方法,或在最低限度上,给出有力的实证评估,以支撑其负责任的部署。具体而言,我们在通过随机平滑实现图像分类的概率化认证方面提出了进展;引入了一个用于验证神经网络偏导数的通用框架,可用于对物理驱动神经网络(PINNs)的正确性进行认证;并分析了在任务特定数据上微调大型语言模型时所涉及的安全风险及其缓解策略。此外,我们还探讨了开源生成式 AI 模型在提升可信度方面的更广泛影响。上述贡献共同推动了可信机器学习系统的发展。最后,我们对这些工作的优势与局限进行了讨论,并指出了该领域亟待解决的关键开放问题。

成为VIP会员查看完整内容
1

相关内容

博士论文是由攻读博士学位的研究生所撰写的学术论文。它要求作者在博士生导师的指导下,选择自己能够把握和驾驭的潜在的研究方向,开辟新的研究领域。由此可见,这就对作者提出了较高要求,它要求作者必须在本学科的专业领域具备大量的理论知识,并对所学专业的理论知识有相当深入的理解和思考,同时还要具有相当水平的独立科学研究能力,能够为在学科领域提出独创性的见解和有价值的科研成果。因而,较之学士论文、硕士论文,博士论文具有更高的学术价值,对学科的发展具有重要的推动作用。
【ETZH博士论文】数据驱动的人工智能
专知会员服务
36+阅读 · 2月21日
【剑桥大学博士论文】使用检索方法增强多模态问答系统
【MIT博士论文】高效深度学习计算的模型加速
专知会员服务
32+阅读 · 2024年8月23日
【博士论文】社交与对抗性数据源下的可信机器学习
专知会员服务
18+阅读 · 2024年8月9日
【AI与医学】多模态机器学习精准医疗健康
清华大学《高级机器学习》课程
专知
40+阅读 · 2020年7月21日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
11+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
28+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
11+阅读 · 2013年12月31日
国家自然科学基金
16+阅读 · 2013年12月31日
Arxiv
171+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
484+阅读 · 2023年3月31日
Arxiv
175+阅读 · 2023年3月24日
Arxiv
25+阅读 · 2023年3月17日
VIP会员
相关基金
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
11+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
28+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
11+阅读 · 2013年12月31日
国家自然科学基金
16+阅读 · 2013年12月31日
微信扫码咨询专知VIP会员