【导读】国际人工智能会议AAAI 2022论文将在全程线上举办,时间在 2 月 22 日-3 月 1 日,本届大会也将是第 36 届 AAAI 大会。大会涵盖了众多最近研究Tutorial报告,来自Jana Doppa等学者共同做了关于贝叶斯优化的进展报告,非常值得关注!
许多工程和科学应用,包括自动机器学习(例如,神经结构搜索和超参数调优),都需要做出设计选择,以优化一个或多个昂贵的评估目标。一些例子包括调整编译器的旋钮,以优化一组软件程序的性能和效率; 设计新材料以优化强度、弹性和耐久性;并设计硬件优化性能,功率和面积。贝叶斯优化(BO)是一种有效的框架,用于解决函数求值昂贵的黑盒优化问题。BO的核心思想是利用真实的实验数据建立一个廉价的替代统计模型(如高斯过程);并利用它来智能地选择实验序列或使用采集函数的功能评估,例如期望改进(EI)和上置信度界限(UCB)。对于连续输入空间,在单保真度设置(即,实验昂贵且函数评估准确)的单目标优化中,有大量关于BO的工作。然而,BO近年来的工作已经集中在更具挑战性的问题设置,包括多目标优化;利用多保真度函数评估进行优化(不同的资源成本和评估的准确性);用黑盒约束优化应用到安全;组合空间的优化(例如,序列、树和图);混合空间(离散和连续输入变量的混合)的优化。本教程的目标是通过关注挑战、原则、算法思想和它们的连接,以及重要的现实世界应用,从基础到这些最新进展,呈现BO的全面调研。