机器学习算法的典型分析将其结果与它们对生成数据的过程或对学习感兴趣的实体可能产生的影响隔离开来。然而,当前的技术趋势意味着人们和组织越来越多地与学习系统交互,因此有必要考虑这些交互如何改变学习任务的性质和结果。
算法博弈论领域的发展是为了应对在存在战略实体(如人)的大型交互系统中理解相互作用的需要。然而,在许多情况下,算法博弈论需要人们行为的精确模型。然而,在机器学习的应用中,大部分信息是不可用的或正在发展的。因此,除了算法博弈论所涉及的挑战之外,还需要在不引起不良交互的情况下获取信息。
在这篇论文中,我们提出了机器学习和算法博弈论的观点,它考虑了机器学习系统和人之间的交互。我们探索了四条解释这些互动的研究路线:了解人,在没有准确的行为模型和不断变化的环境下,通过与人们的偏好互动和学习,我们在博弈论的设置中学习最优政策;向人学习,我们在数据收集和机器学习方面管理人们的专业知识和资源;通过人的学习,人们可以相互交流,共同协作,有效地学习相关的基本概念;还有为人类学习,机器学习被用来造福人类和社会,特别是通过创建能够适应环境不确定性的模型。