【导读】近几年来,随着机器学习的普及,机器学习系统的公平性问题引起了实际的道德、社会等问题。图书《公平性与机器学习—局限与机遇》以公平性为核心问题来看待机器学习,提供了对当前机器学习实践以及为实现公平而提出的技术修复方案的批判性思考。
社会、道德和机器学习自身等角度,介绍了目前机器学习中的公平性问题,如由于数据导致的偏置(bias)等问题。
图书《Fairness and Machine Learning - Limitations and Opportunities》(《公平性与机器学习—局限与机遇》)以公平性为核心问题来看待机器学习,强调机器学习在道德方面的挑战。作者希望该书尽可能地被广泛阅读,但在写作时依然坚持着技术的严谨性。该书并没有提供包罗万象的对公平性完整的正式定义,也没有提出一个快速解决社会对自动决策担忧的修复方案。
解决机器学习公平性问题需要认真理解机器学习工具的局限性。该书提供了对当前机器学习实践以及为实现公平而提出的技术修复方案的批判性思考。虽然这些问题都没有简单的答案,作者希望这本书能够帮助读者更深层次地理解如何构建负责任的机器学习系统。
该书内容大致如下:
简介
人口差异
机器学习循环
社会状态
度量的问题
从数据到模型
行为的陷阱
反馈循环
根据一个玩具示例巩固
其它道德考虑
我们的展望:局限和机遇
分类
有监督学习
敏感特征
正式非歧视性标准
校准和充分
标准间的关系
观察标准的固有局限
示例:信用打分
问题:刑事司法
问题:交通中断的数据建模
公平标准的目的是什么
法律背景和规范问题
因果
观察的局限性
因果模型
因果图
干预和因果效应
混杂
图歧视分析
反设事实
反设事实歧视分析
因果模型有效性
请关注专知公众号(点击上方蓝色专知关注)
后台回复“FMLLO” 就可以获取完整版《Fairness and Machine Learning - Limitations and Opportunities》的下载链接~
附部分PDF预览:
参考链接:
https://fairmlbook.org/pdf/fairmlbook.pdf
-END-
专 · 知
专知,专业可信的人工智能知识分发,让认知协作更快更好!欢迎登录www.zhuanzhi.ai,注册登录专知,获取更多AI知识资料!
欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程视频资料和与专家交流咨询!
请加专知小助手微信(扫一扫如下二维码添加),加入专知人工智能主题群,咨询技术商务合作~
专知《深度学习:算法到实战》课程全部完成!560+位同学在学习,现在报名,限时优惠!网易云课堂人工智能畅销榜首位!
点击“阅读原文”,了解报名专知《深度学习:算法到实战》课程