The world is heading towards a state in which Artificial Intelligence (AI) based agents make most decisions on behalf of humans. From healthcare decision making to social media censoring, these agents face problems and make decisions that have ethical and societal implications. Hence, ethical behaviour is a critical characteristic of a human-centric AI. A common observation in human-centric industries, like the service industry and healthcare, is that their professionals tend to break rules, if necessary, for pro-social reasons. To make AI agents more human-centric, we argue that there is a need for a mechanism that helps AI agents to identify when and how to break rules set by their designers. In this paper, we examine the when, i.e., conditions under which humans break rules for pro-social reasons. In the presented study, we introduce a 'vaccination strategy dilemma' where one needs to decide whether they would distribute Covid-19 vaccines only to members of a high-risk group (follow the rule) or, in selected cases, administer the vaccine to a few social influencers (break the rule), which might yield an overall greater benefit to society. Results of the empirical study suggest a relationship between stakeholder utilities and pro-social rule breaking (PSRB), which either deontological or utilitarian ethics cannot completely explain. Finally, the paper discusses the design characteristics of an ethical agent capable of PSRB and the future research directions on PSRB in the AI realm.


翻译:世界正在走向一个以人工智能(AI)为基础的代理人代表人类做出大多数决定的国家。从保健决策到社会媒体审查,这些代理人面临问题并作出具有道德和社会影响的决定。因此,道德行为是以人为中心的AI的关键特征。在以人为中心的行业,如服务业和保健,一个共同的观察是,他们的专业人员往往出于亲社会的原因,在必要时违反规则。为了使AI代理人更加以人为本,我们争辩说,需要有一种机制,帮助大赦国际代理人确定何时以及如何打破其设计者制定的规则。在本文中,我们研究了人类为亲社会原因打破规则的条件。在提交的研究报告中,我们引入了一种“消除战略两难点”:即他们需要决定是否只将Covid-19疫苗分发给高风险群体的成员(遵守规则),或者在特定情况下,将疫苗管理给少数社会影响者(违反规则),这可能给社会带来更大的整体利益。在实际研究中,PPB公司或PB公司的风险伦理学研究中,无法彻底解释公司道德学标准设计模式的走向。

0
下载
关闭预览

相关内容

机器学习入门的经验与建议
专知会员服务
92+阅读 · 2019年10月10日
【哈佛大学商学院课程Fall 2019】机器学习可解释性
专知会员服务
103+阅读 · 2019年10月9日
CCF A类 | 顶级会议RTSS 2019诚邀稿件
Call4Papers
10+阅读 · 2019年4月17日
人工智能 | NIPS 2019等国际会议信息8条
Call4Papers
7+阅读 · 2019年3月21日
【TED】生命中的每一年的智慧
英语演讲视频每日一推
9+阅读 · 2019年1月29日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
17+阅读 · 2018年12月24日
人工智能 | 国际会议信息10条
Call4Papers
5+阅读 · 2018年12月18日
人工智能 | PRICAI 2019等国际会议信息9条
Call4Papers
6+阅读 · 2018年12月13日
人工智能 | AAAI 2019等国际会议信息7条
Call4Papers
5+阅读 · 2018年9月3日
人工智能 | 国际会议/SCI期刊约稿信息9条
Call4Papers
3+阅读 · 2018年1月12日
老铁,邀请你来免费学习人工智能!!!
量化投资与机器学习
4+阅读 · 2017年11月14日
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
Avoiding Traps in Nonconvex Problems
Arxiv
0+阅读 · 2021年12月9日
Arxiv
0+阅读 · 2021年12月9日
Arxiv
30+阅读 · 2021年8月18日
VIP会员
相关VIP内容
机器学习入门的经验与建议
专知会员服务
92+阅读 · 2019年10月10日
【哈佛大学商学院课程Fall 2019】机器学习可解释性
专知会员服务
103+阅读 · 2019年10月9日
相关资讯
CCF A类 | 顶级会议RTSS 2019诚邀稿件
Call4Papers
10+阅读 · 2019年4月17日
人工智能 | NIPS 2019等国际会议信息8条
Call4Papers
7+阅读 · 2019年3月21日
【TED】生命中的每一年的智慧
英语演讲视频每日一推
9+阅读 · 2019年1月29日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
17+阅读 · 2018年12月24日
人工智能 | 国际会议信息10条
Call4Papers
5+阅读 · 2018年12月18日
人工智能 | PRICAI 2019等国际会议信息9条
Call4Papers
6+阅读 · 2018年12月13日
人工智能 | AAAI 2019等国际会议信息7条
Call4Papers
5+阅读 · 2018年9月3日
人工智能 | 国际会议/SCI期刊约稿信息9条
Call4Papers
3+阅读 · 2018年1月12日
老铁,邀请你来免费学习人工智能!!!
量化投资与机器学习
4+阅读 · 2017年11月14日
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
Top
微信扫码咨询专知VIP会员