The current wave of digital transformation has spurred digitisation reforms and has led to prodigious development of AI & NLP systems, with several of them entering the public domain. There is a perception that these systems have a non trivial impact on society but there is a dearth of literature in critical AI on what are the kinds of these systems and how do they operate. This paper constructs a broad taxonomy of NLP systems which impact or are impacted by the ``public'' and provides a concrete analyses via various instrumental and normative lenses on the socio-technical nature of these systems. This paper categorises thirty examples of these systems into seven families, namely; finance, customer service, policy making, education, healthcare, law, and security, based on their public use cases. It then critically analyses these applications, first the priors and assumptions they are based on, then their mechanisms, possible methods of data collection, the models and error functions used, etc. This paper further delves into exploring the socio-economic and political contexts in which these families of systems are generally used and their potential impact on the same, and the function creep of these systems. It provides commentary on the potential long-term downstream impact of these systems on communities which use them. Aside from providing a birds eye view of what exists our in depth analysis provides insights on what is lacking in the current discourse on NLP in particular and critical AI in general, proposes additions to the current framework of analysis, provides recommendations future research direction, and highlights the need to importance of exploring the social in this socio-technical system.


翻译:当前数字化转型浪潮推动了数字化改革的进展,促进了AI & NLP系统的大量发展,其中一些进入了公共领域。虽然这些系统对社会产生了非常重要的影响,但是关于这些系统的种类以及它们是如何运作的批判性AI文献的缺乏。本文通过各种实证和规范性透镜,构建了一个广泛的影响或受到“公众”影响的NLP系统分类法,并提供了这些系统的社会技术性质的具体分析。本文根据它们的公共用例将这些系统的三十个例子归为七个系列,即财务、客户服务、政策制定、教育、医疗保健、法律和安全等。然后,对这些应用程序进行了批判性分析,首先分析了它们所基于的直觉和假设,然后分析了它们的机制、可能的数据收集方法、所使用的模型和误差函数等。本文进一步探讨了这些系统系列通常使用的社会经济和政治背景以及它们对这些背景的潜在影响以及这些系统的功能扩展。此外,本文还提供了关于这些系统对使用它们的社群可能产生的潜在长期影响的评论。除了提供目前存在的全局视图外,我们的深入分析提供了有关NLP特别是批判值的当前讨论缺乏的见解,提出了对当前分析框架的补充,提供了未来研究方向的建议,并强调了探索这个社会技术系统中社会因素的重要性。

0
下载
关闭预览

相关内容

【元宇宙】“The State Of The Metaverse”26页报告
专知会员服务
43+阅读 · 2022年5月25日
Artificial Intelligence: Ready to Ride the Wave? BCG 28页PPT
专知会员服务
26+阅读 · 2022年2月20日
Into the Metaverse,93页ppt介绍元宇宙概念、应用、趋势
专知会员服务
47+阅读 · 2022年2月19日
知识图谱KG在NLP的十年研究进展综述
专知
14+阅读 · 2022年10月4日
VCIP 2022 Call for Demos
CCF多媒体专委会
1+阅读 · 2022年6月6日
Hierarchically Structured Meta-learning
CreateAMind
26+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
CreateAMind
28+阅读 · 2019年5月18日
SIGIR2019 接收论文列表
专知
18+阅读 · 2019年4月20日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
17+阅读 · 2018年12月24日
LibRec 精选:推荐的可解释性[综述]
LibRec智能推荐
10+阅读 · 2018年5月4日
【推荐】GAN架构入门综述(资源汇总)
机器学习研究会
10+阅读 · 2017年9月3日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
2+阅读 · 2009年12月31日
国家自然科学基金
1+阅读 · 2008年12月31日
Arxiv
0+阅读 · 2023年5月19日
Arxiv
31+阅读 · 2022年2月15日
Arxiv
92+阅读 · 2020年2月28日
VIP会员
相关VIP内容
【元宇宙】“The State Of The Metaverse”26页报告
专知会员服务
43+阅读 · 2022年5月25日
Artificial Intelligence: Ready to Ride the Wave? BCG 28页PPT
专知会员服务
26+阅读 · 2022年2月20日
Into the Metaverse,93页ppt介绍元宇宙概念、应用、趋势
专知会员服务
47+阅读 · 2022年2月19日
相关资讯
知识图谱KG在NLP的十年研究进展综述
专知
14+阅读 · 2022年10月4日
VCIP 2022 Call for Demos
CCF多媒体专委会
1+阅读 · 2022年6月6日
Hierarchically Structured Meta-learning
CreateAMind
26+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
CreateAMind
28+阅读 · 2019年5月18日
SIGIR2019 接收论文列表
专知
18+阅读 · 2019年4月20日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
17+阅读 · 2018年12月24日
LibRec 精选:推荐的可解释性[综述]
LibRec智能推荐
10+阅读 · 2018年5月4日
【推荐】GAN架构入门综述(资源汇总)
机器学习研究会
10+阅读 · 2017年9月3日
相关基金
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
2+阅读 · 2009年12月31日
国家自然科学基金
1+阅读 · 2008年12月31日
Top
微信扫码咨询专知VIP会员