Context: Software crowdsourcing platforms typically employ extrinsic rewards such as rating or ranking systems to motivate workers. Such rating systems are noisy and only provide limited knowledge about worker's preferences and performance. Goal: The objective of this study is to empirically investigate patterns and effects of worker behavior in software crowdsourcing platforms in order to improve the success and efficiency of software crowdsourcing. Method: First, we create the bipartite network of active workers based on common registration for tasks. Then, we use the Clauset-Newman-Moore graph clustering algorithm to identify developer clusters in the network. Finally, we conduct an empirical evaluation to measure and analyze workers' behavior per identified cluster in the platform by workers' ranking. More specifically, workers' behavior is analyzed based on worker reliability, worker trustworthiness, and worker success as measures for workers' performance, worker efficiency, and worker elasticity to represent workers' preferences, and worker contest, worker confidence, and worker deceitfulness to understand workers' strategies. The empirical study is conducted on more than one year's real-world data from topcoder, one of the leading software crowdsourcing platforms. Results: We identify four clusters of active workers: mixed-ranked, high-ranked, mid-ranked, and low-ranked. Based on statistical analysis, this study can only support that the low ranked group associates with the highest reliable workers with an average reliability of 25%, while the mixed-ranked group contains the most trustworthy workers with average trustworthiness of 16%. Conclusions: These findings are helpful for task requesters to understand preferences and relations among unknown resources in the platform and plan for task success in a more effective and efficient manner in a software crowdsourcing platform.


翻译:软件众包平台 : 软件众包平台通常使用诸如评级或排名系统等外部奖励机制来激励工人。 此类评级系统非常吵闹,只提供工人偏好和业绩方面的有限知识。 目标 : 本研究的目标是实证调查软件众包平台中工人行为的模式和影响, 以提高软件众包平台的成功率和效率。 方法 : 第一, 我们创建基于任务共同注册的双方活跃工人网络。 然后, 我们使用条款- 纽曼- 摩尔图形群集算法来识别网络中的开发者偏爱群。 最后, 我们进行实证评估, 测量和分析平台中每个已确定的组的工人行为。 更具体地说, 工人行为分析基于工人的可靠性、 工人信任度和工人成功率, 代表工人的偏好, 工人竞争, 工人信心, 以及工人对理解工人战略的欺骗性。 实证研究仅用超过一年的上层代码、 领先的软件众包平台的实实在性平台数据, 。 结果: 我们根据工人的四组分析,,, 中层,,, 中层,, 中层,,, 中层,, 中层,,,, 中,,, 中层, 中,, 级,,,, 中级, 级, 上层, 级,, 级, 级,,,, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级, 级,

0
下载
关闭预览

相关内容

专知会员服务
31+阅读 · 2021年6月12日
【干货书】机器学习速查手册,135页pdf
专知会员服务
125+阅读 · 2020年11月20日
因果图,Causal Graphs,52页ppt
专知会员服务
246+阅读 · 2020年4月19日
【干货书】真实机器学习,264页pdf,Real-World Machine Learning
专知会员服务
109+阅读 · 2020年3月12日
强化学习最新教程,17页pdf
专知会员服务
174+阅读 · 2019年10月11日
机器学习入门的经验与建议
专知会员服务
92+阅读 · 2019年10月10日
LibRec 精选:AutoML for Contextual Bandits
LibRec智能推荐
7+阅读 · 2019年9月19日
Hierarchically Structured Meta-learning
CreateAMind
26+阅读 · 2019年5月22日
强化学习的Unsupervised Meta-Learning
CreateAMind
17+阅读 · 2019年1月7日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
16+阅读 · 2018年12月24日
Disentangled的假设的探讨
CreateAMind
9+阅读 · 2018年12月10日
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
分布式TensorFlow入门指南
机器学习研究会
4+阅读 · 2017年11月28日
【推荐】RNN/LSTM时序预测
机器学习研究会
25+阅读 · 2017年9月8日
Arxiv
0+阅读 · 2021年9月3日
Arxiv
0+阅读 · 2021年9月3日
Meta-Learning to Cluster
Arxiv
17+阅读 · 2019年10月30日
VIP会员
相关VIP内容
专知会员服务
31+阅读 · 2021年6月12日
【干货书】机器学习速查手册,135页pdf
专知会员服务
125+阅读 · 2020年11月20日
因果图,Causal Graphs,52页ppt
专知会员服务
246+阅读 · 2020年4月19日
【干货书】真实机器学习,264页pdf,Real-World Machine Learning
专知会员服务
109+阅读 · 2020年3月12日
强化学习最新教程,17页pdf
专知会员服务
174+阅读 · 2019年10月11日
机器学习入门的经验与建议
专知会员服务
92+阅读 · 2019年10月10日
相关资讯
LibRec 精选:AutoML for Contextual Bandits
LibRec智能推荐
7+阅读 · 2019年9月19日
Hierarchically Structured Meta-learning
CreateAMind
26+阅读 · 2019年5月22日
强化学习的Unsupervised Meta-Learning
CreateAMind
17+阅读 · 2019年1月7日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
16+阅读 · 2018年12月24日
Disentangled的假设的探讨
CreateAMind
9+阅读 · 2018年12月10日
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
分布式TensorFlow入门指南
机器学习研究会
4+阅读 · 2017年11月28日
【推荐】RNN/LSTM时序预测
机器学习研究会
25+阅读 · 2017年9月8日
Top
微信扫码咨询专知VIP会员