We study RCTs that evaluate the impact of service interventions, for example, teachers or advisors conducting proactive outreach to at-risk students, medical providers giving medication adherence support by calling or texting, or social workers that conduct home visits. A defining feature of service interventions is that they are delivered by a capacity-constrained resource -- teachers, healthcare providers, or social workers -- whose limited availability creates causal inference complications. Because participants share a finite service capacity, adding more participants can reduce the timeliness or intensity of the service that others receive, introducing interference across participants. This generates hidden variation in the treatment itself, which we term operational dosage. We provide a mathematical model of service interventions using techniques from queueing theory and study the impact of capacity constraints on experimental outcomes. Our main insight is that treatment effects are both capacity- and sample-size-dependent, as well as decreasing in sample size once a critical threshold is exceeded. Interestingly, an implication is that statistical power of service intervention RCTs peaks at intermediate sample sizes -- directly contradicting conventional power calculations that assume monotonically increasing power with sample size. We instantiate our insights using simulations calibrated to a real-world trial evaluating a behavioral health intervention for tuberculosis patients in Kenya. Our simulation results suggest that a trial with high service capacity but limited sample size can obtain the same statistical power as a trial with lower service capacity but large sample size. Taken together, our results highlight the importance of capacity selection in experiment design and provide a mechanism for why experiments may fail to replicate or perform at scale.


翻译:本研究考察评估服务干预效果的随机对照试验,例如教师或顾问对风险学生进行主动干预、医疗服务提供者通过电话或短信提供用药依从性支持,或社会工作者开展家访服务。服务干预的一个关键特征在于其由容量受限的资源(教师、医疗提供者或社会工作者)实施,这些资源的有限可用性会引发因果推断的复杂性。由于参与者共享有限的服务容量,增加参与者数量可能降低其他参与者获得服务的及时性或强度,从而在参与者之间产生干扰效应。这导致处理本身存在隐性变异,我们将其定义为操作剂量。我们运用排队论技术建立了服务干预的数学模型,并研究了容量约束对实验结果的影响。核心发现表明:处理效应同时依赖于容量与样本量,且当样本量超过临界阈值后,处理效应随样本量增加而递减。有趣的是,这意味着服务干预随机对照试验的统计功效在中等样本量时达到峰值——这与传统功效计算中假设功效随样本量单调递增的观点直接相悖。我们通过模拟肯尼亚结核病患者行为健康干预的实际试验数据来验证这一发现。模拟结果表明:高服务容量但有限样本量的试验,与较低服务容量但大样本量的试验可获得同等统计功效。综上所述,我们的研究结果凸显了容量选择在实验设计中的重要性,并为解释实验难以复现或规模化失效的现象提供了机制性解释。

0
下载
关闭预览

相关内容

【NeurIPS2021】组合能量概念无监督学习
专知会员服务
14+阅读 · 2021年11月5日
【CVPR 2020 Oral】小样本类增量学习
专知
20+阅读 · 2020年6月26日
论文笔记之Feature Selective Networks for Object Detection
统计学习与视觉计算组
21+阅读 · 2018年7月26日
LibRec 每周算法:LDA主题模型
LibRec智能推荐
29+阅读 · 2017年12月4日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
46+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
VIP会员
相关资讯
【CVPR 2020 Oral】小样本类增量学习
专知
20+阅读 · 2020年6月26日
论文笔记之Feature Selective Networks for Object Detection
统计学习与视觉计算组
21+阅读 · 2018年7月26日
LibRec 每周算法:LDA主题模型
LibRec智能推荐
29+阅读 · 2017年12月4日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
46+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员