In this paper, we investigate the age minimization problem for a two-hop relay system, under a resource constraint on the average number of forwarding operations at the relay. We first design an optimal policy by modelling the considered scheduling problem as a constrained Markov decision process (CMDP) problem. Based on the observed multi-threshold structure of the optimal policy, we then devise a low-complexity double threshold relaying (DTR) policy with only two thresholds, one for relay's AoI and the other one for the age gain between destination and relay. We derive approximate closed-form expressions of the average AoI at the destination, and the average number of forwarding operations at the relay for the DTR policy, by modelling the tangled evolution of age at relay and destination as a Markov chain (MC). Numerical results validate all the theoretical analysis, and show that the low-complexity DTR policy can achieve near optimal performance compared with the optimal CMDP-based policy. Moreover, the relay should always consider the threshold for its local age to maintain a low age at the destination. When the resource constraint is relatively tight, it further needs to consider the threshold on the age gain to ensure that only those packets that can decrease destination's age dramatically will be forwarded.


翻译:在本文中,我们根据对中继站转发业务平均数量的资源限制,调查双速中继系统的年龄最小化问题。我们首先设计了一种最佳政策,将考虑的时间安排问题模拟为限制的马尔科夫决策过程(CMDP)问题。根据观察到的最佳政策多阈值结构,我们然后设计了一个低复杂性双下限转发政策,只有两个阈值,一个是转发的AoI,另一个是目的地和中继之间的年龄增益。我们得出目的地平均AoI的封闭式表达方式和DTR政策中中继站的平均转发业务数量,将中继站和目的地年龄的交织演变模拟为马尔科夫链(MC)。数字性结果验证了所有理论分析,并表明低兼容性DTR政策与最佳CMDP政策相比可以达到接近最佳的绩效。此外,中继站应始终考虑其当地年龄的临界值,以维持目的地的较低年龄。当资源限制相对紧缺时,它需要进一步考虑最低的目的地。

0
下载
关闭预览

相关内容

专知会员服务
76+阅读 · 2021年3月16日
专知会员服务
136+阅读 · 2021年1月13日
专知会员服务
50+阅读 · 2020年12月14日
专知会员服务
52+阅读 · 2020年9月7日
Fariz Darari简明《博弈论Game Theory》介绍,35页ppt
专知会员服务
109+阅读 · 2020年5月15日
强化学习最新教程,17页pdf
专知会员服务
174+阅读 · 2019年10月11日
LibRec 精选:AutoML for Contextual Bandits
LibRec智能推荐
7+阅读 · 2019年9月19日
Hierarchically Structured Meta-learning
CreateAMind
26+阅读 · 2019年5月22日
Call for Participation: Shared Tasks in NLPCC 2019
中国计算机学会
5+阅读 · 2019年3月22日
强化学习的Unsupervised Meta-Learning
CreateAMind
17+阅读 · 2019年1月7日
Unsupervised Learning via Meta-Learning
CreateAMind
42+阅读 · 2019年1月3日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
16+阅读 · 2018年12月24日
【泡泡一分钟】一种实用且高效的多视图匹配方法
泡泡机器人SLAM
6+阅读 · 2018年11月19日
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
【推荐】决策树/随机森林深入解析
机器学习研究会
5+阅读 · 2017年9月21日
强化学习族谱
CreateAMind
26+阅读 · 2017年8月2日
Arxiv
0+阅读 · 2021年4月19日
Arxiv
0+阅读 · 2021年4月16日
Arxiv
24+阅读 · 2020年3月11日
VIP会员
相关VIP内容
专知会员服务
76+阅读 · 2021年3月16日
专知会员服务
136+阅读 · 2021年1月13日
专知会员服务
50+阅读 · 2020年12月14日
专知会员服务
52+阅读 · 2020年9月7日
Fariz Darari简明《博弈论Game Theory》介绍,35页ppt
专知会员服务
109+阅读 · 2020年5月15日
强化学习最新教程,17页pdf
专知会员服务
174+阅读 · 2019年10月11日
相关资讯
LibRec 精选:AutoML for Contextual Bandits
LibRec智能推荐
7+阅读 · 2019年9月19日
Hierarchically Structured Meta-learning
CreateAMind
26+阅读 · 2019年5月22日
Call for Participation: Shared Tasks in NLPCC 2019
中国计算机学会
5+阅读 · 2019年3月22日
强化学习的Unsupervised Meta-Learning
CreateAMind
17+阅读 · 2019年1月7日
Unsupervised Learning via Meta-Learning
CreateAMind
42+阅读 · 2019年1月3日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
16+阅读 · 2018年12月24日
【泡泡一分钟】一种实用且高效的多视图匹配方法
泡泡机器人SLAM
6+阅读 · 2018年11月19日
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
【推荐】决策树/随机森林深入解析
机器学习研究会
5+阅读 · 2017年9月21日
强化学习族谱
CreateAMind
26+阅读 · 2017年8月2日
Top
微信扫码咨询专知VIP会员