互信息相关公式整理

从一些论文整理的互信息相关公式

infobot

soft q MI

infobot appendix:

和下面公式一样：略去了下面的第二项

deepmind kl paper：

same as empowerment 4

unsup decision

vdb：

互信息和熵

https://navneet-nmk.github.io/2018-08-26-empowerment/   and paper;

empowerment 4

信息论书：

熵和互信息公式的对比：：

如有错误还请多批评！

欢迎加入我们！更多内容请访问公众号CreateAMind菜单。