We consider the question of sequential prediction under the log-loss in terms of cumulative regret. Namely, given a hypothesis class of distributions, learner sequentially predicts the (distribution of the) next letter in sequence and its performance is compared to the baseline of the best constant predictor from the hypothesis class. The well-specified case corresponds to an additional assumption that the data-generating distribution belongs to the hypothesis class as well. Here we present results in the more general misspecified case. Due to special properties of the log-loss, the same problem arises in the context of competitive-optimality in density estimation, and model selection. For the $d$-dimensional Gaussian location hypothesis class, we show that cumulative regrets in the well-specified and misspecified cases asymptotically coincide. In other words, we provide an $o(1)$ characterization of the distribution-free (or PAC) regret in this case -- the first such result as far as we know. We recall that the worst-case (or individual-sequence) regret in this case is larger by an additive constant ${d\over 2} + o(1)$. Surprisingly, neither the traditional Bayesian estimators, nor the Shtarkov's normalized maximum likelihood achieve the PAC regret and our estimator requires special "robustification" against heavy-tailed data. In addition, we show two general results for misspecified regret: the existence and uniqueness of the optimal estimator, and the bound sandwiching the misspecified regret between well-specified regrets with (asymptotically) close hypotheses classes.
翻译:我们从累积遗憾的角度来考虑在累积遗憾的日志损失下进行顺序预测的问题。 也就是说, 根据分布的假设等级, 学习者依次预测( 分配) 下一个字母的顺序, 其性能与假设等级中最佳常数预测的基线比较。 这个非常具体的案例相当于一个额外的假设, 即数据生成分配也属于假设等级。 我们在这里展示了更一般性错误描述的结果。 由于日志损失的特殊性, 在密度估计和模型选择方面的竞争- 优化方面, 也出现了同样的问题。 对于 美元- 维的高斯 位置假设等级的假设等级, 我们表明, 累积对精心描述和错误描述的假设的预测的基线感到遗憾。 换句话说, 我们提供了一份美元(1美元) 的无分配( 或 PAC ) 遗憾的定性, 这是我们所知道的第一个这样的结果。 我们记得, 最坏的情况( 或个人后果) 在本案中, 最坏的情况( 最难的) 是, 最坏的情况是, 一个加固的常数 美元 高比 和 最坏的 最坏的 亚 的 的 的 的 最难 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 和最难 的 的 更 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 和 的 的 的 的 的 和 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的 的