Predictor screening rules, which discard predictors from the design matrix before fitting a model, have had sizable impacts on the speed with which $\ell_1$-regularized regression problems, such as the lasso, can be solved. Current state-of-the-art screening rules, however, have difficulties in dealing with highly-correlated predictors, often becoming too conservative. In this paper, we present a new screening rule to deal with this issue: the Hessian Screening Rule. The rule uses second-order information from the model in order to provide more accurate screening as well as higher-quality warm starts. In our experiments on $\ell_1$-regularized least-squares (the lasso) and logistic regression, we show that the rule outperforms all other alternatives in simulated experiments with high correlation, as well as in the majority of real datasets that we study.
翻译：预言筛选规则将设计矩阵的预测器从设计模型中丢弃出来,在设计模型之前,预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器预言器的预言器预示器预言器预言器预言器预示器预示器预示了预言器的预示式器预言器预言器。 规则则使用该模型的预言器预言器预言器预言器预言器预言者使用二阶器预言器的预言者使用第二级信息,,, 预言者使用二阶器使用第二位信息, 预言式的预言论者则使用第二位信息,,,, 预言 预言, 预言 预言 预言 预言, 预言 预言 、 、 预言 、 、 、 、 、 、 等 、 、 、 、 、 等 等 、 、 等 、 、 等 、 、 等 、 、 、 、 、 、 等 、 等 、 等 、 等 、 、 等 等 、 等 等 等 、 等 、 、 、 、 、 、 、 、 、 、 、 、 等 等 、 、 、 、 等 等 、 、 、 等 等 等 等 等 、 等
相关内容
微信扫码咨询专知VIP会员