近似 Solomonoff 归纳：论学习通用预测器的鲁棒性

关于近似 Solomonoff 归纳法的最新研究给出了通用预测器误差的最坏情况紧确界。在先验概率为 $w_\mu$ 的环境中，近似预测器的超额误差紧确界为 $\Theta(\eta/w_\mu)$，表明在小先验概率下性能会显著下降，但按先验加权的平均超额误差仅为 $O(\eta)$。论文还建立了分布偏移定理，并将鲁棒性分析拓展至与神经网络和 Transformer 相关的有限采样设置。