开放世界 AI 的三大核心要求研究

开放世界 AI 研究提出应对未知任务的三大核心要求，包括推理期学习、保留超越独立同分布泛化所需的丰富表征，以及实现输入输出对齐的预测性解耦。理论同时预测了具备一致内部学习器以及跨相关任务长上下文的重要性。在高达 8B 参数的语言模型测试中，满足要求的模型随相关任务数据累积而提升，不满足的模型则会出现性能退化，且无法通过模型规模或层类型交错来弥补。