arXiv cs.LG· Matthew McDermott, Florent Pollet, Payal Chandak, Gregory Kondas, Liat Friedman Antwarg, Noa Dagan, Isaac Kohane·· 16 小时前AI 评分34
理解与构建具备“任意任务推理”能力基础模型的理论框架
A Theoretical Framework for Understanding and Building "Any-task inference" Capable Foundation Models
AI 导读
新研究针对具备“任意任务推理”（ATI）能力的基础模型提出了形式化理论框架，将其定义为直接将数据样本与任务映射到标签空间的系统。该框架通过“通用任务归约”视角把模型分解为编码器、模型和解码器，并将模型误差拆分为设计项与实现模型超额项。研究还提出了生成式与判别式两类构建方案，并通过 5 个真实模型案例进行了验证。
来源：arXiv cs.LG · arxiv.org