arXiv cs.AI· Yanze Wang, Pengfei Yao, Tianyi Sun, Hongda Chen, Yunyun Han, Jun Sun, Chuanrui Hu, Yafeng Deng·· 8 天前AI 评分44
超越收益指标:衡量 LLM 智能体技能内化以实现技能退役
Beyond Gain: Measuring Skill Internalization for Agent Skill Retirement
AI 导读
研究人员针对 LLM 智能体技能库提出一种测量技能内化程度的方法,用于替代仅凭性能增益退役冗余技能的传统规则。实验显示传统增益规则会误删超半数模型与技能均无法胜任的未覆盖技能,而新方法在保证奖励不下降的同时复现率更高(Cohen's kappa 为 0.42 对比 0.23)。团队已开源涵盖 4 个模型、包含 1,251 个技能及其评测任务与评分的数据集。
来源:arXiv cs.AI · arxiv.org