arXiv cs.LG· Ameya Anjarlekar, Rasoul Etesami, R Srikant·· 15 天前AI 评分35
基于在线偏好学习的机会约束个性化 LLM 路由研究
Chance-Constrained Personalized LLM Routing with Online Preference Learning
AI 导读
研究人员针对个性化 LLM 路由提出一种受限上下文 Bandit 算法，旨在未知用户偏好并在部署期间通过反馈进行在线学习的同时，最小化累积推理成本并保证响应质量。在逻辑偏好模型与严格可行性条件下，该算法实现了相对于最优平稳随机上下文预言机的次线性期望成本遗憾，并对累积满意度提供高概率保障。该框架还可扩展至其他具有可靠性要求的在线模型选择问题。
来源：arXiv cs.LG · arxiv.org