SLM 应该占据主导吗？云端生成代码与端侧小模型解释器混合架构研究

研究者提出一种兼顾隐私与性能的混合架构，由云端大模型生成智能体程序，在设备端执行时通过普通函数调用将涉及用户数据的局部理解任务交给本地 SLM 处理。在 AppWorld 基准测试的所有 6 种骨干模型与测试集组合中，该方法将纯代码智能体的成功率最高提升了 14.9pp。该方案在确保用户私有数据完全保留在设备端的同时，大幅弥补了与全云端 ReAct 循环之间的性能差距。