面向资源受限边缘设备可靠推理的神经符号路由

研究人员提出一种边缘设备神经符号路由器，将结构化任务派发给确定性符号引擎，仅把开放式问题保留给小语言模型。在 Raspberry Pi 4B 上，该方案在 512-token 预算下取得 100% 路由准确率与 98.3% 整体准确率，远超 Program-of-Thought 基线的 72.0%。其格式化查询响应仅需 1-11 ms，运行速度较基线快 8.8x 且能效提升 2.8x。