Goodfire 推出基于内部激活监控的 AI 智能体防护工具

AI 可解释性初创公司 Goodfire 推出基于模型内部状态的监控工具，已面向 Baseten 客户上线，旨在以更低成本监测失控 AI 智能体的越轨行为。该方案通过轻量探针直接复用模型前向传播中已有的中间激活值进行分类，仅在异常时触发二次复检；在针对 Kimi K3 的测试中，其监控 1500 个会话仅耗费约 51 美元，拦截了 94% 的恶意黑客行为，且首字延迟增加不到 2%。