arXiv cs.AI· Niclas Flehmig, Mary Ann Lundteigen, Shen Yin·· 11 天前AI 评分35
COMET：面向人类监督 AI 安全系统的协同多层运行时监控框架
COMET: A coordinated multi-layer runtime monitoring framework for human-supervised AI-enabled safety systems
AI 导读
研究人员提出面向人类监督 AI 安全系统的协同多层运行时监控框架 COMET，整合信号完整性、物理一致性与能力边界监控输出并映射为交通灯式诊断展示。在压缩空气泄漏检测评估中，COMET 在约 1% 标称虚警率下，将协变量偏移及四分之三传感器故障中的误信错误率降至 0。该框架能将匿名警报转化为具体故障诊断，有效解决了裸 AI 系统的静默失效问题。
来源：arXiv cs.AI · arxiv.org