Circuit Breaker Labs 期望让 AI 对儿童及成人更安全

Circuit Breaker Labs 推出基于 AI Agent 的安全测试方案，通过模拟不同年龄与文化背景的用户开展红队测试，防止模型引发心理健康等危险问题。该系统每日运行数万至数十万次包含俚语和错别字的拟真对话交互，并依托专有方法生成可审计、可解释的安全评分。目前该团队正面向 AI 心理健康支持和辅导等高风险场景提供安全检测。