AI 灾难性表现的形式化定义

针对 AI 目标失准引发的灾难风险，研究者提出了“灾难性表现”的形式化定义，用于严格区分单纯的次优结果与灾难性后果。该定义基于未部署智能体时的“基线值”，以及通常远差于基线值、与人类偏好无关的“正交值”两个参考基准。在此框架下，灾难性表现代表部署的 AI 智能体不仅未加速人类发展，反而抹除了人类既有活动所积累的益处。