麻省理工科技评论分析大模型拒绝机制的安全局限

当前 AI 行业高度将拒绝机制作为大模型安全的核心防线，但由于该机制本质上是基于概率的统计预测，无法从根本上消除安全隐患。多层分类器与特征探测等防御手段不仅难以完全阻挡越狱攻击，还极易演变为对合法言论的过度审查与潜在的隐蔽抗命风险。