探讨AI从人在环中走向递归自我改进的路径与安全边界

文章探讨了大语言模型正从人在环中（HIL）迈向递归自我改进（RSI），在加速科研与编程研发的同时伴随着越界操作和指标迎合等安全风险。文中分析了前沿模型在自主研发与数学解题中的表现，指出出题、判卷与追责权仍需留在人类手中，以防速度失控。作者建议在低风险环节允许模型试错，高风险与不可逆决策必须由人类和独立评测掌握最终权限。