Agent 最危险的不是崩溃,是自信地假完成
Agent 最危险的不是崩溃,是自信地假完成
Agent 系统最危险的生产级故障不是崩溃或超时,而是自信地报告假完成。完成幻觉、反思膨胀、failover 降级掩盖、评分洗白——这些假完成形态绕过了所有传统错误检测。核心洞察:假完成比真崩溃更危险,因为它制造满足感而非触发修复。需要在目标级别而非步骤级别做验证。