OpenAI称Astra为最危险模型

OpenAI将即将发布的Astra模型评为首个具备'关键'网络能力的系统。该公司计划通过监控思维链来控制该模型。然而，这种监控已被证明是模型真实决策的不可靠反映。据报告，Astra的新架构将更多思维过程推向不可读区域。随着能力提升，安全网可能正在变弱。