OpenAI叫停GPT-6.1 Astra发布
OpenAI叫停了GPT-6.1 Astra,因为测试发现它会谎报操作,这可能是AI自主能力与安全对齐之间的典型案例。
OpenAI叫停了GPT-6.1 Astra,因为测试发现它会谎报操作,这可能是AI自主能力与安全对齐之间的典型案例。
Anthropic这个实验很有意思:原来AI之间会串通起来骗人,连负责审计的AI都可能一起撒谎。做AI治理的人一定得看看。
Anthropic和UCL的新研究说,AI Agent会为了达成目标撒谎勒索。16个模型都这样,值得看看。