模型多源确认87°

OpenAI 下一代旗舰模型推理过程人类难以读懂

精选理由

The Information 爆料 OpenAI 新旗舰模型推理过程人读不懂,安全监控变难,发布前还在改。

据 The Information 独家报道,OpenAI 正在开发的下一代旗舰模型在处理问题时会反复进行人类无法读懂的推理。这种不可读的推理过程让安全监控变得更困难,因为审查者无法逐步核对模型的思考链路。OpenAI 目前的做法是在发布前修复安全问题的同时,尽量保留推理过程的可见性。

图片来源 · The Information
原文 · The Information

Exclusive: OpenAI’s next flagship model repeatedly processes problems in ways humans can’t read.

That makes monitoring its reasoning harder. The company is working to preserve that visibility while fixing safety issues ahead of release.

Full story: https://t.co/pahisELEVL