模型官方一手精选9月9日 19:21

GPT-6 Astra与循环Transformer研究

GPT-6 Astra, Looped Transformers, and Hidden Reasoning

官方一手Sebastian Raschka: Ahead of AI@Sebastian Raschka, PhD

博客/媒体· 11 个信源在谈

精选理由

OpenAI的GPT-6 Astra用循环Transformer改进了推理能力，比标准Transformer更高效。

OpenAI正在研发GPT-6 Astra模型，采用循环Transformer架构。该模型通过递归深度和隐藏思维链提升推理能力。在多个基准测试中，循环Transformer展现出比标准Transformer更强的长序列处理能力。研究人员发现这种架构能有效减少计算资源消耗。

原文 · Sebastian Raschka: Ahead of AI

GPT-6 Astra, Looped Transformers, and Hidden Reasoning

A Look at Recurrent Depth, Hidden Chains of Thought, and Recent Research on Looping Transformer Blocks

继续读