256k·general

256k

别名
首次出现
2026-05-29
最近出现
2026-08-30
累计提及
74
§ 01综述

256k通常指大语言模型(LLM)的上下文窗口长度,即模型在一次对话或任务中能处理的最大文本量,以千个token为单位。近期,随着多模态模型、混合专家(MoE)架构的发展,256k上下文成为部分前沿模型的核心参数之一,推动AI在长文本处理、复杂任务交互等场景的应用。

256k近期进展

腾讯混元发布Hy3模型,支持256K上下文与Go语言,该模型通过混合专家架构实现高效处理,限免活动延长至2026年8月31日(IT之家,https://www.ithome.com/0/985/527.htm)。蚂蚁Ling团队发布Ling-3.0-flash,124B MoE模型激活仅5.1B参数,虽未直接提及256k,但MoE架构与长上下文结合是当前技术趋势(vLLM,https://x.com/vllm_project/status/2080702006378082384)。微软发布MAI-Cyber-1-Flash,5B活跃参数网络防御模型,在CyberGym达95.95%,长上下文对网络安全任务的重要性凸显(marktechpost,https://www.marktechpost.com/2026/07/28/microsoft-ai-releases-mai-cyber-1-flash-a-5b-active-parameter-cyber-model-that-pushes-mdash-to-95-95-on-cybergym/)。QQ宠物接入腾讯Hy3大模型,利用256k上下文实现更自然的交互体验(IT之家,https://www.ithome.com/0/981/998.htm)。

当前焦点与观察点

256k上下文的应用仍面临“上下文腐烂”等挑战,如GPT-5.5在百万token上下文下准确率仅36%,反映出长文本处理中的信息衰减问题(AI Will,https://x.com/FinanceYF5/status/2076916597416194124)。混合专家架构通过激活部分参数降低计算成本,成为平衡256k上下文与性能的关键路径,如Ling-3.0-flash的5.1B激活参数设计。此外,本地部署与多模态模型的结合(如NVIDIA DGX Spark支持本地跑模型)推动256k上下文在边缘场景落地,而腾讯Hy3等模型通过限时免费策略加速技术普及。
§ 02相关报道10 条在档
  1. 01
    腾讯发布Hy4预览版大模型
    Simon Willison’s Weblog
  2. 02
    阿里开源Qwen3.8-2.4T-A95B:2.4T MoE、激活95B、原生256K上下文
    IT之家
  3. 03
    腾讯刘炽平:微信将成AI为先生态系统,可转化为巨大价值
    IT之家
  4. 04
    DGX Spark本地跑模型指南:DeepSeek v4 Flash与GLM-5.2搭配
    NVIDIA AI
  5. 05
    腾讯WorkBuddy/CodeBuddy:Hy3模型限时免费延长至2026年8月31日
    IT之家
  6. 06
    微软发布MAI-Cyber-1-Flash:5B活跃参数网络防御模型,MDASH在CyberGym达95.95%
    marktechpost
  7. 07
    QQ 宠物全新升级归来,接入腾讯 Hy3 大模型
    IT之家
  8. 08
    蚂蚁Ling团队发布Ling-3.0-flash,124B MoE模型激活仅5.1B参数
    vLLM
  9. 09
    腾讯混元发布Hy3模型,支持256K上下文与Go语言
    Hunyuan
  10. 10
    腾讯混元Hy3限免活动延长至8月5日
    IT之家
§ 03邻近话题

本页综述由 AITOP 基于公开报道整理。原报道版权归各自来源所有。

/topic/256k