开源模型相关 AI 资讯 · AITOP

AITOPAI热报

8月2日

14:17

14:17IT之家（博客/媒体）

行业 MiMo-V2.5 DeepSeek 腾讯混元

推荐理由：央视这篇把OpenRouter榜单讲透了，前五全是国产，小米MiMo调用量两个月翻六倍，开源生态怎么赢的可以快速get。

原文

07:35

07:35IT之家（博客/媒体）

81°

美国众议院两个委员会主席联合调查DoorDash，要求其说明使用中国AI大模型的情况。DoorDash创始人Andy Fang称，内部测试中月之暗面Kimi K2.6搭配Anthropic Fable 5的组合，成本低于Sonnet 4.6加Opus 4.8且效果更好。目前DoorDash已通过模型路由服务将部分底层任务交给Kimi K2.6。议员认为开放权重模型虽有成本优势，但仍存在安全风险和国家安全担忧。

行业 DoorDash Kimi K2.6 月之暗面

事件专题

推荐理由：DoorDash用Kimi K2.6写代码被美国国会调查，中美AI竞争现在渗透到外卖平台了。

原文

03:08

官方一手marktechpost@Asif Razzaq

AMD推出Instella-MoE-16B-A3B，这是一个完全开源的混合专家语言模型，总参数16B，每个token仅激活2.8B。模型采用Gated MLA与FarSkip-Collective架构，在Instinct MI300X和MI325X GPU上从零训练。AMD已发布所有训练阶段的权重，并公开数据混合、配置和推理代码。

AI模型 Instella-MoE-16B-A3B AMD Instinct

推荐理由：想用AMD显卡跑大模型的可以看看，AMD把16B总参数、2.8B激活的MoE模型全开源了，连训练配置和数据配方都给了。

原文

8月1日

11:35

小互@imxiaohu

78°

DeepSeek-V4-Flash正式版发布，官方声称可原生接入OpenAI Codex。该模型在九项Agent测试中全部反超自家更大的V4-Pro预览版。它登顶开源模型前三，输出价格比Opus 4.8便宜89倍。DeepSeek还为Codex做了官方适配，提供一条命令接入方案。

AI模型 DeepSeek V4-Flash Codex

事件专题

推荐理由：DeepSeek新出的V4-Flash能直接配Codex，一条命令搞定，跑分还反超自家V4-Pro，价格比Opus 4.8便宜89倍。

原文

11:12

shao__meng@shao__meng

华为在 Hugging Face 发布 openPangu-2.0-Pro 的开源权重。官方称这是首个完全在昇腾 NPU 上训练的 500B+ 级模型，MoE 总参数量 505B、激活 18B，上下文 512K。在少量有交集的基准上，GPQA-Diamond 87.9，低于 Kimi K3 的 93.5 和 GLM-5.2 的 91.2；SWE-bench Verified 68.5，与 DeepSeek V3.1 的 66.0 接近。其 BrowseComp 65.7 也明显落后于 Kimi K3 的 91.2。

AI模型 openPangu-2.0-Pro 华为昇腾

事件专题

推荐理由：华为开源 openPangu-2.0-Pro（505B/512K，昇腾训练），但 GPQA 87.9 不如 Kimi K3。

原文

10:53

Justine Moore@venturetwins

一位用户过去一年半用同一图灵测试提示词试遍了 AI 视频模型，无一成功。MiniMax 3 成为首个通过该测试的模型，能在黑板上写出"Hi"。该模型由 Hailuo AI 团队发布，已开源。这标志着视频生成模型在指令遵循和文字书写能力上的显著进展。

AI模型 MiniMax 3 Hailuo AI 视频生成

推荐理由：MiniMax 3 居然能真在黑板上写 Hi，之前所有视频模型都做不到，还开源了，快去试试。

原文

09:48

lmarena.ai@lmarena_ai

精选

DeepSeek-V4-Flash-High在Frontend Code Arena中取得1586分，总排名第7。它在开源模型中位列第3，消费者产品类目排名第4。参考设计、数据与分析、游戏类目均排第6，品牌与营销类目排第7。相比DeepSeek-V4-Flash-High-Preview提升154分，相比DeepSeek-V4-Pro-Preview提升121分。该模型定价为每百万token输入0.14美元、输出0.28美元，是同级别中性能价格比最高的。

AI模型 DeepSeek-V4-Flash-High Frontend Code Arena DeepSeek

推荐理由：DeepSeek-V4-Flash-High跑前端代码榜第7、开源第3，价格0.14美元/百万token，同级别性价比最高。

原文

02:53

lmarena.ai@lmarena_ai

精选

Inkling-Small在Text Arena获得约第88名，AutoEval得分1431，开放模型中约第21。它仅用12B激活参数（总276B），比肩Minimax M2.7（1417分，10B激活）、Nemotron 3 Ultra（1426分，55B激活）和DeepSeek V4 Flash（1436分，13B激活）。该分数为AutoEval初步结果，由奖励模型代替人工投票产生。

AI模型 Inkling-Small thinkymachines Text Arena

事件专题

推荐理由：Inkling-Small只用12B激活参数就逼近DeepSeek V4 Flash，开放模型里排21名，少算力也能打，关注后续人投排名。

原文

02:05

官方账号Decoder@Matthias Bastian

72°

Thinking Machines 发布了开放权重的推理模型 Inkling Small，这是其第二款模型。它的体积不到前作 Inkling 的三分之一，但在多项编程和推理基准上表现优于 Inkling。该实验室由前 OpenAI CTO Mira Murati 创立，这次选择用更小的参数规模换取更高效率。

AI模型 Inkling Small Thinking Machines Mira Murati

事件专题

推荐理由：Mira Murati 的实验室发了新模型，比前作小三分之二，编程推理分数反而更高，开源可下载。

原文

01:57

a16z@a16z

72°

Decagon CEO Jesse Zhang 表示，企业开源模型采用率当前在下滑，开源推理占比正在走低，但这并非拒绝开源，而是采用扩散前的信号。企业启动新用例时会先用前沿模型，待流程跑通后，再迁移到更便宜、更快的开源模型。他透露 Decagon 自身 90% 的业务已运行在开源模型上。他还提到，客户支持需求永远超过供给，降低使用成本会带来更多购买。

行业 DecagonAI 开源模型企业采用

推荐理由：CEO说开源推理占比下降是好事：新用例先用前沿模型，成熟后换开源省钱。Decagon九成业务跑开源。

原文

01:39

elvis@omarsar0

OpenMLE是一个开源的递归自我改进全栈系统，包含可验证任务环境、算子学习和长时程搜索。团队在此基础上训练了Frontis-MA1，一个35B参数的元进化智能体，围绕Draft、Improve、Debug、Crossover四个原子编程演化算子构建。在MLE-Bench Lite上、单张RTX 4090且12GB显存限制下，Medal Average从39.39%提升到60.61%，配合异步搜索和经验先验达到71.21%。该成绩超过GPT-5.5 with Codex，接近GPT-5.6 Sol和2.8T的Kimi K3。论文见arxiv.org/abs/2607.28568。

论文 Frontis-MA1 OpenMLE MLE-Bench Lite

推荐理由：OpenMLE把自我改进变成可跑全栈，Frontis-MA1在4090上71.21%，代码模型都开源。

原文

00:47

a16z@a16z

DecagonAI CTO Ashwin Sreenivas在a16z访谈中表示，前沿大模型与廉价小模型之间的取舍是虚假的。他说，通过针对特定任务微调较'笨'的模型，这些模型在该任务上反而能超过大型前沿模型。目前DecagonAI约90%的推理负载运行在开源模型上，并以此服务银行、航空和电信客户。他举例称，年付费10万美元的客户享受白手套服务，而年付费10美元的客户只能看帮助中心，AI可缩小这种差距。

行业 DecagonAI 开源模型微调

推荐理由：DecagonAI的CTO说，别迷信顶级模型，微调开源小模型做具体任务，又便宜又快还更好用，值得一看。

原文

00:24

官方账号Clement Delangue@ClementDelangue

精选

Hugging Face CEO Clement Delangue在推文中透露，团队遭遇了未公开发布的专有模型攻击，最终使用英伟达量化的GLM 5.2开放模型完成防御。该模型来自智谱AI（Zai_org）。他警告称，禁止任何开放模型会首先伤害网络安全防御者、初创公司、小公司和研究者，这些群体需要本地化、可负担且可控的模型来竞争和自保。此言论直指当前对开放模型的监管争议。

行业 GLM 5.2 开源模型 Hugging Face

推荐理由：Hugging Face CEO说他们被神秘专有模型打了，靠开源的GLM 5.2扛住。想懂为啥不能禁开源模型，看这条就够。

原文

7月31日

23:57

a16z@a16z

精选

DecagonAI联合创始人与a16z对谈，透露其客服智能体90%运行在开源模型上。他们主张智能与便宜不是取舍，新用例先用前沿模型，成熟后迁移到开源。DecagonAI在应用层做按用例微调，降低支持成本后企业会购买更多支持服务。他们希望用AI缩小年付10万美元与10美元客户之间的客服差距。

技巧 DecagonAI a16z 智能体

推荐理由：这期访谈挺实在，DecagonAI说90%客服智能体跑在开源模型上，新场景先用贵的再用便宜的，搞微调能省成本。适合做AI应用的人听。

原文

23:04

官方一手歸藏(guizang.ai)@op7418

精选

DeepSeek 宣布 V4 Flash 0731 模型已开源。模型权重托管在 Hugging Face 的 deepseek-ai 组织下。该版本属于 Flash 系列，版本号为 0731。开发者可以下载权重进行本地部署或二次开发。

AI模型 DeepSeek V4 Flash 0731 Hugging Face

推荐理由：DeepSeek 把 V4 Flash 0731 的开源权重放出来了，想本地跑模型的话直接去 Hugging Face 下载就行。

原文

21:17

21:17IT之家（博客/媒体）

稀宇科技宣布 MiniMax H3 通用多模态视频模型将于北京时间 8 月 3 日 0 点在魔搭社区开源。该模型支持文本、图像、视频、声音组成的多模态上下文统一理解，可输出带原生双声道的音视频，最高支持 15 秒 2K 分辨率。官方称其默认提供 2K 分辨率，每秒价格不到主流模型的 1/3，768P 分辨率下价格为主流模型 720P 的 1/2。

AI模型 MiniMax H3 视频生成

推荐理由：MiniMax H3 8 月 3 日开源，能做 15 秒 2K 音视频，价格只有主流模型的 1/3，看看合不合用。

原文

18:14

Hailuo AI@Hailuo_AI

MiniMax 发布 H3 模型，定位开放权重、通用全模态生成。官方称其达到商用级生成质量，并强调成本效率具有竞争力。H3 支持多种模态的输入与生成，面向开发者开放权重。该模型延续了 MiniMax 在开源路线上的布局。

AI模型 MiniMax H3 开源模型

推荐理由：MiniMax 出了 H3，开放权重还便宜，能做全模态生成，想省成本搞商用的可以看看。

原文

17:23

Hunyuan@TXhunyuan

75°

腾讯开源翻译模型Hy-MT2自5月发布以来下载量已超70万次。Hy-MT2-1.8B登上Hugging Face趋势榜第一，Hy-MT2-30B-A3B位列第四。目前已有70多个产品和项目完成集成，并支持Apple MLX-LM、Microsoft ONNX Runtime、NVIDIA NeMo等框架。B站直播评论的实时多语言翻译已使用该模型。Hy-MT2-30B-A3B现已提供GGUF格式，便于本地推理。

AI模型 Hy-MT2 腾讯混元机器翻译

事件专题

推荐理由：Hy-MT2是腾讯开源的翻译模型，现在30B版本有GGUF格式，下载就能在本地跑，冲榜第一，试试呗。

原文

16:21

官方一手pandaily@contact@pandaily.com (Pandaily)

Kimi K3技术报告披露了MoonEP、KDA和AttnRes三套基础设施方案。报告强调MFU对训练效率的关键作用。Moonshot AI认为专家并行与共享专家的工程实现是真正壁垒。这些经验让开源模型的经济优势难以被复制。

AI模型 Kimi K3 Moonshot AI MoonEP

事件专题

推荐理由：Moonshot AI公开了Kimi K3的MoonEP等设计，但真正难抄的是工程调优经验，这决定了开源模型能不能打。

原文

15:38

15:38IT之家（博客/媒体）

Thinking Machines Lab发布Inkling-Small，总参数276B、激活参数12B，规模约为Inkling的四分之一。该模型采用MoE架构，支持音频和图像原生推理、最高1M token上下文。在Humanity's Last Exam基准中，Inkling-Small得分31.6%，高于Inkling的29.7%。模型完整权重已开放，并接入Tinker微调服务。

AI模型 Inkling-Small Thinking Machines Lab 开源模型

事件专题

推荐理由：Inkling-Small四分之一参数就能接近甚至超过原版，权重开源，还能微调，快去玩。

原文

12:58

官方账号arXiv cs.AI@Qiushi Sun, Kanzhi Cheng, Yian Wang, Bowen Yang, Hang Yan, Liheng Chen, Fangzhi Xu, Zichen Ding, Nuo Chen, Jialin Cao, Xingdong Gong, Zehao Li, Kaiming Jin, Xinfeng Yuan, Zhoumianze Liu, Jingyang Gong, Zhangyue Yin, Jiahui Gao, Zhiyong Wu, Tianbao Xie, Jianbing Zhang, Ben Kao, Lingpeng Kong

OSReward 是一个用于评估视觉语言模型（VLM）判断计算机使用智能体轨迹能力的基准。研究者在多平台、多智能体框架上收集人工验证的指令轨迹，并通过多阶段标注得到真实标签。评测发现，即使是当前最强的 VLM 判断器也存在系统性宽松偏差，常把失败操作标记为成功。为此，团队构建了包含 10 万条推理标注轨迹的 OS-Shepherd-100K 语料，并训练出 9B 和 35B 的 OS-Shepherd 奖励模型。这两个开源模型能以比商业判断器低 30-60% 的成本提供同等质量的奖励信号。

论文 OSReward OS-Shepherd 智能体

推荐理由：OS 团队开源了 OSReward 基准和 9B/35B 奖励模型，专测 AI 判断电脑操作任务是否成功，成本比商业方案低 30-60%。

原文

12:28

官方账号arXiv cs.LG@Iliya Mirzaei

该论文对七种自我反思方法进行对照实验，使用1.5B、3B和7B三种开源模型，在两个数学基准上各150道题。所有方法按实际生成token数对齐后，与重复采样取多数答案的基线比较，共36组配对检验。结果显示没有任何方法在相等成本下稳定优于重复采样，其中10组可靠更差，全部18组涉及模型自我检查的比较均为负面。Self-Refine和强制的Reflexion在7B模型上仍落后基线3.6至10.1个百分点，而最佳选择在1.5B时取多数答案比模型自选高8.0和11.3点，到7B时差距缩小至不显著。

论文 Self-Refine Reflexion 重复采样

推荐理由：这篇论文把Self-Refine、Reflexion这些热门方法拉出来做了严格对比，发现相同token预算下自己反思不如多采样几次取多数，想省成本做推理的可以看看。

原文

12:21

lmarena.ai@lmarena_ai

MiniMax H3已加入LMSYS视频竞技场，支持文本转视频和图像转视频两种模式，用户可参与投票评测。该模型主打全参考（Omni-Reference）能力、商业级生成效果和性价比，并承诺将开放权重。MiniMax H3现已在HailuoAI.video和MiniMax API上线，基准评分即将公布。

AI模型 MiniMax H3 HailuoAI

推荐理由：MiniMax发了新视频模型H3，能文生视频也能图生视频，你可以在竞技场里直接投票试玩，效果和开源都值得关注。

原文

12:18

12:18IT之家（博客/媒体）

英伟达CEO黄仁勋在Y Combinator播客中回应，自己2026年才在X平台发布第一条帖子，原因是性格内向。他于7月24日入驻X，首条帖文是英伟达签署的公开信，强调开源模型的重要性。黄仁勋表示，没有Linux、Kubernetes、TensorFlow、PyTorch等开源项目，移动互联网和云计算产业不会存在。

行业黄仁勋英伟达开源模型

事件专题

推荐理由：老黄说自己因为内向到2026年才开X，还安利了一波开源，听听他怎么看Linux和PyTorch。

原文

11:48

11:48IT之家（博客/媒体）

LG AI研究院发布了K-EXAONE 2.0，采用混合注意力MoE架构，总参数750B，激活参数37B，规模是初代K-EXAONE的3倍以上，成为韩国迄今最大AI基础模型。该模型以Apache 2.0许可证开源，在24项基准测试中平均得分70.1，比初代63.3分提高超10%。在三大编码和智能体编码基准上性能提升约30%，长上下文理解优于GLM-5.1，智能体工具使用能力优于智谱GLM-5.1和Qwen3.5，指令执行表现与GLM-5.1、DeepSeek V4 Pro Max等相当。

AI模型 K-EXAONE LG AI研究院开源模型

推荐理由：LG开源了韩国最大的K-EXAONE 2.0，750B参数，跑分比初代高10%，长上下文和工具调用还压过了GLM-5.1。

原文

11:10

OpenRouter@OpenRouterAI

MiniMax 发布开源权重视频模型 Hailuo H3，已上线 OpenRouter。H3 支持文本、图像、音频和视频四种输入，并输出原生音视频。官方定位包括指令驱动编辑、文字/品牌渲染和视频到视频的动作迁移。H3 主打轻量级，可直接在 OpenRouter 上调用。

AI模型 Hailuo H3 MiniMax OpenRouter

推荐理由：开源视频模型 H3 上 OpenRouter 了，能按指令改视频、渲染品牌文字，还能视频到视频迁移动作，直接调用很方便。

原文

10:30

10:30IT之家（博客/媒体）

77°

华为今日开源 openPangu-2.0-Pro 模型权重、基础推理代码及技术报告。该模型为昇腾 NPU 训练的 MoE 架构，总参数约 505B，每 token 激活约 18B，支持 512k 上下文，训练数据约 34T tokens。模型采用 MLA 加 DSA/SWA 分层混合、3 头 MTP 自投机等架构升级，后训练结合 SFT、多专项 RL 与 OPD 蒸馏。此前 openPangu-2.0-Flash（92B 参数）已于 6 月 30 日开源，本次 Pro 是 openPangu 2.0 七组件开源计划的一部分。

AI模型 openPangu-2.0-Pro 华为盘古

事件专题

推荐理由：华为盘古 505B 的 MoE 模型 openPangu-2.0-Pro 开源了，带权重和推理代码，支持 512k 上下文，想跑昇腾生态可以看。

原文

10:06

10:06IT之家（博客/媒体）

MiniMax 推出 H3 全模态生成模型，支持文本、图像、视频、声音的统一理解，并可输出原生双声道音视频。该模型最高支持 15 秒 2K 分辨率输出，在指令遵循、文字呈现和 V2V Motion Transfer 等任务上表现突出。MiniMax H3 新增 Caption 能力，大部分素材消耗约 100K Token 推理，最终平均输出约 4K Token。其 2K 视频不依赖常规超分模块，而是由 H3 基础模型对低分辨率结果进行 in-context 重新生成。模型权重将在未来几天内开放。

AI模型 MiniMax H3 MiniMax 视频生成

事件专题

推荐理由：MiniMax 发了新模型 H3，可生成带双声道音效的 2K 视频，超分用模型自己重画而非传统模块，过几天开源权重。

原文

10:01

官方一手pandaily@contact@pandaily.com (Pandaily)

Kimi K3 是 Moonshot AI 开源的 2.8T 参数模型，也是目前最大的开放权重模型。发布两天内因访问量过大导致服务短暂过载。该模型上线后占全球开源下载量的 41%，海外付费用户增长 4 倍，API 收入增长 400%。

AI模型 Kimi K3 Moonshot AI 开源模型

事件专题

推荐理由：Moonshot 开源的 Kimi K3 有 2.8T 参数，是目前最大开源权重模型，一上线就过载，海外付费和 API 收入都翻了几倍。

原文

09:17

Fireworks AI@FireworksAI_HQ

Fireworks 宣布加入 NVIDIA 和 Open Secure AI Alliance，强调开源权重模型作为关键基础设施需要透明和可审查的安全设计。该联盟由 NVIDIA 发起，旨在确保 AI 的开放性与安全性并重。Fireworks 的加入进一步壮大了联盟的力量，推动 AI 系统的韧性设计。此举反映了行业对开源模型安全问题的重视。

行业 Fireworks NVIDIA Open Secure AI Alliance

事件专题

推荐理由：Fireworks 和 NVIDIA 一起搞了个安全联盟，专门盯着开源模型的安全问题，挺实在的。

原文

05:14

官方账号Cohere@cohere

71°

Cohere与NVIDIA等业界领导者共同创立Open Secure AI Alliance，旨在保障AI基础设施安全并推动可信模型。联盟发起人Jensen Huang表示，攻击者已拥有前沿AI，防御者需要前沿AI生态。在Hugging Face安全事件中，封闭AI模型阻碍了取证，而开源权重模型帮助遏制了入侵。联盟因此成立，强调开放模型对安全防御的关键作用。

行业 Cohere NVIDIA Open Secure AI Alliance

事件专题

推荐理由：Cohere和NVIDIA牵头搞了个Open Secure AI安全联盟，说开放模型在安全事件中比闭源更管用，让人人能用上可信模型。

原文

03:39

lmarena.ai@lmarena_ai

精选

Thinking Machines 发布 Inkling-Small，总参数量 276B，其中 12B 活跃。该模型在 Text Arena 的 AutoEval 初评中获得 1431 分，排名 #88，并在开放模型中位列 #21。它是美国仅有的五个进入开放模型前 25 的模型之一。初始分数基于 Arena 人类偏好数据训练的奖励模型自动投票得出，待与真实投票验证。

AI模型 Inkling-Small Thinking Machines Text Arena

事件专题

推荐理由：Thinking Machines 新出的开源模型，276B 参数但只激活 12B，一发布就挤进 Text Arena 前 100，美国厂商里排前几，想试大参数但轻量推理的可以看看。

原文

03:32

Genspark@genspark_ai

超过230家公司和组织公开支持开放权重AI生态系统，Genspark宣布作为成员加入这一跨行业联盟。NVIDIA、微软等巨头共同推动生态联合，强调开放权重模型的发展势头正在持续增长。该联盟旨在通过开放合作强化AI基础设施。

行业 Genspark NVIDIA Microsoft

事件专题

推荐理由：230多家公司联手挺开放权重模型，NVIDIA和微软都在列，开源AI生态要起飞了。

原文

01:56

Fireworks AI@FireworksAI_HQ

Fireworks AI 发布 K3，据称是世界首个 3 万亿参数级别的开源前沿模型。该模型采用稀疏 MoE 架构，在多个基准测试中表现优于同规模闭源模型。Fireworks 将于 8 月 4 日举办网络研讨会，演示如何运行、训练和部署 K3。

AI模型 K3 Fireworks 开源模型

推荐理由：Fireworks 搞了个 3 万亿参数的 K3，开源直接能跑，比很多闭源还强，想玩超大模型的去看看。

原文

7月30日

15:20

AI Will@FinanceYF5

Ollama官方客户端支持在16GB内存的笔记本上运行本地AI模型，无需订阅或API Key。下载模型后可以完全离线使用，所有对话数据仅存储在本地。操作步骤包括关闭Ollama的云端同步功能，在设置中禁用远程服务器选项。推荐选择Llama 3.2 1B等轻量模型，可流畅运行。完成后所有对话不上传任何服务器，隐私完全可控。

技巧 Ollama 本地部署离线AI

推荐理由：想不花钱用AI？笔记本16GB内存就能跑Ollama，教你关掉云端，纯本地离线，数据全在自己手里。

原文

14:00

ollama@ollama

71°

Ollama 宣布与 Intel Business 团队合作，在 Intel Core Ultra Series 3 处理器上启用开源大语言模型。用户可在私人机器上运行本地推理，将工作流定制化。Ollama 利用该系列芯片加速推理，无需联网即可使用 LLM。

AI模型 Ollama Intel 开源模型

推荐理由：Ollama 和 Intel 合作，让开源模型在 Core Ultra Series 3 上跑本地推理，隐私又好用。

原文

10:33

10:33SuperTechFans（博客/媒体）

精选

TurboFieldfare 是一个采用 Swift 和 Metal 编写的开源推理运行时，专为 Apple Silicon Mac 设计。它通过 SSD 流式加载专家权重，使 Gemma 4 26B-A4B 模型仅需约 2GB 内存即可运行，无需加载完整的 14.3GB 模型。实测在 8GB M2 MacBook Air 上达到 5.1-6.3 tok/s，在 24GB M5 Pro 上达到 31-35 tok/s。项目提供本地 Mac 应用、CLI 和 OpenAI 兼容服务器，要求 macOS 26、Metal 4 和 Xcode 26。

AI模型 TurboFieldfare Gemma 4 Apple Silicon

事件专题

推荐理由：想在老 Mac 上跑大模型？这个开源引擎让 Gemma 4 26B 只需 2GB 内存就能跑起来，M2 上还有 5-6 tok/s，挺实用的。

原文

09:17

官方账号arXiv cs.LG@Petr Simecek, Elnaz Babayeva, Jiri Balhar, Michal Bida, Michal Buran, Vaclav Cadek, Luigino Camastra, Tomas Dulka, Michal Janocko, Tomas Klohna, Pavel Kohout, Ondrej Kokes, Adam Krivka, Jakub Kubik, Patrik Mada, Igor Morgenstern, Marek Pavelka, Joshua Rogers, Petr Stastny, Jan Tattermusch, Dmitrijs Trizna, Martin Votruba, Guido Vranken, Jakub Zikl, Evelina Gabasova, Stanislav Fort

论文提出HoF-Bench基准，由AISLE发现的95个真实CVE组成，覆盖8个开源仓库。在严格协议下，一个最小化LLM分析器重新发现了65个CVE（68%）。10个检测骨干包括5个开源模型（21B-284B参数）和5个专有小模型，均无前沿模型参与。基准提供7,600条模型-CVE通过记录，用于比较漏洞扫描器的可靠性。数据集已在Hugging Face发布。

论文 HoF-Bench AISLE CVE

推荐理由：想看开源模型能不能真挖漏洞？这个基准用95个真实CVE测了10种模型，最弱的也能找回68%，数据很实在。

原文

07:44