DeepSeek 把 V4.1-Flash-1017 的权重直接放上 Hugging Face 和 ModelScope 了,想本地跑的可以去下载试试。
#Hugging Face
Perplexity 把两个开源决策模型挂上了 Hugging Face,flash 版推理快 5 倍还是 4B 档第一名,做智能体路由的可以试试。
Perplexity 把两款决策模型开源了,4B 那个跑一百万 token 才 1 美分,权重直接放 Hugging Face 上,自己搭服务的可以试试。
NVIDIA 工程师又把 ReflectionAI 的吞吐量从 70K 拉到约 90K 了,跑 Hugging Face 部署的可以看看这次优化细节。
Meta 的 816B 大模型现在有量化版能跑在 256GB 内存的机器上了,224GB 那档保住 89.2% 原始质量,有硬件的可以试试。
Reflection AI 把 Beam 权重按 Apache 2.0 开放了,BF16/FP8/NVFP4 三种精度都有,连训练用的 Mirror CLI 也一并开源,可以下载本地跑。
NVIDIA 把印度语言预训练的语料方案开源了,2.8 万亿 tokens 加完整数据管线,做多语言训练的可以直接抄作业。
Hugging Face 的 Clement 想把开源社区的评估工具送进 Anthropic 做审计,这事还没成,但他说的开源透明理念挺有意思。
NVIDIA 的 120B 视觉模型被压到 59.3GB,64GB Mac 就能本地跑,量化后还保留近九成性能,附了下载链接。
Hugging Face 的 julien_c 贴出了 Xet 每日下载量图表,还按结果做了细分,想了解 HF 下载底层表现可以点进去看看图。
NVIDIA 把 Nemotron 3.5 Super VL 的训练配方、数据、权重都放出来了,想做视觉多模态定制微调的可以直接拿去复现。
蚂蚁又开源了一个大模型,560B 总参但每个 token 只跑 25B,还能塞 100 万 token 上下文,MIT 协议想怎么商用都行。
Google 的 Embedding Gemma 2 冲上 Hugging Face 热门第一,HF 老大趁机吐槽:别只盯着推理模型,300 多万个公开模型里好东西多着呢
Hugging Face 和 OpenClaw 周五办开发者聚会,搞开源模型的朋友可以报名去认识同好。
GPT-2 原作者 Thom Wolf 搞了个只有一条推文长度的 nanoGPT 训练脚本,Hugging Face 上点一下就能跑,没 GPU 也能玩。
LlamaIndex 把文档解析基准 ParseBench 开放出来,147 个模型、2.6 万月下载,选文档处理方案前可以拿来对照各家模型。
Anyscale 和 Hugging Face 10 月 16 号在 SF 办开源 AI 聚会,做开源模型的可以去凑个热闹。
开源模型圈今天的大聚会,NVIDIA 和 Hugging Face 都到场,讲怎么用开源模型自建 AI 产品,YouTube 免费看直播。
Agent Arena 把 bash 失败判定改得更细了,只算模型自己的锅,用得干净的还能加分,选编程智能体时可以参考。
想用开源模型搭智能体的朋友可以看看这场直播,Nous Research、OpenHands、NVIDIA 这些团队都来讲实践,还有后训练怎么不浪费 GPU 的干货。
Hugging Face 老板放话要和 NVIDIA 一起把法国打造成全球第三大 AI 国,开源生态这张牌打得挺有意思,看看欧洲能不能搅局。
在旧金山的朋友可以留意:Allen AI 和 Hugging Face 10 月 16 日办开源社区聚会,感兴趣直接去 RSVP 报名就行。
Hugging Face 把 OpenAI 的数学题搬进了开源 RL 环境,405 道 Lean 形式化题自动判分,接进训练流程就能让模型自己刷题学证明。
Hugging Face 被 Nvidia 买下这事要是真的,开源模型圈得重新洗牌,Poolside、Essential AI 的人也被一起打包了。
PewDiePie 拍了期用 env 做后训练的视频,说自己老陷在生成任务数量不够的循环里,Hugging Face 的 merve 也共鸣了,做 RL 训练的可以看看这条经验。
用 Qwen-Image-2.1-Turbo 的人可以下载这些 GGUF 量化,4.2 GB 那档比 llama.cpp 的 Q4_K 失真少 21%,小显存也能本地跑。
Ai2 和 Hugging Face 10月16日在旧金山办免费开源 AI 聚会,现场能见到开源社区的人,感兴趣可以报名。