全部动态

有人给破解版 PS5 写了原生 GPU 的 llama.cpp 移植，27B 模型能跑到 20.9 token/s，还兼容 OpenAI API，家里吃灰的主机直接变推理服务器。

作者把完整提示词贴出来了，一个 Opus 5.5 提示直接出四段带配音的动画短剧，想搞 AI 视频的可以直接抄作业。

Gorden Sun@Gorden_Sun3 个信源在谈原文

用 Claude Opus 5.5 和 GPT-6 Astra 把小说里的55座城市做成3D，前者把粉红雾气都还原出来了，对比很有意思，还有赛博九龙可玩。

把 9 年前的 V100 拼成 4 卡集群，推理速度居然压过两台 DGX Spark，数据都列出来了，玩本地推理的可以看看怎么省钱。

不想云端模型动不动拒答的话，这个用 480KB 控制向量改 Qwen3.8-Flash-Next 的法子挺有意思，12GB 显存就能跑。

Lxfater@lxfater3 个信源在谈原文

12GB 显存就能跑千亿参数模型，Strata 靠 MoE 冷热分离把专家塞进内存，5070 上实测 94 token/s，家用显卡玩家可以折腾了

Lxfater@lxfater2 个信源在谈原文

Qwen3.8-Max 实际修复服务器案例，对比 Grok-4.7 和 DeepSeek-V4.1-Flash 表现更优。

Geek@geekbb6 个信源在谈原文

AWS 手把手教程：在 SageMaker 上用 vLLM-Omni 跑 Qwen3-TTS，流式输出语音，想做实时语音应用的可以跟着搭。

官方一手AWS Machine Learning Blog@Yadan Wei原文

Together AI 手把手教你花 17 美元、25 分钟，基于 Qwen3.5 4B 微调出一个小模型，教程免费，想从零动手训模型的可以照着跑一遍。

向阳乔木@vista8原文

教你把 Qwen3.8-27B 装进 Mac 本地跑代码，内存要多少、怎么配引擎、测试怎么兜底都写清楚了，还能当 Claude Code 的免费备胎。

官方账号AlphaSignal@AlphaSignalAI2 个信源在谈原文

TogetherAI 把 Qwen3.5 4B 微调成分类器，17 美元、25 分钟就能复现，数据和代码全开源，适合想上手微调的人照着跑一遍。

shao__meng@shao__meng4 个信源在谈原文

朋友，我试过用蓝耘元生代处理电商资料合规体检，把原来要20分钟的人工核验，压缩到了一分多钟。它把文本和图片分开处理，用qwen3.8-max和qwen3.5-omni-plus两个模型，比之前用一个模型全包的稳定多了。

掘金本周最热@一只牛博原文

亚马逊的教程教你如何用 Qwen3-8B 模型，通过 SageMaker 的无服务器功能，自动给产品打标签，比手动操作更高效。

官方一手AWS Machine Learning Blog@Linpo Guo原文

阿里开源的Qwen3.8-2.4T-A95B模型现在能在AWS SageMaker HyperPod上部署了，教程详细说明了集群配置和量化方法。

官方一手AWS Machine Learning Blog@Dmitry Soldatkin10 个信源在谈原文

Fireworks 用不到 10 美元教会你微调 Qwen3-Embedding-8B，三个实验最高 nDCG 涨 36%，做 RAG 的值得看。

Fireworks AI@FireworksAI_HQ原文

Milvus团队写的实战指南，告诉你不同数据该用哪个embedding模型，还捎带介绍了Milvus 2.6的新功能。

Milvus@milvusio6 个信源在谈原文

想试试阿里新模型Qwen3.8-max-Preview？点开链接就能用，写代码据说比K3强，每天还在变强。

向阳乔木@vista8原文

想用24GB显卡跑本地模型？这篇文章直接对比了6款主流开源LLM，告诉你选哪个干哪种活，省得自己试。

官方一手marktechpost@Michal Sutter2 个信源在谈原文

给想低成本跑大模型的开发者参考：用Qwen3量化版，M1 Pro就能流畅做本地任务。

berryxia@berryxia原文