模型

Tiny 2.1:36.7 万参数 Transformer 模型装进软盘,486 老电脑可运行

开发者将微型 Transformer 模型塞进软盘,让 486 老电脑也能用上 AI

精选理由

这个项目挺有意思:380 KB 的 Transformer 真跑在 486 电脑上,还带语音朗读和可视化面板。想在老硬件上折腾推理、了解极小规模模型怎么量化压缩的开发者可以看看源码。

开发者 WollyMonjac 发布了 Tiny 2.1,一个用 Turbo C 2.0 编写的微型问答 Transformer 模型,可在运行 DOS 的 486DX 和 Pentium 老电脑上离线使用。

正文

模型仅有 36.7 万个参数,采用 4 层网络、隐藏维度 96、逐字母生成,权重经 8 位量化后总大小约 380 KB,可放入容量不足 147.5 万字节的软盘。训练数据约 3500 条事实信息,每条配多种问法。运行需要约 540 KB 常规内存,界面包含对话历史窗口、神经网络监控面板和 F 键快捷操作,还能通过 PC 内置扬声器朗读回答。项目以 MIT 许可证开源,附带训练文件夹,用户可自行补充数据定制问答模型。

作者承认该模型除训练数据涉及的知识外会"非常自信地编造内容",幻觉反而成了复古趣味的一部分。它延续了让现代软件跑在老硬件上的趋势,此前已有开发者为 DOS 做出 ChatGPT 客户端、将《我的世界》移植到 Game Boy 等项目。

原文 · IT之家

开发者将微型 Transformer 模型塞进软盘,让 486 老电脑也能用上 AI

IT之家 11 月 22 日消息,开发者 WollyMonjac 完成了一项颇具复古科技色彩的项目:将一个语言模型塞进软盘,让运行 DOS 系统的 486DX 和 Pentium 老电脑也能使用 AI。 不过需要说明的是,WollyMonjac 开发的 Tiny 2.1 并不是大型语言模型(LLM)。尽管它采用了与大型模型相同的 Transformer 架构,但开发者对它的定位相当朴素:一个使用 Turbo C 2.0 编写的微型问答 Transformer 模型。 在 486 电脑时代,普通 PC 格式化软盘的存储容量还不到 147.5 万字节,因此想要在如此有限的空间内运行现代 AI 软件并不容易。Tiny 2.1 则尽可能压缩模型体积,最终实现了以下配置: 参数量:36.7 万个,采用 4 层网络结构,隐藏维度为 96,逐字母读取和生成内容。 权重精度:8 位量化,每行使用一个缩放系数,模型总大小约为 380 KB。 训练数据:约 3500 条事实信息,每条信息都采用多种不同的问法进行训练。 要在老式 PC 上运行 Tiny 2.1,用户需要确保系统拥有约 540 KB 的可用常规内存。 IT之家注意到,这款软件的界面设计也相当完整,包含对话历史窗口、神经网络监控面板,以及用于输入问题的 Ask Tiny 窗口。按照 DOS 软件的传统习惯,界面还提供了一系列 F 键快捷操作。 此外,这款软件还有一个颇具复古未来主义色彩的功能:通过 PC 内置扬声器,以机器人语音朗读模型生成的回答。 开发者对这款 DOS 程序的定位显然十分谦逊。GitHub 项目页面介绍称,该软件由 Fable 5.2 编写,并由 Opus 5.5 训练。WollyMonjac 还开玩笑地承认,除了训练数据涉及的知识之外,这个语言模型“会非常自信地编造内容”。 近几个月,外界对大型语言模型幻觉问题的讨论有所减少,但放在这款复古 AI 项目上,这种一本正经地胡说八道的能力反倒有些像一项有趣的功能。 如果用户觉得 Tiny 2.1 的知识储备不够丰富,WollyMonjac 还在采用 MIT 许可证发布的软件包中提供了专门的训练文件夹。有兴趣的用户可以自行补充训练数据,打造一个专门针对自己感兴趣领域的问答 Transformer 模型。 如今,让老软件运行在全新的电脑硬件上已经不是什么难事。但反过来,让现代软件和游戏运行在几十年前的老硬件上,同样正在成为一股有趣的开发趋势。 除了此次受到关注的 Tiny 2.1,此前也出现过不少类似项目。例如,有开发者为 DOS 系统制作了 ChatGPT 客户端,让 1984 年推出的 IBM PC 也能使用 ChatGPT;有人成功让《我的世界》在 Game Boy 上运行;有人利用生成式 AI 为 Commodore 64 生成 8×8 像素精灵图;甚至还有开发者将《毁灭战士》(Doom)移植到了 Atari ST 电脑上。 这些项目虽然实用价值有限,却展示了开发者如何突破老旧硬件的性能和存储限制,让现代技术与经典计算设备产生有趣的碰撞。

产业坐标与信源核验

本条情报归属 AITOP「模型」核心栏目,重点聚焦北美前沿实验室与硅谷科技巨头。在跨区域产业观察坐标中,该动态直接关联「AI 开发者工具链、Coding Agent 与工程化实践」「中美大模型技术代差与商业化对照」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:Transformer、量化、DOS、开源模型,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。

信源核验说明:本文原始线索采编自「IT之家」,经 AITOP 多维评分管线结构化提炼。

Tiny 2.1:36.7 万参数 Transformer 模型装进软盘,486 老电脑可运行|AI热报