模型

Viggle 发布 JST-2:1 秒生成可探索的 3D 世界、角色与动作

精选理由

Viggle 出的 JST-2,1 秒不到 1 美分生成能在浏览器里逛的 3D 世界,角色省掉绑骨骼直接能动,还能拿真人视频转 3D 动作。

Viggle 团队发布 JST-2 模型,把世界拆解成带空间位置和物理属性的 3D 原子来学习三维结构与运动规律,而不是只学像素表面。生成一个完整 3D 场景只需 1 秒、成本不到 1 美分,场景可在浏览器中自由探索并实时向外扩建,还能根据几张房间照片补全未拍到的区域生成完整空间。角色方面,输入文字或一张人物图即可生成自带骨骼、无需绑定的可动 3D 角色,并支持文字或真人视频直接转成含手指细节的全身 3D 动作,兼容标准 3D 软件骨骼。模型未开源,可在线使用或通过 API 调用。

图片来源 · Gorden Sun
原文 · Gorden Sun

Viggle JST-2:一秒生成可探索的3D虚拟世界、角色和动作的AI模型

市面上的很多世界模型只盯着画面像素去学习,只能拼凑出表面长什么样,很难真正理解真实世界里的三维空间和物理规律。

为了解决这个问题,Viggle团队开发了全新的JST-2模型。这个模型把世界拆解成一个个带有空间位置和物理属性的“3D原子”,直接从底层学习物体的空间结构和运动规律。

速度非常快,只需要1秒钟、花不到1美分,就能生成出一个完整的3D场景,生成的场景直接在浏览器里就能打开,你可以随便拖动视角在里面逛,一边逛还能一边实时向外扩建新的区域。如果上传几张真实房间的照片,它也能自动把照片里没拍到的死角补全,还原出一个完整的3D空间。

另外在做3D人物和动作上也很强:

· 角色自带骨骼,直接能动:你只需要输入文字或者传一张人物图(哪怕图片被裁切过或者有遮挡也没关系),JST-2就能直接生成3D角色。由于生成时已经把运动变形的规律写了进去,省去了传统3D制作里繁琐的“绑骨骼”步骤,造出来的人直接就能动。 · 文字和视频直接转3D动作:你可以用文字描述动作,或者上传一段真人视频,它就能生成对应的全身3D动作(连被遮挡的身体部位和精细的手指动作都能推算出来)。这些动作不用额外调整就能直接套在生成的角色身上,也能兼容标准的3D软件骨骼。

模型未开源,可以在线使用或API调用,实际应用于生产,还得再多些验证。

官方介绍:https://t.co/Zr889Zv83v