产品多源确认精选

蚂蚁与清华推出 Realtime-Venus:OpenAI Realtime API 开源替代方案

精选理由

蚂蚁和清华开源了 Realtime-Venus,能边听看边聊、后台跑任务,对标 OpenAI Realtime API,做智能眼镜和车载助手的可以看看。

蚂蚁集团和清华联合发布 Realtime-Venus,定位为 OpenAI Realtime API 的开源替代方案。系统采用双循环架构,由两个 9B 模型组成:Realtime-Venus-Omni 负责持续感知音视频输入,Realtime-Venus-Audio 提供原生全双工语音。Realtime-Venus-Harness 把复杂推理、搜索和工具调用委派给后台异步执行,结果完成后再带回当前对话,避免用户为等待任务而中断交流。该方案适用于智能眼镜、车载助手等需要持续观察环境并同时处理任务的实时多模态 Agent 场景。

原文 · AIGCLINK

OpenAI Realtime API开源替代方案,蚂蚁和清华搞了一个:Realtime-Venus,支持实时音视频感知、全双工语音、异步Agent执行

一套能持续听、看、说,同时在后台执行复杂任务的实时多模态Agent系统

这对智能眼镜、车载助手来说比较有价值,把实时Agent从一个语音接口变成一个能持续观察环境、随时交流、同时处理任务的助手

双循环架构,它把实时交互和耗时任务拆成两条并行运行的链路,核心由两个9B模型和一个Harness组成

Realtime-Venus-Omni,用来持续感知音视频输入 Realtime-Venus-Audio,原生全双工语音 Realtime-Venus-Harness,把复杂推理、搜索和工具调用委派给后台执行,完事后再把结果带回当前对话

前台持续感知和交流,后台异步执行耗时任务,感知上用户不必为了等待AI完成任务中断对话

#RealtimeVenus #OpenAIRealtimeAPI