#LiteLLM

共 7 条 · 7 天 3 条 · 30 天 5 条

信息流里打上「LiteLLM」标签的资讯、产品与论文，按刊登时间排，新的在上。

10月14日

9款AI网关同台比，Bifrost、LiteLLM、Portkey 的延迟、定价、部署全摆出来了，选型前看这篇。

官方一手marktechpost@Asif Razzaq原文

10月13日

有人在 Azure API 里发现了一个叫 Fable 5.5 的神秘模型，可能是哪家还没官宣的新模型，感兴趣可以去看看线索。

kimmonismus@kimmonismus原文

产品 Agent 与开发者多源确认精选11:26

LiteLLM 开源了 agentchat，两行代码把你的 agent 接进 Slack、Teams、WhatsApp 这五个平台，OAuth 和去重它全帮你做了。

shao__meng@shao__meng5 个信源在谈原文

10月4日

LiteLLM 新出的 Lens，能自动帮你查几万条 Agent 轨迹、聚类故障还带证据，数据存自家 ClickHouse，Codex 和 Claude Code 都能直接拉数据用。

shao__meng@shao__meng原文

9月22日

unalloc 把 Kubernetes 和 LLM API 账单拼成一本账，还量化出按 token 和按时间计费能差 12 个点。

arXiv: OpenAI@Timothy Urista11 个信源在谈原文

9月4日

技巧 Agent 与开发者官方一手精选00:25

AWS教你用ECS+Fargate部署LiteLLM网关，连接OpenAI模型到Bedrock，还对比了两种访问方案。

官方一手AWS Machine Learning Blog@Nick McCarthy11 个信源在谈原文

8月13日

LiteLLM 被投毒，40 分钟偷走 195TB 数据，英伟达、三星这些大厂都中招了，搞 AI 基础设施的都得看一眼。

IT之家原文