用 Amazon Bedrock 和 LiteLLM 搭建自助式 LLM 网关
教你在 Fargate 上用 LiteLLM 给 Bedrock 套一层 OpenAI 兼容接口，一个 key 就能调用，还能按人头控成本和配额。自己搭过内部 LLM 平台的会知道这套组合有多省事。
#AWS Fargate
共 1 条 · 7 天 1 条 · 30 天 1 条
信息流里打上「AWS Fargate」标签的资讯、产品与论文，按刊登时间排，新的在上。
11月13日
教你在 Fargate 上用 LiteLLM 给 Bedrock 套一层 OpenAI 兼容接口，一个 key 就能调用，还能按人头控成本和配额。自己搭过内部 LLM 平台的会知道这套组合有多省事。