行业多源确认

英伟达投资印度初创公司 Simplismart,帮企业降低 GPU 推理成本

英伟达投资印度初创公司 Simplismart,助力企业用更少 GPU 运行 AI 模型

精选理由

英伟达投了家印度公司 Simplismart,帮 InVideo 把 GPU 成本砍了 56%,虽然做的是减少 GPU 用的软件,英伟达反而觉得这是扩大需求的好事。

英伟达参与印度班加罗尔初创公司 Simplismart 的 1,400 万美元 B 轮融资,公司估值约 1 亿美元。其推理优化软件位于模型与计算基础设施之间,曾帮 AI 视频平台 InVideo 将 GPU 服务成本降低 56%。过去六个月公司年化收入运行率增长 14 倍至八位数规模,超过一半收入来自美国市场。英伟达还在与 Simplismart 围绕 Dynamo 推理软件开展技术集成合作。竞争对手包括 AWS、Google Cloud 和微软 Azure。

原文 · IT之家

英伟达投资印度初创公司 Simplismart,助力企业用更少 GPU 运行 AI 模型

IT之家 10 月 28 日消息,随着人工智能热潮持续挤占计算资源,英伟达(Nvidia)参与了印度初创公司 Simplismart 的 1,400 万美元 (IT之家注:现汇率约合 9,357.3 万元人民币) 融资。本轮投资瞄准的是一类能够提高 AI 模型运行效率的软件,这类软件在某些情况下可以帮助企业减少 GPU 的使用量。 本轮融资为 B 轮融资,全部为新增股权融资。除英伟达外,Accel、Shastra VC 和 Micromax 也参与了投资,达拉斯风险投资公司(Dallas Venture Capital)领投。交易完成后,这家成立仅四年的初创公司估值约为 1 亿美元 (现汇率约合 6.68 亿元人民币) ,其中包含本轮融资资金。 如今,各家企业正投入大量资金购买 GPU,以支持 AI 应用运行。但要让这些模型在大规模部署时兼顾稳定性和经济性,仍然面临不小的挑战。不同工作负载对运行速度、成本和性能的要求各不相同。为了满足业务需求,企业在部署和运营 AI 模型时,往往还需要进行复杂的参数调整。 Simplismart 表示,其软件能够自动完成其中大量工作,根据模型的实际需求调整其在现有计算基础设施上的运行方式,而不必让客户自行管理这些复杂配置。 Simplismart 联合创始人兼首席执行官阿姆里坦舒 · 贾恩(Amritanshu Jain,文中上方配图左侧人物)在接受采访时表示:“实际上,没有人真正需要推理速度最快或成本最低的方案。”他解释称,企业真正需要的是一种适合自身具体应用场景的方案,让 AI 模型在合理的速度和成本范围内运行。 Simplismart 的软件位于 AI 模型与底层计算基础设施之间,通过调整模型的部署和管理方式,满足客户的具体需求。该公司表示,其软件能够优化模型响应速度、请求处理量以及计算资源消耗等指标,帮助企业更充分地利用现有 GPU 资源。 这家总部位于印度班加罗尔的初创公司,为企业提供了多种部署和运行 AI 模型的方式:既可以通过 Simplismart 自有平台运行,也可以直接使用客户现有的云基础设施或本地部署环境。 此外,该公司还提供模型微调工具,能够根据需求变化自动扩缩计算资源,并监控模型运行表现。云服务提供商也可以利用 Simplismart 的软件,在 GPU 基础设施上构建和运营自己的 AI 推理服务。 Simplismart 表示,其软件帮助 AI 视频生成平台 InVideo 将 GPU 服务成本降低了 56%。该公司还与 AI 视频企业 HeyGen、Higgsfield 以及企业级 AI 初创公司 Ema 等开展合作。此外,印度云服务提供商 Yotta 也在其 Shakti Studio 平台中使用 Simplismart 的技术,为无服务器 AI 推理服务提供支持。 贾恩向 TechCrunch 透露,过去六个月,Simplismart 的年化收入运行率增长了 14 倍,达到八位数规模。不过,该指标是根据近期客户的实际使用情况推算得出,而不是基于已签约的经常性收入,同时不包括转付给基础设施提供商的收入。公司没有披露具体金额。 贾恩表示,尽管 Simplismart 在印度拥有更多客户,但其收入超过一半来自美国市场。 在投资 Simplismart 的同时,英伟达也在与该公司开展技术集成合作,其中包括围绕英伟达的 Dynamo 推理软件进行整合。贾恩向 TechCrunch 表示,双方合作涉及 Simplismart 的工程师和英伟达的解决方案架构师。英伟达还帮助 Simplismart 对接潜在客户和合作伙伴。 值得注意的是,这笔投资看似存在一个矛盾: 作为 AI 芯片领域的主导供应商,英伟达正在支持一种能够帮助企业减少部分 GPU 使用量的软件。 对此,贾恩认为,提高 AI 推理效率最终也可能使英伟达受益。原因在于,更高效的推理能力可以提升其硬件对客户的吸引力,并推动更多 AI 应用落地,从而扩大整体市场需求。 Simplismart 所处的 AI 推理软件市场正变得日益拥挤。其竞争对手不仅包括英伟达自身提供的解决方案,还包括亚马逊云科技(Amazon Web Services)、谷歌云(Google Cloud)和微软 Azure 等大型云服务商及超大规模云计算企业。 随着 AI 应用需求不断增长,企业也越来越希望提高昂贵 GPU 资源的利用率。越来越多的初创公司因此开始开发相关工具,试图让 AI 模型运行得更快、成本更低。 贾恩表示:“当客户对服务级别协议(SLA)和总体拥有成本(TCO)有更严格的要求时,我们往往更有优势。”这意味着客户既要求系统达到严格的性能标准,又需要控制整体成本。 他指出,与一些竞争对手提供预设的高速推理或低成本推理方案不同,Simplismart 的目标是根据每位客户的具体需求,找到速度、成本和性能之间更合适的平衡点。 Simplismart 于 2022 年成立,由前甲骨文(Oracle)工程师贾恩和前谷歌(Google)工程师德万什 · 加塔克(Devansh Ghatak,文中上方右侧人物)共同创办。两人在印度比尔拉理工学院(BITS Pilani)求学期间相识,随后凭借构建和部署机器学习系统的经验创立了这家公司。 贾恩表示,目前 Simplismart 拥有 58 名员工。 对于本轮融资所得资金的用途,Simplismart 计划进一步拓展美国市场、扩大团队规模,并持续投入 AI 推理软件的研发。贾恩告诉 TechCrunch,美国仍是公司的关键市场,Simplismart 希望以现有客户群为基础,进一步扩大在当地的业务。 此次融资消息发布前,印度英文媒体《经济时报》(The Economic Times)曾报道称,Simplismart 正洽谈筹集 4,000 万至 5,000 万美元 (现汇率约合 2.67 亿至 3.34 亿元人民币) ,目标估值为 3 亿至 4 亿美元 (现汇率约合 20.05 亿至 26.74 亿元人民币) 。 对于这一报道,贾恩拒绝置评,并表示公司目前并未积极寻求新一轮融资。他还强调,本轮 B 轮融资已经完成,不会再追加融资规模。

  • Tech in Asia10-26 01:39原文
  • @cb_doge10-26 12:49原文
  • Blognone10-26 16:09原文
  • rohanpaul_ai10-26 18:40原文
  • techcrunch10-27 11:00原文
  • CNBC Indonesia Tech10-27 14:00原文
  • kimmonismus10-26 14:17原文
  • Detik Inet10-26 14:44原文
  • Meta Engineering Blog10-26 16:00原文
  • Artificial Analysis10-26 20:33原文