企业如何选择裸金属与托管推理服务

在旧金山NeoCloud峰会上，腾讯云美洲区总经理Anderson Lin参与讨论，分享企业选择AI推理服务的观点。他指出并非所有token需要相同的GPU资源，企业需要为每个工作负载选择合适的计算能力、可靠一致的性能，以及token支出与业务成果的明确关联。基于这一理念，腾讯云推出TokenHub产品，通过统一API让企业访问多种AI模型，使团队能为不同任务匹配最合适的模型。