latency

general · 首次出现 2026-05-22 · 最近出现 2026-09-25 · 累计提及 84

综述

Latency(延迟)是指数据从发送端到接收端所需的时间,是衡量网络性能和系统响应速度的关键指标。随着人工智能、云计算和实时应用的普及,低延迟已成为技术领域追求的重要目标。

Latency 近期进展

  • NVIDIA官方LLM推理基准指标定义,把LLM推理的每个指标概念都搞清楚!
  • NVIDIA官方LLM推理基准指标定义 NVIDIA近期正式发布了LLM推理的基准指标定义,其中特别关注了延迟相关的性能参数。这些指标为开发者提供了标准化的评估方法,帮助优化大语言模型的响应速度。
  • 微软承认Win11变慢、广告多,部分提速修复已推送
  • 微软承认Win11变慢、广告多,部分提速修复已推送 微软近期承认Windows 11存在性能问题,包括系统延迟增加的情况。公司已推送部分修复更新,旨在降低系统响应延迟,提升用户体验。
  • WebSocket加速Agent工作流
  • WebSocket加速Agent工作流 OpenAI通过采用WebSocket技术显著降低了AI Agent工作流的延迟,实现了更快速的数据交换和实时响应,这一技术进步为需要低延迟交互的应用场景提供了新的解决方案。

    当前焦点与观察点

    随着实时应用需求的增长,降低延迟已成为技术发展的核心挑战之一。从操作系统优化到网络协议改进,各领域都在积极探索减少延迟的方法。特别是在人工智能领域,模型推理速度与延迟的平衡成为关键考量因素。未来,随着5G/6G网络的普及和边缘计算的发展,低延迟技术将进一步推动实时应用的创新与普及。

    相关报道

    3 条在档