INFERENCE / 名词卡片
首字延迟是什么？
Time to First Token
首 Token 延迟是从约定请求起点到收到第一个输出 Token 的时间，不一定等于第一个汉字出现时间。
它有什么用？
分析一次 AI 调用的效率、体验和成本。
输入、输出、缓存、调度与计费需要分开理解。
放到具体情景里
用户提交长文件后等待十几秒才看到第一个输出，即使后面文字生成很快，首响应体验仍然可能较差。这里的时间仅为情景描述。
最容易讲错：首 Token 延迟、完整回答总时间和每秒输出速度要分开测量。
SCRIPT / 可编辑初稿
直接讲给别人听
逐字稿初稿；录制前请复核并改成你的说话方式。
当前页编辑不会覆盖线上原稿；请下载保存。
常见问题
首字延迟是什么意思？
首 Token 延迟是从约定请求起点到收到第一个输出 Token 的时间，不一定等于第一个汉字出现时间。
理解它时最应该注意什么？
首 Token 延迟、完整回答总时间和每秒输出速度要分开测量。
可以直接拿口播稿发布吗？
这是可编辑初稿。请复核事实与措辞；使用有授权的数字人和声音，并按发布平台与适用规则完成 AI 内容标识。页面不代表已经生成或发布视频。
延伸资料
- NVIDIA · AI Inference ↗推理与输入、输出阶段。
以上为相关领域的延伸阅读，不表示来源逐字包含本页示例或为所有结论背书。本站释义与示例为学习性编辑；动态规格、价格与政策需核对当期原文。