搜索资源与 AI 名词

检索资源、教程、AI 名词与每日资讯。

返回 AI 词库

响应延迟

Latency

也称TTFT / 首字延迟 / 响应时间

从你发出要求,到系统作出响应之间的等待时间

怎么理解

使用 AI 时,等待可以分成两种:多久开始出现内容,以及多久全部完成。谈响应延迟时要说清楚指哪一种;排队、网络、工具查询和模型处理都可能带来等待。

举个例子

两个助手都用半分钟写完文章,一个两秒后就开始显示文字,另一个等二十秒才开始。前者通常让你感觉反应更快,即使总完成时间相近。

补充说明

更快不代表更准确。比较速度时,最好使用相近材料和相同要求,并同时看是否完成了任务。