Latență
Latency
Timpul scurs între întrebarea utilizatorului și primul răspuns al asistentului. Latența mare ucide conversația: clientul percepe ezitarea ca pe o defecțiune. Obiectivul practic pentru un asistent de business este un răspuns perceput ca aproape instant.
- A apărut
- Metrică universală de performanță; critică pentru UX conversațional.
- Tactici
- Optimizăm latența per canal; ținta operațională este răspuns sub 3 secunde. Alegerea [modelului](#llm) și gestiunea [context window](#context-window) sunt principalele pârghii.
Termeni similari
„Latență” face parte din Glosar · Chatbot AI — parte din Atlas, referința Websem de termeni de căutare AI, marketing și date.