ما المقصود بـزمن الاستجابة؟
يُسمّى أيضًا: Latency، الزمن حتى أول رمز
زمن الاستجابة هو وقت الانتظار حتى يبدأ الذكاء الاصطناعي بالإجابة أو ينتهي منها.
مثال
مساعد صوتي بطيء الاستجابة يجيب بعد ثلاث ثوانٍ فتصبح المحادثة متقطعة.
للمحترفين
أهم المقاييس هي الزمن حتى أول رمز وعدد الرموز في الثانية. يعتمد ذلك على حجم النموذج وطول الأمر ومقدار الاستدلال والضغط والشبكة. النماذج الأصغر والبث والتخزين المؤقت للأوامر والأوامر الأقصر تقلله.
كتبه فريق AI Compare Ninja بمساعدة الذكاء الاصطناعي وراجعه بنفسه. كل شرح هنا نص من تأليفنا.