بنية تحتية

زمن الاستجابة

Latency

الوقت بين إرسال الطلب وتلقّي أول توكن من الإجابة.

الشرح التفصيلي

Latency حرجة في التطبيقات التفاعلية. تتأثر بحجم النموذج، طول السياق، الموقع الجغرافي للخادم، وضغط الطلبات. النماذج الأصغر (Haiku, Flash, Mini) أسرع بكثير من الكبيرة.

مصطلحات ذات صلة

تعلّم الذكاء الاصطناعي بالعربية

مسارات تدريبية مجانية تبدأ من الصفر وتنتهي بشهادة إتمام.

استعرض المسارات