بنية تحتية

الإنتاجية

Throughput

عدد التوكنز التي يستطيع النظام معالجتها في الثانية.

الشرح التفصيلي

Throughput يحدد قدرة النظام على خدمة عدد كبير من المستخدمين بالتوازي. مهم في الإنتاج التجاري. يُحسّن بالتوزيع على عدة GPU وتقنيات Batching.

مصطلحات ذات صلة

تعلّم الذكاء الاصطناعي بالعربية

مسارات تدريبية مجانية تبدأ من الصفر وتنتهي بشهادة إتمام.

استعرض المسارات