بنية تحتية
الإنتاجية
Throughput
عدد التوكنز التي يستطيع النظام معالجتها في الثانية.
الشرح التفصيلي
Throughput يحدد قدرة النظام على خدمة عدد كبير من المستخدمين بالتوازي. مهم في الإنتاج التجاري. يُحسّن بالتوزيع على عدة GPU وتقنيات Batching.
مصطلحات ذات صلة
الدورة المرتبطة بهذا المحتوى
ضاعف إنتاجيتك باستخدام الذكاء الاصطناعي
نظام يومي عملي: بريد، اجتماعات، عروض تقديمية، ومهام متكررة.