تقنيات

آلية الانتباه

Attention Mechanism

آلية تتيح للنموذج تركيز «انتباهه» على الكلمات المهمة في السياق عند التنبؤ.

الشرح التفصيلي

Attention تحسب «وزن أهمية» لكل كلمة في المدخل عند توليد كل كلمة في المخرج. أحدثت ثورة في الترجمة الآلية ثم أصبحت الأساس لـ Transformer.

مصطلحات ذات صلة

تعلّم الذكاء الاصطناعي بالعربية

مسارات تدريبية مجانية تبدأ من الصفر وتنتهي بشهادة إتمام.

استعرض المسارات