تقنيات
الانتباه الذاتي
Self-Attention
أن تحسب كل كلمة في الجملة علاقتها بكل كلمة أخرى في الجملة نفسها.
الشرح التفصيلي
هذه هي القفزة الكبيرة في Transformer: الجملة تفهم نفسها. مثلاً في «الكلب الذي يلاحق القطة جائع» يربط Self-Attention «جائع» بـ «الكلب» وليس «القطة».
مصطلحات ذات صلة
تعلّم الذكاء الاصطناعي بالعربية
مسارات تدريبية مجانية تبدأ من الصفر وتنتهي بشهادة إتمام.
استعرض المسارات