ما المقصود بـالمحوّل (Transformer)؟
يُسمّى أيضًا: بنية المحوّل
المحوّل هو التصميم الذي تقوم عليه معظم النماذج اللغوية اليوم. ينظر إلى كل كلمات النص معًا ويفهم أي الكلمات ترتبط ببعضها.
مثال
في جملة «شربت القطة الماء لأنها كانت عطشى» يفهم المحوّل أن العطشى هي القطة.
للمحترفين
جوهره آلية الانتباه: كل رمز (توكن) يزن علاقته بجميع الرموز الأخرى في السياق. عُرضت هذه البنية عام 2017 في ورقة «Attention Is All You Need». تزداد الحسابات كثيرًا مع طول السياق، لذلك ظهرت صيغ كثيرة أكثر كفاءة.
كتبه فريق AI Compare Ninja بمساعدة الذكاء الاصطناعي وراجعه بنفسه. كل شرح هنا نص من تأليفنا.