ما المقصود بـفك الترميز التخميني؟
يُسمّى أيضًا: Speculative decoding
في فك الترميز التخميني يخمّن نموذج صغير وسريع عدة كلمات مقدمًا، ويتحقق منها النموذج الكبير في خطوة واحدة، فتأتي الإجابات أسرع.
مثال
يقترح النموذج الصغير «شكرًا جزيلًا على»، فيؤكده النموذج الكبير دفعة واحدة بدل كلمة كلمة.
للمحترفين
لأن النموذج الكبير يراجع الاقتراحات بالتوازي ولا يقبل إلا الصحيح منها، تبقى المخرجات مكافئة. يتوقف المكسب على عدد مرات صواب النموذج الصغير. يستخدمه مزوّدون كثيرون داخليًا دون إظهاره.
كتبه فريق AI Compare Ninja بمساعدة الذكاء الاصطناعي وراجعه بنفسه. كل شرح هنا نص من تأليفنا.