ما المقصود بـأخذ العيّنات (top-p وtop-k)؟
يُسمّى أيضًا: Sampling، استراتيجية فك الترميز
أخذ العيّنات هو طريقة اختيار النموذج اللغوي لكلمة واحدة من بين عدة كلمات تالية محتملة، وهو يحدد مدى تنوع النصوص.
مثال
مع أخذ عيّنات ضيق تبدو نصوص المنتجات متشابهة، ومع أخذ عيّنات واسع تظهر أفكار أكثر إبداعًا لكنها أقل قابلية للتنبؤ.
للمحترفين
يختار top-k من بين k رموز الأكثر احتمالًا فقط، ويختار top-p من أصغر مجموعة يبلغ مجموع احتمالاتها p. ومع درجة الحرارة يتحكم ذلك في التنوع. في نماذج الاستدلال تكون هذه الإعدادات غالبًا ثابتة.
كتبه فريق AI Compare Ninja بمساعدة الذكاء الاصطناعي وراجعه بنفسه. كل شرح هنا نص من تأليفنا.