ما المقصود بـالتدريب المسبق؟
يُسمّى أيضًا: Pretraining
التدريب المسبق هو أول وأكبر مرحلة تعلّم لنموذج الذكاء الاصطناعي، يتعلم فيها كيف تعمل اللغة من كميات هائلة من النصوص.
مثال
في التدريب المسبق يقرأ النموذج اللغوي مليارات الجمل ويتدرّب على توقع الكلمة التالية.
للمحترفين
ينتج عن التدريب المسبق النموذج الأساسي، ثم يأتي التدريب اللاحق بالضبط الدقيق وRLHF. وهو غالبًا أكثر المراحل استهلاكًا للحوسبة، وفيه يتحدد تاريخ توقف معرفة النموذج.
كتبه فريق AI Compare Ninja بمساعدة الذكاء الاصطناعي وراجعه بنفسه. كل شرح هنا نص من تأليفنا.