ما المقصود بـمواءمة الذكاء الاصطناعي؟
يُسمّى أيضًا: AI alignment
المواءمة هي العمل على أن تفعل أنظمة الذكاء الاصطناعي ما يقصده البشر فعلًا مع احترام القواعد والقيم.
مثال
يجب أن يجيب النموذج بشكل مفيد، لكن دون إعطاء تعليمات عن مواد خطرة حتى لو سأل أحدهم بذكاء.
للمحترفين
من الأساليب RLHF، ومواصفات مكتوبة لسلوك النموذج، واختبارات الفريق الأحمر، وأبحاث قابلية التفسير. كيفية التحقق الموثوق من مواءمة الأنظمة القوية جدًا مسألة مفتوحة. ويُستخدم المصطلح أحيانًا بمعنى واسع لـ«أمان النموذج وسلوكه».
كتبه فريق AI Compare Ninja بمساعدة الذكاء الاصطناعي وراجعه بنفسه. كل شرح هنا نص من تأليفنا.