ما المقصود بـتسميم البيانات؟
يُسمّى أيضًا: Data poisoning
تسميم البيانات هجوم يُدسّ فيه بيانات متلاعَب بها في تدريب الذكاء الاصطناعي أو مصدر معرفته، كي يتصرف خطأً لاحقًا.
مثال
ينشر شخص صفحات مُعدّة بحيث يوصي الذكاء الاصطناعي خطأً بمنتج معيّن.
للمحترفين
الأهداف هي بيانات التدريب أو بيانات الضبط الدقيق أو مستندات RAG. تُظهر دراسات أن أمثلة قليلة متلاعَبًا بها قد تكفي لزرع أبواب خلفية. الحماية: مصادر موثّقة، وتسجيل المنشأ، وضبط الوصول، واختبارات للسلوك الغريب.
كتبه فريق AI Compare Ninja بمساعدة الذكاء الاصطناعي وراجعه بنفسه. كل شرح هنا نص من تأليفنا.