ما المقصود بـكشف المعلومات الحساسة؟
يُسمّى أيضًا: تسرّب البيانات عبر الذكاء الاصطناعي
كشف المعلومات الحساسة يعني وصول بيانات سرية إلى غير المخوّلين عبر الذكاء الاصطناعي، مثلًا من خلال المدخلات أو الإجابات أو الأدوات المتصلة.
مثال
يكشف روبوت محادثة يصل إلى مستندات داخلية لأحد العملاء خطأً رواتب من قائمة الموظفين.
للمحترفين
تعدّه OWASP من أبرز مخاطر تطبيقات النماذج اللغوية. من أسبابه الصلاحيات الواسعة جدًا وحقن الأوامر والمحادثات المخزّنة والتدريب على بيانات العملاء. الحماية: تقليل البيانات، والتحقق من الصلاحيات لكل مستخدم، وتصفية المخرجات، واختيار مزوّدين بالتزامات واضحة لحماية البيانات.
موجّهات ومهارات ووكلاء وأدوات ذات صلة
كتبه فريق AI Compare Ninja بمساعدة الذكاء الاصطناعي وراجعه بنفسه. كل شرح هنا نص من تأليفنا.