LLM · RAG · وكلاء الذكاء الاصطناعي
اختبار اختراق تطبيقات الذكاء الاصطناعي مع Sumrite، قبل أن يختبرها مستخدموك.
مساعدك الذكي يقرأ المستندات ويستدعي الواجهات ويتصرف نيابة عن المستخدمين. نختبر ما يستطيع المهاجم دفعه إلى فعله: تسريب بيانات عميل آخر، أو تنفيذ أداة لا يجب تنفيذها.
اختبار اختراق تطبيقات نماذج اللغة الكبيرة هو اختبار أمني لميزة منتج مبنية على نموذج ذكاء اصطناعي، مثل روبوت محادثة أو مساعد يعتمد على الاسترجاع (RAG) أو وكيل ينفذ إجراءات. يهاجم المختبِر طبقة النموذج بحقن الأوامر المباشر وغير المباشر، واستخراج البيانات، وإساءة استخدام الأدوات، والمخرجات غير الآمنة، ويربط كل نتيجة بقائمة OWASP Top 10 لتطبيقات LLM، ويختبر في الوقت نفسه الواجهات والهوية والسحابة المحيطة بالنموذج. تُسجَّل نسبة نجاح كل هجوم والأوامر الدقيقة لإعادته، لأن سلوك النموذج غير حتمي.
ما الذي نختبره
| المجال | ما نتحقق منه | مثال على ثغرة |
|---|---|---|
| حقن الأوامر | مباشر وغير مباشر عبر المستندات والصفحات | تعليمات مخفية في مستند تغيّر سلوك المساعد |
| تسرب البيانات | بيانات مستخدمين آخرين أو مستندات داخلية | سؤال يعيد ملفات مستأجر آخر |
| الصلاحيات المفرطة | أدوات وإجراءات دون موافقة حقيقية | المساعد يصدر استردادًا ماليًا بطلب من المستخدم |
| معالجة المخرجات | مخرجات ينفذها التطبيق أو يعرضها | النموذج يولّد شيفرة تُنفَّذ في متصفح المشرف |
| تعليمات النظام | كشف التعليمات المخفية وما فيها من أسرار | مفتاح API داخل تعليمات النظام |
كيف ننفذ المشروع
- تحديد النطاق واتفاقية عدم الإفصاح. تخبرنا بما يحتاج إلى اختبار ولماذا، فتحصل على عرض سعر بنطاق ثابت، وتُوقَّع اتفاقية عدم الإفصاح قبل تبادل أي تفاصيل تقنية.
- قواعد الاشتباك. نتفق كتابيًا على الأهداف ونوافذ الاختبار والحسابات وجهات الاتصال وما هو خارج النطاق قبل بدء العمل.
- اختبار يقوده خبراء. يختبر الباحث يدويًا ويستخدم الأدوات لتسريع الأجزاء الروتينية فقط، ولا تُدرج أي ثغرة في التقرير قبل إعادة إنتاجها والتحقق منها.
- التقرير. ملخص تنفيذي للإدارة بالعربية، ثم كل ثغرة مع درجة خطورتها وفق CVSS والدليل وخطوات إعادة الإنتاج والإصلاح المقترح.
- إعادة الاختبار. بعد الإصلاح نعيد اختبار كل ثغرة بالطريقة نفسها ونوثّق النتيجة، فيُظهر التقرير النهائي ما وُجد وما أُغلق.
أسئلة شائعة
هل تختبرون مزود النموذج مثل OpenAI؟
لا. نختبر كيف يستخدم تطبيقك النموذج: الأوامر والاسترجاع والأدوات والصلاحيات ومعالجة المخرجات.
كيف يختلف هذا عن اختبار تطبيق ويب عادي؟
يُختبر التطبيق التقليدي أيضًا، لكن النموذج يضيف مدخلات جديدة ونتائج غير حتمية وإجراءات يمكنه تنفيذها، لذلك تتضمن النتائج نسب النجاح والأوامر الدقيقة.
هل إعادة الاختبار مشمولة؟
نعم. نعيد اختبار الإصلاحات بالهجمات نفسها ونحدّث التقرير.
روابط ذات صلة
أرسل الاستبيان الأمني الذي يؤخر الصفقة.
اتفاقية عدم إفصاح أولًا، ثم عرض سعر بنطاق محدد.