في مؤتمر Black Hat USA، أظهر الباحث في الأمن السيبراني مايكل باركوري ثغرات في مساعد الذكاء الاصطناعي Copilot من مايكروسوفت - حيث يمكن للمهاجمين المحتملين استخدامه لشن هجمات إلكترونية. يقترح مشروعه أن على المنظمات إعادة التفكير في سياسات الأمان الخاصة بها عند استخدام تقنيات الذكاء الاصطناعي، بما في ذلك Copilot.
طرق الاستغلال
حدد باركوري عدة طرق يمكن من خلالها للمهاجمين استخدام Copilot من مايكروسوفت لتنفيذ هجمات إلكترونية. إضافات Copilot، على وجه الخصوص، تسمح بتثبيت فتحات خلفية يتم استغلالها عند عمل المستخدمين الآخرين مع الذكاء الاصطناعي، وتخدم أيضًا كمساعدة في تنفيذ الهجمات التي تستخدم أساليب الهندسة الاجتماعية.
الاختراق عبر الحقن
باستخدام حقن الاستعلام، يقوم المخترق بتعديل استجابات الذكاء الاصطناعي لتناسب أغراضه، مما يسمح بعمليات بحث خفية واستخراج بيانات تتجاوز إجراءات أمان الملفات والمعلومات القياسية. يثبت الذكاء الاصطناعي أيضًا أنه سلاح فعال في هجمات الهندسة الاجتماعية - يمكن استخدام Copilot في إنشاء رسائل بريد إلكتروني احتيالية مقنعة وطرق أخرى للتفاعل مع الضحايا المحتملين الذين يحاول المجرم السيبراني الحصول منهم على معلومات سرية.
أداة LOLCopilot
لإظهار هذه الثغرات، أنشأ باركوري أداة تُسمى LOLCopilot، والتي تم تصميمها للقراصنة الأخلاقيين وتعمل على أي مستأجر ممكّن من Copilot من مايكروسوفت 365 باستخدام الإعدادات الافتراضية. يمكن للباحثين في مجال الأمن السيبراني استخدامها للتحقيق في سيناريوهات استغلال ثغرات Copilot لسرقة البيانات وشن هجمات التصيد.
إجراءات الأمان المطلوبة
يشير المطور إلى أن إعدادات الأمان الافتراضية الحالية لـ Microsoft Copilot ليست فعالة بما يكفي لمنع هذه الهجمات. يشير وجود أداة للوصول إلى كميات كبيرة من البيانات ومعالجتها إلى المخاطر المرتبطة بتشغيل أنظمة الذكاء الاصطناعي. يوصي الباحث بتنفيذ إجراءات أمان إضافية، بما في ذلك المصادقة الثنائية والتحكم الصارم في الوصول إلى البيانات. بالإضافة إلى ذلك، من الضروري إبلاغ الموظفين بالمخاطر المرتبطة بالذكاء الاصطناعي وامتلاك بروتوكولات شاملة لاستجابة الحوادث.
تابع موقعنا tech1new.com انضم إلى صفحتنا على فيسبوك و متابعتنا على منصة إكس (تويتر سابقاً) ، أو أضف tech1new.com إلى موجز أخبار Google الخاص بك للحصول على تحديثات إخبارية فورية ومراجعات وشروحات تقنية
ليست هناك تعليقات:
إرسال تعليق