تُستخدم أكواد الذكاء الاصطناعي الآن في مختلف القطاعات لأداء مجموعة من المهام، وفي مجال الأمن السيبراني، يلجأ كلٌّ من فرق الأمن والمهاجمين بشكل متزايد إلى نماذج لغوية ضخمة لدعم عملهم.
يستخدم المدافعون الذكاء الاصطناعي للكشف عن التهديدات والتصدي لها على نطاق واسع، بينما يجربه المهاجمون لصياغة أساليب التصيد الاحتيالي، وإنشاء أكواد مُضلّلة، وإخفاء الحمولات الضارة.
اكتشف قسم استخبارات التهديدات في "مايكروسوفت" مؤخرًا حملة تصيد احتيالي، يُعتقد أنها استخدمت أكوادًا مُولّدة بالذكاء الاصطناعي لإخفاء حمولتها داخل ملف SVG، وقام بحظرها، بحسب تقرير نشره موقع "techradar" واطلعت عليه "العربية Business".
مُصقول ولكنه غير عملي
استخدمت الحملة حساب بريد إلكتروني مُخترق لشركة صغيرة لإرسال رسائل مُعنونة ذاتيًا، مع إخفاء الأهداف الحقيقية في حقول النسخ المخفية (BCC)، وتمت تسمية المرفق ليشبه ملف PDF، مع تضمين محتوى SVG قابل للبرمجة.
تضمن ملف SVG عناصر مخفية صُممت لتبدو كلوحة معلومات أعمال، بينما حوّل نص برمجي بداخله كلمات متعلقة بالأعمال إلى شيفرة تكشف عن حمولة خفية.
عند فتح الملف، أعاد توجيه المستخدمين إلى بوابة CAPTCHA، وهي تكتيك شائع في الهندسة الاجتماعية قد يؤدي إلى صفحة تسجيل دخول مزيفة تهدف إلى جمع بيانات الاعتماد.
اعتمد التعتيم على كلمات أعمال مُتسلسلة وأنماط شيفرة صيغية بدلاً من تقنيات التشفير.
قام Security Copilot بتحليل الملف وحدد علامات تتوافق مع مخرجات LLM، مثل مُعرّفات وصفية طويلة، وهياكل نمطية متكررة، وتعليقات عامة، ومزيج غير عادي من إعلان XML وCDATA.
جعلت هذه السمات الكود يبدو مصقولاً ظاهريًا ولكنه غير عملي، مما دفع المحللين إلى الاعتقاد بأنه ربما تم إنشاؤه بواسطة الذكاء الاصطناعي.
استخدم الباحثون أدوات مدعومة بالذكاء الاصطناعي في Microsoft Defender لـ Office 365 لجمع الأدلة التي كان من الصعب على المهاجمين إخفاؤها.
حدد النظام نمط البريد الإلكتروني غير المعتاد الموجه ذاتيًا، وملف SVG الغريب المُتنكر على أنه ملف PDF، وإعادة التوجيه إلى موقع تصيد احتيالي معروف، والكود المخفي داخل الملف، وطرق التتبع المستخدمة في صفحة التصيد الاحتيالي.
كانت الحادثة محدودة، وسهلة الحجب، واستهدفت في المقام الأول المؤسسات الأمريكية، لكن "مايكروسوفت" تُشير إلى أنها توضح كيف يُجري المهاجمون تجارب متزايدة على الذكاء الاصطناعي لصياغة إغراءات مقنعة وحمولات معقدة.
