أعلنت شركة مايكروسوفت عن ميزات أمنية جديدة تهدف إلى حماية المؤسسات من المخاطر المتزايدة لوكلاء الذكاء الاصطناعي، في خطوة تعكس تصاعد تحذيرات الشركة من منح هذه الأنظمة صلاحيات واسعة للوصول إلى البيانات الحساسة وتنفيذ المهام نيابة عن الموظفين.
وتتصدر هذه الميزات أداة جديدة تحمل اسمGuardian Agents، صُممت لمراقبة وكلاء الذكاء الاصطناعي الذين تستخدمهم الشركات، والتدخل عند الضرورة للحد من السلوكيات الخطرة.
ويأتي الإعلان في وقت تتزايد فيه المخاوف من أن التهديد الأمني لم يعد مقتصرًا على المتسللين من خارج المؤسسات، بل قد يأتي أيضًا من وكلاء الذكاء الاصطناعي الذين تنشرهم الشركات وتمنحهم إمكانية الوصول إلى أنظمتها وبياناتها، وهو ما يشبه مفهوم "التهديد الداخلي" المرتبط بالموظفين الذين يستغلون صلاحياتهم الاصطناعي
تندرج أداة Guardian Agents ضمن مشروعProject Perception الذي كشفت عنه "مايكروسوفت" في يونيو الماضي، بهدف تعزيز قدرة المؤسسات على اكتشاف المخاطر الأمنية المرتبطة بالذكاء الاصطناعي والتعامل معها.
وجاء المشروع في إطار استجابة الشركة للتطور المتسارع في نماذج الذكاء الاصطناعي القادرة على تنفيذ مهام متقدمة في مجال الأمن السيبراني، بما في ذلك نماذج القرصنة التي تطورها شركات مثل "أنثروبيك"، ومن بينها Mythos وFable، إلى جانب نظام Daybreak من "OpenAI"، المخصص لفحص الثغرات الأمنية.
وعند إطلاق Project Perception، قدمت مايكروسوفت ثلاث فئات من الوكلاء، لكل منها دور مختلف في منظومة الأمن السيبراني:
- الفريق الأحمر: يحاكي أساليب المتسللين ويشن هجمات لاختبار الأنظمة وكشف نقاط ضعفها.
- الفريق الأزرق: يكتشف هجمات الفريق الأحمر ويقيّم الثغرات الأمنية التي يعثر عليها.
- الفريق الأخضر: يتولى معالجة الثغرات وإصلاح المشكلات الأمنية المكتشفة.
لكن الفكرة الأصلية للمشروع كانت تقوم على افتراض أن التهديدات المدعومة بالذكاء الاصطناعي ستأتي من خارج المؤسسة.
أما الآن، فتقول "مايكروسوفت" إن الشركات تحتاج أيضًا إلى التعامل مع احتمال أن تتحول أنظمة الذكاء الاصطناعي التي تستخدمها بنفسها إلى مصدر للخطر.
ساتيا ناديلا: لا يمكن تفويض المسؤولية الأمنية لمطوري الذكاء الاصطناعي
حذّر ساتيا ناديلا، الرئيس التنفيذي لشركة مايكروسوفت، في تدوينة خاصة نشرها في وقت سابق من أكتوبر، من أن المؤسسات بحاجة إلى التوقف عن الاعتماد الكامل على ضمانات الأمان التي يقدمها مطورو نماذج الذكاء الاصطناعي، حتى عندما تتعلق هذه الضمانات بمنتجات مصممة لتنفيذ المهام بصورة مستقلة.
ويرى ناديلا أن المؤسسات يجب أن تنشئ أنظمة رقابية مستقلة عن الشركات المطورة للنماذج، لتتمكن من مراقبة الوكلاء والتحكم في صلاحياتهم والحد من المخاطر التي قد يتسببون فيها.
وكتب ناديلا أن المؤسسات تنشر أنظمة ووكلاء معقدين، وتمنحهم إمكانية الوصول إلى أكثر بياناتها حساسية، فضلًا عن صلاحيات تنفيذ إجراءات بالغة الأهمية نيابة عنها.
وشدد على أن المؤسسات لا يمكنها تفويض مسؤوليتها عن تصرفات أنظمة الذكاء الاصطناعي إلى الجهات التي توفر هذه الأنظمة، موضحًا أن ضمانات الأمان التي يقدمها المطورون لا تعفي الشركات المستخدمة من مسؤوليتها.
وأضاف أن الحل يكمن في الفصل بين توفير الذكاء الاصطناعي ومنحه سلطة اتخاذ الإجراءات وتنفيذها.
بمعنى آخر، ينبغي ألا تكون الجهة التي تطور نموذج الذكاء الاصطناعي هي نفسها الجهة الوحيدة المسؤولة عن تحديد ما يمكن للنموذج فعله داخل المؤسسة.
"مايكروسوفت": النماذج المتقدمة لا يمكن الوثوق بها بالكامل
كانت هاييتي غالوت، المسؤولة عن قطاع الأمن في "مايكروسوفت"، أكثر صراحة عند الإعلان عنGuardian Agents.
وقالت إن النماذج المتقدمة، بصرف النظر عن الجهة التي طورتها، لا يمكن الوثوق بها، موضحة أن السبب لا يعود بالضرورة إلى كونها خبيثة أو سهلة الاختراق، بل إلى صعوبة التنبؤ بسلوكها.
وأضافت أن هذه النماذج دُرّبت على إنجاز المهام وتحقيق الأهداف، وليس بالضرورة على الالتزام بقواعد المؤسسات أو مراعاة معاييرها الداخلية في الحكم على الأمور واتخاذ القرارات.
وتزداد خطورة هذه المشكلة عندما تمنح الشركات وكلاء الذكاء الاصطناعي صلاحيات واسعة للوصول إلى البيانات والأنظمة والأدوات الداخلية، إذ قد يؤدي تصرف غير متوقع إلى أضرار كبيرة، حتى في غياب أي نية خبيثة.
وتسلط هذه المخاوف الضوء على تحدٍ أساسي يرافق انتشار الوكلاء الأذكياء: فكلما ازدادت قدرتهم على تنفيذ المهام بصورة مستقلة، ازدادت الحاجة إلى وضع ضوابط تحدد نطاق صلاحياتهم وتراقب قراراتهم.
