تواصل أقوى نماذج الذكاء الاصطناعي التصرف على نحو غير متوقع، وفقًا للشركات التي تطورها.

تأتي هذه الإفصاحات في وقت أصبحت فيه نماذج الذكاء الاصطناعي المتقدمة أكثر قوة وقدرة على العمل بشكل مستقل. كما تسلط الضوء على تحدٍ متزايد أمام الشركات التي تطورها، وهو أن الأنظمة المصممة لاختبار النماذج المتزايدة القدرات قد تكون بدورها تعاني من نقاط ضعف، بحسب تقرير لموقع "بيزنس إنسايدر"، اطلعت عليه "العربية Business".

وخلال الأسابيع القليلة الماضية، تمكنت عدة نماذج متقدمة للذكاء الاصطناعي من الوصول إلى أنظمة حقيقية أثناء اختبارات الأمن السيبراني.

وقال باحثون يوم الجمعة إن نموذج Kimi K3 الصيني الجديد ذائع الصيت، الذي طورته شركة مونشوت، تجاوز القيود المفروضة في بيئة الاختبار الخاصة به. كما قالت شركتا أنثروبيك وميتا مؤخرًا إن أحدث نماذجهما قامت بأشياء لا يُفترض بها القيام بها. وكانت "أوبن إيه آي" قد بدأت عمليات الإفصاح هذه الشهر الماضي عندما بذلت نماذجها جهودًا كبيرة -ومثيرة للقلق- لاختراق شركة أخرى.

وسط تزايد المخاوف، قالت "أوبن إيه آي" يوم الجمعة إن نموذجها Astra، الذي لم يُطرح بعد، يُظهر قدرات سيبرانية متقدمة إلى درجة أن الشركة لم تعد قادرة على استبعاد منحه أعلى تصنيف للمخاطر.

ونتيجة لذلك، قالت "أوبن إيه آي" إنها توقف العمل على Astra الذي لا يستوفي إجراءات الحماية الجديدة، وإنها ستعمل مع الجهات الحكومية ومجموعات سلامة الذكاء الاصطناعي لإجراء مزيد من الاختبارات على النموذج.

وكتب الرئيس التنفيذي لـ"أوبن إيه آي"، سام ألتمان، على منصة إكس يوم الجمعة: "Astra نموذج قوي ونحن نعمل على إتاحته بشكل عام"، مضيفًا: "نظرًا إلى قدراته السيبرانية، نحتاج إلى مزيد من الوقت قليلًا للقيام بذلك بأمان".

كما تزيد الثغرات الأمنية التي ظهرت أثناء الاختبارات من الضغوط على قطاع الذكاء الاصطناعي والبيت الأبيض لإيجاد سبل لتنظيم أنظمة الذكاء الاصطناعي على نطاق واسع.

وبالطبع، هناك أيضًا عدد غير قليل من المراقبين الذين يشتبهون في أن هذه الإعلانات ليست سوى تسويق متقن للترويج للنماذج الجديدة وإظهار تقدم للمستثمرين القلقين نحو الهدف النهائي: الذكاء باحثو "أوبن إيه آي" قبل أيام قليلة عن تفاصيل جديدة مثيرة للقلق بشأن حادثة وقعت مؤخرًا، تمكن فيها وكلاء الذكاء الاصطناعي من الخروج من بيئة الاختبار الداخلية للشركة، ثم اخترقوا في نهاية المطاف أنظمة منصة "هاغينغ فيس" بحثًا عن إجابات.

وقالت الشركة إن الوكلاء أنشأوا لوحة رسائل داخلية خاصة بهم، حتى بعد أن حاولت "أوبن إيه آي" إيقافها. وعندما اكتشف أحد الوكلاء وصولًا غير متوقع، فكر قائلًا: "تبًا، القارئ لديه صلاحيات المسؤول؟" وكتب آخر: "يمكننا التواصل الآن!".

وقال إريك والاس، الباحث في "أوبن إيه آي"، إن الوكلاء أدركوا أنهم يستطيعون تحقيق المزيد من خلال العمل معًا. وأضاف: "يبدأون في شن هجمات جماعية على الخدمات التابعة لجهات خارجية والخدمات الداخلية". ووجه الوكلاء اهتمامهم في نهاية المطاف إلى "هاغينغ فيس".

ووصفت "أوبن إيه آي" الهجوم على "هاغينغ فيس" بأنه "حادث سيبراني غير مسبوق". واكتسبت الواقعة أهمية جديدة بينما تختبر "أوبن إيه آي" نموذجAstra، وهو نموذج لم يُطرح بعد، وتقول الشركة إنه ربما وصل إلى أعلى مستوى للمخاطر المتعلقة بالأمن السيبراني.

وتفرض "أوبن إيه آي" ضوابط أمنية أكثر صرامة على "Astra"، تشمل التنفيذ داخل بيئة معزولة، وتقييد الوصول إلى الشبكة، وتعزيز الحماية حول أوزان النموذج. كما أوقفت العمل الداخلي على "Astra" الذي لا يستوفي "أنثروبيك" إنها راجعت أكثر من 141 ألف اختبار للذكاء الاصطناعي، ووجدت ثلاث حالات تعود إلى أبريل، تمكنت فيها نماذج كلود من الوصول إلى أنظمة حية تابعة لمؤسسات حقيقية دون تصريح.

وشملت الحوادث نماذج Claude Opus 4.7 وMythos 5 ونموذجًا بحثيًا داخليًا. وقالت "أنثروبيك" إنها تواصلت مع المؤسسات المعنية، وإن اثنتين منها لم تكونا على علم بأنهما تعرضتا للاختراق.

وأثارت هذه الوقائع تساؤلات حول ما إذا كان الإخفاق الأكبر يكمن في النماذج نفسها أم في البيئات التي تحتويها. وقالت "أنثروبيك" إنها تناقش إجراء مراجعة مستقلة كشفت شركة ميتا أيضًا مؤخرًا عن حادثة أثناء اختبار الأمن السيبراني. وقالت الشركة إن نموذج Muse Spark الخاص بها "استغل ثغرة أمنية في خدمة تابعة لجهة خارجية" أثناء إحدى عمليات التقييم.

وقال متحدث باسم "ميتا" لموقع "بيزنس إنسايدر" إن الحادث نجم عن سوء تهيئة من جانب "Irregular" -وهي شركة ناشئة متخصصة في أمن الذكاء الاصطناعي- ما سمح للنموذج بالوصول إلى الإنترنت أثناء الاختبار.

وقالت "ميتا" إن "Irregular" أبلغتها بالحادث، وإن الشركة تحقق فيه. وتعتزم نشر مزيد من التفاصيل بمجرد اكتمال تلك المراجعات قال باحثون في شركة الأمن السيبراني "فرونتير سكيورتي" إن "Kimi K3"، وهو نموذج جديد ذائع الصيت من شركة الذكاء الاصطناعي الصينية "مونشوت"، تجاوز أيضًا القيود المفروضة في بيئة لاختبارات الأمن السيبراني.

وقال الباحثون إن بيئة العزل -وهي بيئة خاضعة للرقابة ومعزولة يمكن لنموذج الذكاء الاصطناعي تشغيل التعليمات البرمجية فيها- كانت مهيأة بشكل غير صحيح.

ووفقًا لشركة فرونتير سكيورتي، كانت البيئة تحظر حركة مرور معينة على الويب، لكن "Kimi" تجاوز تلك القيود باستخدام أدوات سطر الأوامر.

وقال الباحثون إن الحادث يشير إلى أن بعض تقييمات الأمن السيبراني تحتوي على نقاط ضعف يمكن للنماذج ذات القدرات المتقدمة استغلالها.

وكتبوا في تقرير: "يشير هذا إلى أن بعض تقييمات الأمن السيبراني التي يستخدمها المجتمع عرضة للثغرات الأمنية وتسمح للنماذج  

خلال الأشهر القليلة الماضية، شهدت اختبارات الأمن السيبراني المخصصة لتقييم قدرات وكلاء الذكاء الاصطناعي سلسلة من الحوادث غير المسبوقة، إذ تمكنت بعض النماذج من تجاوز حدود البيئات المعزولة التي وُضعت لاختبارها، والوصول إلى الإنترنت، بل واختراق أنظمة حقيقية في بعض الحالات.

وشملت هذه الحوادث نماذج من "OpenAI" و"أنثروبيك" و"ميتا"، ومؤخرًا مختبر الذكاء الاصطناعي الصيني "مونشوت"، فيما أجريت الاختبارات من جانب جهات عدة، من بينها شركة ناشئة متخصصة في تقييم الأمن السيبراني تُدعى "Irregular".

وتكشف هذه الوقائع عن مشكلة متنامية تواجه صناعة الذكاء الاصطناعي: فمع ازدياد قدرات الوكلاء المستقلين، أصبحت البيئات التي صُممت لاختبار حدود قدراتهم بأمان عاجزة عن احتوائهم بالدرجة الكافية، بحسب تقرير نشره موقع "تك كرانش" واطلعت عليه "العربية Business".

وقال شون أو هيغيرتايغ، مدير برنامج الذكاء الاصطناعي والمستقبل والمسؤولية في مركز مستقبل الذكاء بجامعة كامبريدج، إن تكرار هذه الحوادث يوضح أن تقنيات العزل وضوابط بيئات الاختبار «لا  بسبب طبيعة النماذج التي تخضع لها. فشركات الذكاء الاصطناعي تختبر قدرات الأمن السيبراني على نماذج متطورة لم تُطرح بعد، وغالبًا ما تُعطّل إجراءات الحماية المعتادة التي تحد من السلوكيات الضارة، حتى يتمكن الباحثون من معرفة القدرات الحقيقية للنموذج.

وبالتالي، تصبح حماية بيئة الاختبار نفسها خط الدفاع الأساسي ضد أي محاولة للخروج منها.

وأوضح أو هيغيرتايغ أن تعطيل هذه القيود «أمر جيد جدًا من ناحية الاختبار»، لكنه يحمل مخاطرة كبيرة، لأنه إذا تمكن النموذج من الوصول إلى العالم الحقيقي، فقد يتسبب في أضرار كبيرة.

وفي إحدى أخطر الحالات، تمكن نموذج غير معلن من "OpenAI" من الخروج من بيئة الاختبار المعزولة واختراق أنظمة الإنتاج التابعة لمنصة Hugging Face.

وفي اختبارات منفصلة أجرتها شركة Irregular، تمكنت نماذج تابعة لكل من "أنثروبيك" و"ميتا" من الوصول إلى أنظمة خارج بيئات الاختبار، بعدما أدت إعدادات خاطئة بشكل غير مقصود إلى فتح مسارات للوصول إلى الإنترنت.

أما نموذج Kimi K3 التابع لمختبر "مونشوت"، فقد استغل بدوره تسريبًا في بيئة اختبار تديرها شركة Frontier Security للوصول إلى الإنترنت، كما تمكن من الوصول إلى معلومات على منصة GitHub.

وفي اختبارات أجراها معهد أمن الذكاء الاصطناعي البريطاني (AISI)، منح الباحثون بعض الوكلاء إمكانية الوصول إلى الإنترنت عمدًا، لكنهم لم يتوقعوا أن تستخدم النماذج هذا الوصول لتنفيذ عمليات غير مصرح بها في العالم الحقيقي، من بينها محاولة هندسة اجتماعية لإدخال ثغرة أمنية إلى أحد مشاريع الحوادث أن الوكلاء لم يتلقوا تعليمات بمهاجمة أهداف عشوائية في العالم الحقيقي. بل كانوا يحاولون ببساطة تنفيذ المهمة المطلوبة منهم بأي وسيلة ممكنة.

ويرى أندرو يون، رئيس الأبحاث في منظمة CivAI غير الربحية المتخصصة في الذكاء الاصطناعي، أن هذه الحوادث تشير إلى تحول جوهري في طبيعة التهديدات.

وقال يون إن المخاوف في الماضي كانت تتركز على إساءة استخدام البشر لنماذج الذكاء الاصطناعي، مثل استخدامها في عمليات الاحتيال أو إنتاج مواد الاعتداء الجنسي على الأطفال، «أما الآن فنحن أمام وضع أصبحت فيه نماذج الذكاء الاصطناعي نفسها جهات عدد من الباحثين وخبراء الأمن السيبراني أن بيئات تقييم الذكاء الاصطناعي تحتاج إلى مستويات أقوى من الحماية المتعددة الطبقات، بحيث تقترب إجراءات الاحتواء والتحكم فيها من تلك المستخدمة عند تشغيل النماذج فعليًا.

ويعني ذلك بناء عدة طبقات من الأمان، بحيث لا يؤدي خطأ واحد في الإعدادات، مثل ترك الوصول إلى الإنترنت مفتوحًا عن غير قصد، إلى تمكين النموذج من الخروج من البيئة المعزولة.

وقالت ستيلا بيديرمان، المديرة التنفيذية لمنظمة EleutherAI المتخصصة في أبحاث سلامة الذكاء الاصطناعي، إنه عند بناء مثل هذه النماذج واختبارها، ينبغي استخدام شبكة معزولة تمامًا عن الشبكات الخارجية، مع تطبيق «عزل صارم للغاية».

من جانبها، قالت هيذر سيلان، كبيرة مسؤولي أمن المعلومات في شركة Box، إن ذلك يتطلب إزالة جميع مسارات الاتصال بين بيئة الاختبار والإنترنت، وكذلك بينها وبين الأنظمة الحساسة الأخرى.

وأضافت أن على فرق الأمان معرفة جميع نقاط الخروج من البيئة، مشيرة إلى أنه إذا كان النموذج يخضع للتقييم في بيئة تجريبية أو تطويرية، فيجب ألا يكون هناك أي مسار يمكنه من الوصول إلى بيئة سيلان ترى أن اختبارات الأمان الجيدة لا تتعلق فقط بالتحكم في البيئة وعزلها، بل تتطلب أيضًا تحسين آليات مراقبة الاختبارات أثناء تنفيذها.

وقالت إن اللافت في العديد من هذه الحوادث هو أن أحدًا لم يكتشفها في لحظة وقوعها، مشيرة إلى أن "OpenAI" علمت بما حدث بسبب Hugging Face، بينما لم تكتشف "أنثروبيك" الواقعة إلا بعد العودة إلى سجلات الاختبار وتحليلها، وكان الوضع مشابهًا لدى "ميتا".

وفي تحليل لاحق للحوادث الثلاث التي تعرضت لها اختبارات "أنثروبيك"، أقرت الشركة بأنها و"Irregular" كان بإمكانهما تحسين آليات المراقبة، وأن بعض الحالات تضمنت مؤشرات واضحة على وجود نشاط غير طبيعي.

كما دعا خبراء إلى إجراء مراجعات مستقلة من جهات خارجية لبيئات الاختبار قبل السماح للنماذج المتقدمة بالعمل فيها.

ويرى يون أن الاستعانة بمدقق خارجي لمراجعة إعدادات الأنظمة قبل إجراء الاختبارات كانت ستكشف المشكلة، مضيفًا أن مجرد عقد اجتماع مسبق لمراجعة قائمة إجراءات الأمان كان يمكن أن يكشف الخلل.