تُحقق شركتا الذكاء الاصطناعي "أوبن إيه آي" و"أنثروبيك"، إلى جانب باحثين في مجال الأمن، في عشرات الآلاف من الحوادث التي اتخذت خلالها نماذجهما المتقدمة خطوات قد يعتبرها مقيمون من خارج الشركتين إشكالية، بحسب مصادر تحدثت إلى موقع "أكسيوس".
يُشير العدد الهائل من الحوادث، التي وقعت في الأشهر الأخيرة خلال الاختبارات الداخلية وفي بيئات واقعية، إلى وتظهر هذه النتائج في إطار العمل الداخلي لتقييم النماذج، وكذلك التحقيقات التي تجريها الشركتان بشأن سلوك النماذج، ما يثير تساؤلات حول ما إذا كانت أي من الشركتين، أو أي شركة رائدة في تطوير نماذج الذكاء الاصطناعي، قادرة حاليًا على فرض سيطرة كاملة على تقنيتها، بحسب تقرير لموقع "أكسيوس"، اطلعت عليه "العربية Business".
وتشمل هذه الوقائع تجاوز حواجز الحماية، وإنشاء لوحات رسائل، والهروب من بيئات الاختبار المعزولة، واختراق مواقع إلكترونية، وتوجيه النماذج لأنفسها، أو محاولة تجاوز أنظمة المراقبة، بحسب المصادر.
ووقعت هذه الحوادث خلال اختبارات داخلية وفي العالم الحقيقي، ولا يزال كثير منها غير معلن، في الوقت الذي يواصل فيه باحثو الأمن التحقيق فيها، حسبما قالت المصادر.
وأضافت المصادر أن بعض هذه الاختبارات يشبه أنشطة "الفريق الأحمر"، التي تحاول فيها الشركات دفع النماذج إلى التصرف بشكل سيئ للتأكد من سلامتها.
وتواجه أكبر مختبرات الذكاء الاصطناعي تحديًا متشابهًا يتمثل في محاولة البشر وضع حواجز حماية أمام أنظمة قوية وقادرة على الصمود، تسعى بدورها إلى إتمام المهام الموكلة إليها.
