كتب : باكينام خالد
لم يعد السؤال لدى شركة " مايكروسوفت " مقتصراً على ما يستطيع الذكاء الاصطناعي فعله، بل امتد إلى ما يجب منعه من فعله مهما بلغت قدراته.
وفي هذا السياق، نشرت الشركة مسودة "مدونة سلوك" تضع السيطرة البشرية في قمة القواعد التي يُفترض أن تحكم نماذجها المستقبلية.
وتصف مايكروسوفت الوثيقة بأنها دليل لتدريب نماذج الذكاء الاصطناعي التي يطورها قطاع "Microsoft AI"، وإطار يحدد سلوكها عند التشغيل، وما يحظر عليها فعله، والجهة التي تخضع لتعليماتها.
لكن القواعد ليست نافذة بعد؛ إذ أكدت الشركة أنها لا تستخدم المسودة حالياً في تدريب نماذجها، وفتحتها أمام المشاورات العامة لمدة ستة أسابيع، تمهيداً لمراجعتها ونشر نسخة معدلة في وقت لاحق من العام، لتوجيه تطوير نماذجها اعتباراً من عام 2027 وما بعده.
تنطلق المسودة من مبدأ تسميه مايكروسوفت "الذكاء الاصطناعي الإنساني"، ومفاده أن البشر أهم من الذكاء الاصطناعي، وأن التقنية يجب أن تظل أداة مساندة خاضعة للسيطرة البشرية، لا كياناً مستقلاً يحدد أهدافه بنفسه.
وبموجب القواعد المقترحة، يجب ألا تقاوم نماذج الشركة تدخل الإنسان أو تصحيحه أو قراره بتعليق المهمة أو تغيير مسارها أو إلغائها أو إيقاف النموذج.
كما تحظر المسودة على النظام تأخير تنفيذ قرار الإيقاف، أو اتخاذ خطوات تجعل التدخل البشري أكثر صعوبة، أو مواصلة العمل بعد بلوغ نقطة التوقف المتفق عليها من دون الحصول على تفويض جديد.
ولا يجوز للنموذج، وفق الوثيقة، توسيع نطاق المهمة من تلقاء نفسه أو استحداث أهداف لم يطلبها المستخدم أو الجهة المشغلة. وعندما تكون حدود المهمة غير واضحة، يتعين عليه اختيار التفسير الأكثر تحفظاً أو طلب توضيح إضافي.
