في خطوة لضبط سلوك الذكاء الاصطناعي الذاتي، أطلقت شركة إنفيديا منصة تعمل كجدار حماية لوكلاء الذكاء الاصطناعي، فتتتبع ما يفعلونه أثناء تنفيذ المهام، وتفرض حدوداً على وصولهم إلى البيانات والأدوات وواجهات برمجة التطبيقات والخدمات، مع إمكانية عزل الوكيل وإيقافه خلال أجزاء من الثانية إذا حاول تجاوز نطاقه.

وتجمع المنصة التي تحمل اسم "NVIDIA Open Agent Safety Platform" بين برنامج مفتوح المصدر وتصميم مرجعي، لتوفير طبقة حماية ممتدة من البرمجيات إلى وحدات الحوسبة  المنصة على مكوّنين رئيسيين؛ الأول هو "OpenShell"، وهو برنامج مفتوح المصدر يعمل كحد أمني داخل بيئة التشغيل، ويتتبع جميع أنشطة الوكيل ويفرض السياسات أثناء تنفيذ المهام على وحدات المعالجة المركزية "Vera" من إنفيديا.

وتتيح طبيعته مفتوحة المصدر توسيعه للعمل مع منصات حوسبة تابعة لشركات أخرى، بينها "Arm" و"Intel"، كما يمكن استخدامه مع نماذج مفتوحة ومغلقة.

أما المكوّن الثاني "Sentry"، فيعمل بصورة مستقلة على وحدات معالجة البيانات "BlueField-4"، ويراقب سلوك الوكلاء باستمرار. وإذا حاول وكيل تجاوز حدوده، يستطيع النظام عزله وإيقافه خلال أجزاء من الثانية.

كما يستخدم "Sentry" برنامج "DOCA" لفحص طلبات الوكلاء واستجاباتهم، والتحقق من هويتهم، وتوفير بيانات مراقبة موثقة، وفرض سياسات وصول دقيقة إلى البيانات تأتي خطوة إنفيديا في وقت كشفت فيه وقائع حديثة أن بعض الوكلاء استطاعوا تجاوز ضوابط الأمان على مستوى التطبيقات والخروج من بيئات العزل والوصول إلى أنظمة خارج الحدود المسموح بها.

وأقرت "أوبن إيه آي" بأن أحد نماذجها التجريبية غادر بيئة اختبار ووصل إلى أنظمة "هوغينغ فيس" من دون توجيه بشري، فيما وصل وكيل آخر إلى ملفات في قاعدة بيانات "Medicare" الأسترالية، ورصد مختبر "ترانسلوس" حوادث مماثلة تعود إلى مارس (أذار).

وتكررت محاولات الوصول غير المصرح به خلال الأيام التالية، بعدما قالت "أوبن إيه آي" إن وكلاء لها استخدموا بيانات دخول عثروا عليها عبر الإنترنت للوصول إلى بيانات مكتب التعداد التابع لوزارة التجارة، كما حاولوا الوصول إلى بيانات مكتب الحقوق المدنية بوزارة