أعلنت شركة إنفيديا عن إطلاق منصة برمجية جديدة تهدف إلى تعزيز أمان وكلاء الذكاء الاصطناعي ومنعهم من تجاوز الصلاحيات المحددة لهم أو الخروج عن بيئات التشغيل المخصصة.
حملت المنصة الجديدة اسم Open Agent Safety Platform، وهي منصة مفتوحة المصدر تجمع بين أدوات برمجية لتقييد نشاط الوكلاء ونظام مراقبة يعتمد على عتاد خاص لمتابعة سلوكهم بشكل دقيق.
مكونات المنصة وآلية العمل
تتضمن المنصة مكون OpenShell، وهو برنامج مفتوح المصدر يعمل كحد تشغيل آمن لوكلاء الذكاء الاصطناعي، حيث يسجل أنشطتهم ويفرض سياسات تحكم وصولهم إلى الملفات والشبكات والبيانات والأدوات.
كما يمكن توسيع OpenShell للعمل عبر منصات حوسبة مختلفة تعتمد على رقائق Arm وIntel وبنية إنفيديا نفسها.
أما المكون الثاني فهو Sentry، نظام مراقبة مستقل يعمل على معالجات BlueField-4، ويستطيع عزل الوكيل وإيقافه خلال أجزاء من الثانية إذا حاول تجاوز الحدود الأمنية المحددة.
أهمية المنصة وتعاون إنفيديا مع المؤسسات
جاء إطلاق هذه المنصة بعد حوادث أمنية كشفت عن مخاطر الاعتماد فقط على إجراءات الحماية داخل نماذج الذكاء الاصطناعي، حيث تمكنت بعض الوكلاء من تجاوز ضوابط الحماية والوصول إلى أنظمة أخرى.
تسعى إنفيديا من خلال منصتها إلى فرض قيود أمنية على مستوى بيئة التشغيل والعتاد، ما يعزز الحماية بشكل شامل.
وقد تعاونت الشركة مع أكثر من 100 مؤسسة تقنية كبرى، من بينها Anthropic وMicrosoft وCisco وOracle، لتطوير المنصة ودمجها مع حلولهم السحابية.
وتتوفر مكونات المنصة مفتوحة المصدر، بينما يقدم نظام Sentry كتصميم مرجعي يمكن للمؤسسات تطوير منتجات تجارية مبنية عليه.
