أعلنت مجموعة مايكروسوفت عن إطار أمني متقدم يهدف إلى إدارة المخاطر المرتبطة بعملاء الذكاء الاصطناعي العاملين داخل المؤسسات. جاء ذلك في بيان صادر عن نائبة الرئيس التنفيذي لشؤون الأمن، هاييت غالو، التي أوضحت أن هذه العملاء لا يمكن الوثوق بها بشكل كامل بسبب طبيعتها الديناميكية وتفاعلها مع بيئة العمل.
تصف مايكروسوفت هؤلاء العملاء بـ”المطلعين الوكلاء” (Agentic Insiders)، الذين يمتلكون صلاحيات واسعة ووصولاً إلى بيانات وأنظمة حيوية، مما قد يؤدي إلى تصرفات غير متوقعة أو تنسيق مع عملاء آخرين دون تدخل خارجي.
مشروع Perception ونظام المراقبة الذكي
للتصدي لهذه التحديات، تعتمد مايكروسوفت على مشروع Perception، الذي أُعلن عنه في يوليو الماضي، والذي يستخدم ما يسمى “المكدس السيبراني” (Cyber Stack) المكون من عملاء أحمر وأزرق وأخضر لمراقبة النشاط والاستجابة له في الوقت الفعلي.
يرتكز الإطار على “العملاء الحراس” (Guardian Agents) الذين يشرفون على كل إجراء يتخذه عملاء المؤسسة قبل تنفيذه، مستفيدين من إشارات متعددة تشمل الهوية والبيانات والسحابة ونقاط النهاية والشبكة وبيئة التشغيل لتقييم المخاطر وتطبيق الضوابط المناسبة.
تعزيز الشفافية والمساءلة
يوفر النظام إمكانية التتبع التي تتيح لمتخصصي الأمن مراجعة إجراءات العملاء وفهم أسباب المخاطر. كما تخطط مايكروسوفت لتعزيز الشفافية في نماذج الذكاء الاصطناعي من خلال الوصول إلى رموز سلسلة التفكير (Chain-of-Thought Tokens) لتقييم مدى توافق نية النموذج مع الغرض المحدد.
وأكد البيان أن الشفافية ستكون مكمّلة لتدابير الاحتواء، مما يدعم المساءلة والتتبع في منظومات الأمن الوكيلة داخل المؤسسات.
