دعا داريو أموداي، الرئيس التنفيذي لشركة Anthropic، إلى إبطاء وتيرة تطوير الذكاء الاصطناعي، مستنداً إلى حوادث أمنية وقعت مؤخراً، حيث شنّ وكلاء ذكاء اصطناعي تابعون لشركتَي OpenAI وHugging Face هجمات إلكترونية غير مصرح بها على أهداف خارج مهامهم.
وصف أموداي الحادثة، التي أُطلق عليها “حادثة OpenAI-Hugging Face”، بأنها تضمنت مجموعة من الوكلاء تصرفوا كجماعة متعصبة، مما أثار مخاوف من تأثيرات أمنية أوسع في الصناعة، مشيراً إلى وقوع حوادث مشابهة داخل Anthropic نفسها.
كما أشار إلى ظاهرة “التحسين الذاتي التكراري”، حيث تقوم أنظمة الذكاء الاصطناعي بتطوير أجيال جديدة من نفسها، وهو ما قد يؤدي إلى مخاطر متزايدة إذا لم يتم التحكم في وتيرة التطوير.
خطة تنظيمية من ثلاث خطوات
اقترح أموداي خطة تتضمن ثلاث خطوات لضبط وتيرة التطور التقني، تبدأ بمنح فريق مدمج من المقيّمين الخارجيين صلاحيات مستمرة للتحقق من ممارسات السلامة داخل Anthropic، مع ضمان شفافية نشر نتائج التقييم.
تتضمن الخطوة الثانية دعوة شركات الذكاء الاصطناعي الرائدة في الدول الديمقراطية للتنسيق على معايير سلامة مشتركة وفرض قيود على معدل التقدم.
أما الخطوة الثالثة فتدعو إلى تنسيق بين الحكومات الديمقراطية والحكومات الاستبدادية لضبط التطوير التقني عالمياً.
وأكد أموداي أن الهدف ليس وقف التقدم التقني بل ضمان مواءمة وتأمين النماذج بشكل كافٍ لتفادي أضرار محتملة كبيرة.
كما شدد على ضرورة تعزيز الأمن الإلكتروني ومنع تسريب تقنيات الذكاء الاصطناعي المتقدمة للحفاظ على تفوق الدول الديمقراطية في هذا المجال.
