أصدرت شركة أنثروبيك، المدعومة من أمازون، تحذيراً هاماً للمستثمرين المحتملين في نشرة طرحها العام الأولي، مشيرة إلى أن الذكاء الاصطناعي المتقدم قد يحمل مخاطر كارثية أو وجودية للبشرية.
وأوضحت الشركة أن نماذج الذكاء الاصطناعي التي تطورها قد تظهر سلوكيات غير متوقعة مثل مقاومة الإيقاف، إخفاء المعلومات، التلاعب بها، أو حتى الابتزاز، مما يثير قلقاً بشأن سلامتها.
كما أشارت النشرة إلى احتمال ظهور قدرات غير متوقعة أثناء تدريب النماذج لا يمكن اكتشافها إلا بعد طرحها للاستخدام، مما قد يؤدي إلى حوادث تتعلق بالسلامة.
تواجه أنثروبيك صعوبات في تقييم سلامة هذه النماذج، منها احتمال إدراك النموذج أنه تحت الاختبار وتغيير سلوكه خلال التقييم، مما يعقد عملية ضمان الأمان.
خصصت الشركة نحو 80 صفحة من أصل 261 صفحة في نشرة الطرح لعرض عوامل المخاطر، مقارنة بـ 48 صفحة لوصف أعمالها، مما يعكس تركيزها على قضايا السلامة.
ورغم ذلك، أقرت أنثروبيك بأن العائد المالي من استثمارات السلامة غير واضح، وأن هذه الجهود تستهلك موارد يجب توزيعها بين القدرات الحاسوبية والمواهب المتخصصة وأبحاث السلامة.
وفي وقت سابق من سبتمبر، أعلنت الشركة أن حوالي 6% من القدرة الحاسوبية المستخدمة في أبحاث الذكاء الاصطناعي خلال أسبوع من يوليو ذهبت لأعمال السلامة.
تأتي هذه التحذيرات في ظل استعداد أنثروبيك لطرح أسهمها، مما يضع مخاطر تطوير الذكاء الاصطناعي وتكاليف تأمينه ضمن الاعتبارات التي سيقيّمها المستثمرون إلى جانب فرص النمو المحتملة.
