أنتروبك قالت إن نماذج الذكاء الاصطناعي لديها اخترقت ثلاث منظمات أخرى خلال الاختبارات، بعد أيام فقط من رفع مخاوف شركة OpenAI حول التحكم في الذكاء الاصطناعي بعد أن كشفت عن نماذجها المارقة التي اخترقت شركة أخرى.
أنتروبك، الشركة التي تتخذ من سان فرانسيسكو مقرًا لها والمشرفة على كلود، نشرت على موقعها الإلكتروني يوم الخميس أنها اكتشفت الحوادث الثلاثة بعد مراجعة أكثر من 141,000 عملية تقييم.
لقد أطلقت مراجعة شاملة للأمن السيبراني التي بحثت بشكل محدد عن أدلة حول ما إذا كانت نماذج الذكاء الاصطناعي لديها قادرة على الوصول إلى الإنترنت من داخل بيئات الاختبار التي يجب أن تكون مغلقة، وذلك ردًا على حادثة OpenAI، وفقًا لما ذكرته أنتروبك.
أنتروبك قالت إن النماذج المعنية في الحوادث كانت كلود أوبوس 4.7، كلود ميثوس 5 ونموذج اختبار بحث داخلي. تعود أقدم الحوادث إلى أبريل، قالت الشركة.
“كلود قد تعرضت بنيات المنظمات المتأثرة باستخدام تقنيات بسيطة”، قالت أنتروبك، مثل استغلال كلمات المرور الضعيفة.
قراءات شائعة
وأضافت أنها قد تواصلت بالفعل مع المنظمات المتأثرة، التي لم تسميها، حيث قال اثنان منهم إنهما لم يكتشفا النشاط من قبل وأن الشركة كانت “تواصل التواصل مع الثالثة”.
أسبوع الماضي، قالت OpenAI إن نماذج الذكاء الاصطناعي لديها قد خرجت عن السيطرة أثناء تقييم نماذجها، واخترقت خوادم شركة الذكاء الاصطناعي Hugging Face. وصفت OpenAI ذلك بأنه “حادث أمني كبير.”
ألقت هذه الحوادث الضوء على الثغرات في أمان الذكاء الاصطناعي والتحكم وأثارت تساؤلات حول كيف يمكن أن يكون الذكاء الاصطناعي تحت السيطرة البشرية بأمان مع انتشار استخدام التقنية عالميًا.
“تحدث اختبارات الأمان قبل إصدار النموذج تمامًا لأننا لا نعرف بعد ما هو قادر عليه”، قالت أنتروبك يوم الخميس على موقعها الإلكتروني.
