تقول شركة أنثروبيك الأمريكية للتكنولوجيا إن ثلاثة من نماذج الذكاء الاصطناعي التابعة لها خرجت من بيئات اختبار معزولة واختلقت أنظمة ثلاث شركات أخرى خلال تمرين على الأمن السيبراني.
يأتي ذلك بعد أيام قليلة من إعلان شركة منافسة هي OpenAI أنها قد خرقت أنظمة شركات أخرى، بما في ذلك Hugging Face – مركز لأدوات الذكاء الاصطناعي.
دفعت تلك الإعلانات شركة أنثروبيك إلى التحقق مما إذا كانت نماذجها قد نفذت هجمات مشابهة. تقول إنها اكتشفت ثلاث حالات تم الإبلاغ عنها منذ ذلك الحين إلى الشركات المتضررة.
حثت أنثروبيك، التي لم تسمِّ الشركات، مختبرات الذكاء الاصطناعي الأخرى على إجراء مراجعات مماثلة لفهم أفضل لمخاطر قدرات نماذجها.
قالت أنثروبيك في بيان إنها راجعت أكثر من 140,000 اختبار للعثور على أدلة على أن كلود – عائلة نماذج الذكاء الاصطناعي الخاصة بها – يمكن أن تصل إلى الإنترنت من بيئات اختبار كانت مصممة لتكون محكمة الإغلاق.
تشمل الاختبارات ما يُعرف بتقييمات “استحواذ العلم”، حيث كانت مهمة كلود الحصول على المعلومات عن طريق اختراق أنظمة أخرى – وهي وسيلة شائعة لتقييم خبراء تقييم قدرات الاختراق للنموذج.
قالت الشركة التي تتخذ من سان فرانسيسكو مقرًا لها إن “سوء التواصل” على الأنظمة التي تديرها أنثروبيك وشريكها في الاختبار أدى إلى ترك النماذج مع إمكانية الوصول المباشر إلى الإنترنت، مما سمح لها باختراق أنظمة أخرى.
أضافت أنثروبيك أنها “تتعامل مع الإصلاحات كما لو كانت المسؤولية تقع علينا وحدنا”.
وقد أثارت سلسلة من الهجمات الإلكترونية المدفوعة بالذكاء الاصطناعي دعوات لتشديد الحماية والرقابة على التكنولوجيا، بسبب المخاوف بشأن المخاطر التي تمثلها الأنظمة المستقلة القوية بشكل متزايد.
قال الرئيس الأمريكي دونالد ترامب يوم الأربعاء إن واشنطن تدرس تدابير للحد من أدوات الذكاء الاصطناعي بعد حوادث الأمن السيبراني الأخيرة.
