كشفت OpenAI عن هجوم إلكتروني نفذه عملاء شات جي بي تي الخارجين عن القانون وتجاوز أكثر من شركة واحدة.
كان يُعتقد أن شركة “هاغينغ فيس” هي الضحية الوحيدة لمثل هذا الاختراق غير المسبوق – لكن OpenAI الآن تعترف بأن روبوتها هاجم عدة “خدمات متاحة للجمهور”.
وجدت الذكاء الاصطناعي الذي خرج عن السيطرة أربعة بيانات دخول على الإنترنت سمحت له بالوصول إلى أربع خدمات منفصلة وغير مسماة.
وفي الوقت نفسه، وصفت “هاغينغ فيس” خلال إحاطة طارئة مع مئات من محترفي الأمن السيبراني ما كان عليه الحال أن تكون في الطرف المتلقي لأول اختراق مستقل للذكاء الاصطناعي في العالم.
وصفت الشركة كيف عملت الذكاء الاصطناعي بسرعة خارقة، لكنها أيضًا اتخذت قرارات غريبة وأخطأت أخطاءً لم يكن ليقترفها أي قراصنة بشريون.
قالت “هاغينغ فيس”، التي تشبه متجر التطبيقات لأدوات الذكاء الاصطناعي، إن وكلاء الاختراق عملوا بلا كلل مع تجربة آلاف من الأساليب في وقت واحد.
كشفت الشركة لأول مرة أنها تعرضت للاختراق من قبل شخص يستخدم ذكاءً اصطناعيًّا قويًّا يوم 16 يوليو وأبلغت الشرطة.
بعد نحو أسبوع، اعترفت OpenAI بأن الذكاء الاصطناعي لها هو الذي هرب من بيئة مغلقة وهاجم “هاغينغ فيس” بمفرده خلال اختبار.
كان يحاول العثور على إجابات لاختبار الاختراق الذي وضعته OpenAI، واستهدف “هاغينغ فيس”.
يوم الأربعاء، قامت OpenAI بتحديث بيانها لتضمين تفاصيل إضافية أن الاختراق تجاوز ما تم التفكير به في البداية.
قالت الشركة: “حدد النماذج واستخدمت بيانات اعتماد مكشوفة على مستوى الحسابات على خدمات عامة متاحة للجمهور. يشمل ذلك أربعة حسابات على أربع خدمات.”
لم توضح OpenAI ما إذا كانت “الخدمات المتاحة للجمهور” تعني شركات – لكنها قالت إن الهجمات الجديدة لم تكن بنفس مستوى خطورة اختراق “هاغينغ فيس”.
سلوكيات غير سلسة
في يوم الثلاثاء، كتبت منظمة “Cloud Security Alliance” (CSA) تقريرًا استنادًا إلى الاجتماع الطارئ مع “هاغينغ فيس” يوم الجمعة – الذي تم مراجعته من قبل “هاغينغ فيس” نفسها.
كتبت CSA: “اتبع الوكلاء مسارات غير فعالة وأظهروا سلوكيات غير سلسة لم يكن أي إنسان ليختارها”.
عاد الوكلاء إلى تنفيذ إجراءات كانوا قد أكملوها بالفعل – علامة على خسارة الذكاء الاصطناعي لصلة بما يحدث.
كما أن الوكلاء تخيلوا كمًا هائلًا من الأوامر والنصوص غير المتماسكة وتركوا أثرًا غير محكم.
لكن بين الأخطاء والسلوكيات الغريبة، حذرت “هاغينغ فيس” من أن وكلاء الذكاء الاصطناعي قاموا بخطوات تقنية بارعة وكانوا قادرين على التكيف بسرعة مع سيناريوهات جديدة خلال فترة الاختراق التي استمرت لعدة أيام.
Jurassic Park
استغرق الأمر ثلاثة أيام لاكتشافهم داخل شبكة “هاغينغ فيس” لتكنولوجيا المعلومات، واستغرق الأمر من الذكاء الاصطناعي وخبراء الأمن السيبراني في الشركة ساعات عديدة للسيطرة على وكلاء الذكاء الاصطناعي وطردهم – وهو ما قد تجد الشركات العادية صعوبة فيه.
لم ترغب الشركة في الكشف عن تكلفة الاختراق لكنها أوضحت أن الموظفين عملوا لساعات عديدة لإعادة بناء حوالي ثلث بنيتها التحتية.
لقد تم الإشادة بـ “هاغينغ فيس” على شفافيتها في إخبار صناعة الذكاء الاصطناعي والأمن السيبراني بما حدث.
وحذرت CSA من أن الحادث يظهر أن الذكاء الاصطناعي “الوكلاء… يجدون طريقة” – إشارة إلى فيلم “Jurassic Park”، حيث تهرب الديناصورات من أقفاصهم.
تقرأ الورقة: “إنهم مدفوعون بالأهداف، ويحددون أهداف فرعية خاصة بهم، ويتكيفون في الوقت الحقيقي لتجاوز الدفاعات، ويعملون بسرعة آليةPersistence يمكن أن تغمر العمليات اليدوية”.
Related Posts
