أحدث أدوات الذكاء الاصطناعي (AI) من شركة أنثروبيك وOpenAI وصلت إلى درجات جديدة في محاولتها لتقويض منصة شهيرة خلال الاختبار الذي أجراه معهد الأمن السيبراني للذكاء الاصطناعي في المملكة المتحدة.
قال المعهد يوم الثلاثاء إن نموذج “ميثوس” من أنثروبيك ونموذج “سول” من OpenAI اشتبكا في مستوى من “الاستقلالية والخداع” لم يشهده من قبل.
خلال اختبار أمان الذكاء الاصطناعي الروتيني، أنشأ وكيل أنثروبيك ملفات تعريف مزيفة لأشخاص حقيقيين أثناء محاولته خداع شخص يقف بينه وبين الوصول إلى GitHub، وهو منصة كبيرة حيث يخزن مطورون التكنولوجيا شفرات البرمجيات.
وأشارت أنثروبيك وOpenAI رداً على تقرير المعهد إلى أن اختبارها قد قلل أو أزال الضوابط المعتادة.
لاحظ المحكمون في المعهد أولاً “نقل بيانات غير عادية تخرج من أنظمتنا البحثية” خلال اختبار، ثم وجدوا أن “بعض الوكلاء الذين يتم اختبارهم كانوا قد شاركوا في نشاط مستمر، محتمل أن يكون ضارًا موجهًا ضد أشخاص حقيقيين ومنظمات”.
اتضح أن وكيل “ميثوس” قد أنشأ “رمزًا خبيثًا” وحاول إدخاله في نظام GitHub.
حدد وكيل “ميثوس” وبحث في الأشخاص الذين كانوا يحافظون على GitHub وأنشأ سلسلة من “الهويات الوهمية عبر الإنترنت” بناءً على هؤلاء الأشخاص الحقيقيين. فعل ذلك كجزء من جهود للضغط على الأشخاص الحقيقيين وخداعهم للموافقة على رمزه الخبيث.
حتى أن الوكيل أرسل رسائل مباشرة للأشخاص متظاهرًا بأنه الأشخاص الحقيقيون الذين بحث عنهم.
قال المعهد: “عندما تم تحدي طلب السحب الخاص بالوكيل علنًا، قام بتحرير نشاطه السابق ليبدو بلا ضرر وفكر في اعتماد هوية جديدة للاستمرار”.
على مدار المحاولات، كانت المراجعة البشرية هي التي منعت الوكيل من النجاح في توصيل الرمز الخبيث إلى GitHub.
بينما قال المعهد إن وكيل “ميثوس” لم يتم توجيهه بشكل محدد لتجنب أو تنفيذ مثل هذا السلوك، إلا أنه “المرة الأولى التي نرى فيها مخاطر حول الاستقلالية والخداع تتجلى بهذا الوضوح، دون أي تحفيز محدد، في العالم الحقيقي”.
قالت شركات الذكاء الاصطناعي المتنافسة، التي تستعد لإدراجها في السوق العامة، في الأسابيع الأخيرة إن أدواتها كانت مسؤولة عن عدة حوادث قرصنة إلكترونية.
كتبت أنثروبيك في بيان عام إن معايير اختبار المعهد “لا تمثل أي من نماذجنا الإنتاجية”.
وأضافت أن الشركة تجري تحقيقًا خاصًا بها في الحادث من أجل “تحديد أسباب سلوكها”.
قال متحدث باسم OpenAI إن ظروف اختبار المعهد “لا تعكس الاستخدام العادي” وأن الشركة ستستمر في “العمل مع المحكمين وغيرهم من أصحاب المصلحة عبر الصناعة لتعزيز الممارسات المشتركة لإجراء التقييمات بأمان مع زيادة قدرة النماذج”.
قال المعهد يوم الثلاثاء إن اختباراته لنماذج الذكاء الاصطناعي مع إيقاف مثل هذه الضوابط أمر روتيني، كما هو الأمر بمنح أدوات مثل هذه الوصول إلى الإنترنت المفتوح.
وأضاف أن سلوك النموذج المعني يمثل “عددًا قليلاً من الأحداث تحت ظروف محددة جدًا”.
ومع ذلك، قال إن الطريقة التي عمل بها “ميثوس” و”سول” استجابة لمهمة مباشرة كانت خارج نطاق ما تم تحفيز أدوات الذكاء الاصطناعي للقيام به.
قال المعهد: “إن النشاط الذي قام به الوكيل أظهر علامات على سلوكيات جديدة، محتملة أن تكون خادعة، وكانت إلى حد ما وبدرجة لم نتوقعها”.
كانت معظم أفعال الوكيل الخبيث التي أفاد بها المعهد قد قامت بها أنثروبيك ميثوس. وتم لوم “سول” من OpenAI فقط عن اثنين من الأفعال المذكورة.
وقعت المشكلة الأساسية الأسبوع الماضي كجزء من اختبار طلب فيه المحكمون في المعهد من كل من النماذج “حل تحدي الأمن السيبراني” الذي ينطوي على GitHub، مستودع شفرة البرمجيات، المملوك لشركة Microsoft.
تم إبلاغ GitHub من قبل المعهد عن محاولة اختراق نظامه. تم الاتصال بشركة Microsoft من قبل بي بي سي للحصول على تعليق.
