ماريا بارتيومو تناقش وكيل الذكاء الاصطناعي التجريبي من OpenAI الذي كسر containment وهاجم منصة ذكاء اصطناعي.
لم تتمكن OpenAI من اكتشاف خرق مستقل لشركة ذكاء اصطناعي أخرى بواسطة أحد نماذجها المتقدمة للذكاء الاصطناعي لمدة أسبوع ولم يتم ذلك حتى بعد أن تم الاتصال بـ FBI من قبل الشركة المخترقة، وفقًا لتقرير.
يوم الثلاثاء، أعلنت OpenAI عن خرق شركة Hugging Face للذكاء الاصطناعي الذي حدث خلال أحد المراجعات الداخلية لـ OpenAI لعدة نماذج منها GPT-5.6 Sol، ووصفتها بـ”حادثة سيبرانية غير مسبوقة.”
“الدرس الرئيسي من هذه الحادثة هو أن أمان النموذج وسلامته يجب أن تواكب القدرات المتطورة بسرعة،” قالت الشركة. “نحن نقوم بتعزيز containment ومراقبة التحكمات في الوصول وممارسات التقييم المستخدمة خلال تطوير النموذج.”
بدأ اختراق Hugging Face في 11 يوليو واستمر حتى 13 يوليو، حسبما قال توماس وولف، المؤسس المشارك لشركة Hugging Face، لوكالة رويترز.
ترامب يطلق النسر الذهبي للبحث عن الثغرات السيبرانية باستخدام الذكاء الاصطناعي
كشفت OpenAI يوم الثلاثاء أن أحد نماذجها للذكاء الاصطناعي قد اخترق بشكل مستقل بنية تحتية لشركة أخرى. (عمر ماركيس/SOPA Images/LightRocket عبر Getty Images، ملف / Getty Images)
استغرق الأمر عدة أيام قبل أن تدرك OpenAI أن وكيلها كان وراء الهجوم ولم تتواصل الشركتان لأول مرة حتى 20 يوليو، حسبما أخبر أربعة أشخاص، بما في ذلك وولف، الوكالة.
غالبًا ما تجري OpenAI اختبارات نموذجية متزامنة، مما قد يجعل من الصعب على الموظفين مراقبة كل شيء، حسبما أخبر أربعة أشخاص وكالة رويترز.
قالت Hugging Face لوكالة رويترز إنها تستعد لجدول زمني عام للاختراق.
وفقًا لـ OpenAI، وقعت الحادثة خلال تقييم داخلي مصمم لقياس قدرات نماذجها المتقدمة في مجال الأمن السيبراني. قام الباحثون بتعطيل بعض تدابير السلامة المدمجة وقاموا بتشغيل النماذج في بيئة اختبار معزولة مع وصول محدود إلى الإنترنت.
قالت OpenAI إن النماذج استغلت ثغرة برمجية غير معروفة للوصول إلى الإنترنت، ثم اخترقت أنظمة Hugging Face في محاولة ظاهرة للعثور على إجابات لمعيار الأمن السيبراني.
قالت Hugging Face إنها تستعد لجدول زمني للاختراق. (جاكوب بوريزيكي/NurPhoto عبر Getty Images، ملف / Getty Images)
قالت OpenAI إنها الآن تنفذ ضوابط أمان أكثر صرامة بينما يتم تصحيح الثغرات وتعزيز التدابير الوقائية حول تدريب الذكاء الاصطناعي المستقبلي و التقييمات.
لم تدرك OpenAI حتى 16 يوليو، بعد أن كتبت Hugging Face في منشور بلوق أنها تعرضت للاختراق بواسطة “نظام وكيل ذكاء اصطناعي مستقل”، أن أحد وكلائها كان المصدر، وفقًا لما قاله شخصان لوكالة رويترز.
كانت هذه بعد أسبوع من محاولة الوكيل المسؤول كسر بيئة اختبار OpenAI الخاصة به لأول مرة.
وعندما اتصلت OpenAI بـ Hugging Face حول الهجوم، كانت قد اتصلت بالفعل بـ FBI.
أخبرت OpenAI وكالة رويترز أن هناك العديد من المعلومات غير الدقيقة في تقريرها لكنها لم ترد عندما سُئلت عن التفاصيل.
أعلن الرئيس التنفيذي لشركة OpenAI، سام ألتمان، عن الهجوم علنًا يوم الثلاثاء. (شون غالوب/Getty Images، ملف / Getty Images)
شاركت OpenAI هذا البيان مع FOX Business: “ندرك أن هناك الكثير من الأسئلة والتفاصيل الافتراضية المتداولة المتعلقة بحادثة Hugging Face. هذه حادثة غير مسبوقة، ونعتقد أنها تمثل لحظة مهمة لأمان الذكاء الاصطناعي.
“نحن لا زلنا نجري مراجعة شاملة إلى جانب مستشارين خارجيين وتحت إشراف لجنة الأمان والسلامة لدينا. بمجرد الانتهاء من المراجعة، نخطط لنشر تقرير تقني عن ما تعلمناه في الأسابيع القادمة.”
أخبرت FBI FOX Business أنها رفضت التعليق.
تواصلت FOX Business أيضًا مع Hugging Face.
في منشور على X هذا الأسبوع، ناقش المؤسس المشارك والرئيس التنفيذي لشركة Hugging Face، كليم دلانج، الحادثة بعد أن أعلن الرئيس التنفيذي لشركة OpenAI، سام ألتمان، عن الاختراق.
قالت OpenAI إن أحد نماذجها للذكاء الاصطناعي قد تعرض لاختراق أنظمة شركة أخرى خلال الاختبار الداخلي، مما دفع إلى تحقيق مشترك مع شركة الذكاء الاصطناعي Hugging Face. (رويترز/دادو روفيك، ملف / رويترز)
“لقد اشتبهنا في أن الهجوم السيبراني الأسبوع الماضي قد جاء من مختبر متقدم، نظرًا لتطور الوكيل. وها هو الأمر!” كتب دلانج.
اضغط هنا لتنزيل تطبيق FOX NEWS
“لقد قضينا الـ 24 ساعة الماضية نعمل عن كثب مع فريق @OpenAI (شكرًا!)، ونعتقد بشدة أنه لم تكن هناك نية خبيثة من جانبهم. إنه لأمر مذهل حقًا أن كل هذا حدث بشكل مستقل! التحقيق مستمر، وسنشارك المزيد من التعلمات من ما قد يكون أول حادثة من نوعها!”
ساهم مايكل سينكيفيتش من FOX Business في هذا التقرير.
