هذا الأسبوع, كان عالم التكنولوجيا مشغولاً بقصة تحتوي على كل شيء – وبدأت مثل فيلم خيال علمي مثير.
أعلنت Hugging Face – وهو نوع من متجر التطبيقات لأدوات الذكاء الاصطناعي – في 16 يوليو أنها تعرضت للاختراق من قبل مجرم إلكتروني يمتلك ذكاءً اصطناعياً قوياً للغاية.
كانت الإعلانات المدويّة مليئة بمصطلحات تقنية مرعبة جداً: “سرب من صناديق الرمل”، “مهاجم وكيل”، و”صندوق تحكم وتحكم ذاتي الانتقال”.
قالت Hugging Face إن الاختراق كان مختلفاً عن أي شيء تعاملت معه من قبل لأنه تم بسرعة تفوق الإنسان بواسطة ذكاء اصطناعي مع توجيه إنساني ضئيل أو منعدمة.
أجرى الذكاء الاصطناعي 17,000 إجراءً في أقل من يومين، متجاوزاً بنجاح الشركة التقنية الكبيرة والغنية لسرقة الأسرار.
تركت الحادثة عالم التكنولوجيا في صدمة. لكن من كان مسؤولاً عن هذا الهجوم؟
خمن الباحثون في Hugging Face أن المهاجمين الغامضين قد استخدموا أحد النماذج الكبيرة للذكاء الاصطناعي، لكنهم لم يعرفوا من كان المجرمون أو أين هم.
تواصلت الشركة المتحيرة مع الشرطة وبدأت التحقيقات.
من فعلها؟
توجه المعلقون والمحللون إلى بودكاستاتهم وحساباتهم على وسائل التواصل الاجتماعي ليتكهنوا بشأن أي مجموعة من مجرمي الإنترنت أو متسلل دولة قد يكون وراء ذلك.
ثم في يوم الأربعاء، بعد مرور أسبوع تقريباً على قيام Hugging Face بإطلاق الإنذار، تم الكشف عن الجاني الحقيقي.
كان ChatGPT.
كان الكشف بشكل يشبه أسلوب Scooby-Doo غريبًا أكثر – ويدعو للقلق – لأن OpenAI قالت إن روبوتها قام بكل ذلك بمفرده، دون إذن.
قالت الشركة إنه حدث ذلك خلال اختبار لمهارات الاختراق لدى تقنيتها.
خرج إصداران جديدان من ChatGPT، مصممان ليكونا قراصنة بارعين، من بيئة اختبار يُزعم أنها آمنة واكتسبا الوصول إلى الإنترنت.
ثم هاجموا Hugging Face للحصول على المعلومات لمساعدتهم في النجاح في امتحانهم.
أصدرت OpenAI بيانًا صحفيًا تشرح فيه ما حدث وقالت إنها “تتعاون مع Hugging Face” لمعالجة حادثة الأمان ومشاركة الدروس المستفادة.
دراما المؤامرة
منذ ذلك الحين، كانت هناك مناقشات حادة حول الحادث.
هل كانت حقاً تحذيراً صارخاً حول مستقبل الذكاء الاصطناعي؟ أم كانت مجرد حيلة دعائية من OpenAI لإظهار مدى قوة نماذجهم؟
إنها نوع من تسويق الخوف الذي اتُهمت شركات الذكاء الاصطناعي به لسنوات، ومنذ الإطلاق الذي تم الحديث عنه كثيرًا لنموذج Mythos من Anthropic، كانت مهارات الأمن السيبراني نقطة محورية.
واحد من التعليقات الأكثر شيوعًا على منشور سام ألتمان الرئيس التنفيذي لشركة OpenAI بشأن الحادث يلخص هذا الشك: “إذا لم تستطيعوا فهم أن هذا كُتِب لمجرد التفاخر بالنموذج، فأنا لا أعرف ماذا أقول لكم.”
لتشغيل هذا الفيديو تحتاج إلى تمكين JavaScript في المتصفح الخاص بك.
لا يمكن تشغيل هذا الفيديو
استشارى الأمن السيبراني دانيال كارد قال بشكل ساخر على لينكد إن: “أليس من المحظوظ [أن] OpenAI تمكنت من اختراق شخص يمكن أن يستفيد أيضًا من التعرض الإعلامي… “
بالنسبة للبعض، تبدو القصة أكثر مثل دراما مؤامرة من كونها فيلم خيال علمي مثير.
الرسالة هي: “أليست أدوات الذكاء الاصطناعي الخاصة بي قوية جدًا؟ اشترها حتى تتمكن من حماية نفسك من هجمات الذكاء الاصطناعي للآخرين.”
لا يمكننا معرفة الحقيقة، لكن وجهة النظر المعاكسة التي طرحها معلقون آخرون درامية تمامًا. هل هذه علامة على أن OpenAI ارتكبت خطأً محتملًا خطيرًا في الحكم والتخطيط؟
قال المتحدث باسم OpenAI “نحن ندرك أن هناك الكثير من الأسئلة والتفاصيل التخيلية تتداول” حول الحادث. وأضافوا أن “نخطط لنشر تقرير تقني عن ما تعلمناه خلال الأسابيع القادمة”.
ملهاة الأخطاء
Related Posts
