إنها نوع من التطورات التي كان يُنظر إليها في السابق فقط في الخيال العلمي: نظام ذكاء اصطناعي، تم تدريبه للبحث عن الثغرات الرقمية، يخرج عن السيطرة البشرية ويتصرف بمفرده من أجل اختراق شركة أخرى.
الهجوم الذي أعلن عنه هذا الأسبوع OpenAI، التي ألقت اللوم على نماذج الذكاء الاصطناعي المتمردة، أكد على النمو السريع لقدرات التكنولوجيا. بالنسبة للعديدين، أضاف أيضًا حالة من الإلحاح للأسئلة حول ما إذا كان يمكن منعها من التسبب في الفوضى على نطاق أكبر، مع عواقب أكثر خطورة.
في ما وصفته OpenAI بأنه حلقة “غير مسبوقة”، قالت الشركة إن نماذج الذكاء الاصطناعي المتقدمة الخاصة بها استُخدمت بيانات اعتماد مسروقة للإختراق في خوادم إحدى شركات الذكاء الاصطناعي الناشئة. بدأت في ما كان يُفترض أنه بيئة اختبار “منعزلة للغاية”، مع حواجز أمان مخفضة، قبل أن تجد الوكيل الذكي طريقه إلى الإنترنت.
لكن الكشف جاء لحظة تحذير للباحثين الذين دعوا لتقليل سرعة تطوير الذكاء الاصطناعي وحذروا لسنوات من أن هذه التكنولوجيا قد تشكل مخاطر وجودية للبشرية. وفي أعقاب ذلك، دعا الخبراء لتحسين الاختبارات من قبل شركات الذكاء الاصطناعي وزيادة الحوار بين الولايات المتحدة والصين لإيجاد حلول مشتركة.
قال نيت سوارس، co-author لكتاب 2025 “إذا بنى أي شخص ذلك، سيموت الجميع”: “أعتقد أنه يجب علينا أخذ ذلك كتحذير لعدم جعلهم أكثر ذكاءً، ومن المحتمل أن يتطلب ذلك تعاونًا عالميًا”.
إذا كان بإمكان النموذج اتخاذ قرار بفعل شيء غير أخلاقي أو غير قانوني أو ضار من تلقاء نفسه، فما الذي يمكن للبشر فعله لمنع ذلك؟
قالت OpenAI إنها كلفت نماذج الذكاء الاصطناعي المعنية بملاحقة “استغلال متقدم باستخدام مسارات هجوم معقدة” لاختبار القدرات السيبرانية، لكن التكنولوجيا ذهبت إلى مدى غير متوقع. ويبدو أنها قررت بمفردها استهداف Hugging Face، وهو مركز معروف لتطوير الذكاء الاصطناعي وسوق، للحصول على المعلومات التي كانت تحتاجها لتنفيذ مهمة.
قالت زهراء تمساح، الشريكة المؤسِّسة والمديرة التنفيذية لمنصة الحوكمة i-GENTIC AI، إنها تتوقع أن تزيد الحادثة الضغط على OpenAI ومنافسيها لإجراء اختبارات صارمة واستكشاف احتواء أكثر شمولاً قبل أن تُتاح أنظمة الذكاء الاصطناعي للجمهور.
وقالت إن مراقبة سلوك الوكيل بعد الحدث، كما تفعل OpenAI الآن مع تحقيقاتها، لم يعد كافياً. “إنه مثل وجود حزام أمان، ووسائد هوائية، ومكابح، كل شيء في السيارة. يجب أن يكون هناك قبل بدء السيارة في القيادة”، قالت تمساح.
يأتي الكشف وسط مخاوف متزايدة بشأن قدرات الأمن السيبراني للنماذج القوية. في يونيو، وقع الرئيس دونالد ترامب أمراً تنفيذياً لإنشاء إطار عمل للحكومة الفيدرالية لتقييم المخاطر الأمنية الوطنية لأكثر أنظمة الذكاء الاصطناعي تقدماً قبل إصدارها للجمهور لمدة تصل إلى شهر.
يقول بعض الخبراء إن الاختراق هو جزء من التجربة والخطأ التي تأتي مع تحسين القدرات السيبرانية ولا يشكل سببًا للذعر.
قراءات شائعة
قال جون تيكستون، أستاذ مساعد في علوم الكمبيوتر في جامعة كورنيل والذي يدرس طرق التحكم في سلوك نماذج الذكاء الاصطناعي: “لقد تعاملنا مع الأشخاص الذين يقومون بإنشاء هجمات سيبرانية منذ أن وُجد الإنترنت. وأحد الخصائص المثيرة للاهتمام لهذه النماذج اللغوية هي أن نفس القدرات التي تجعلها قادرة على تنفيذ الهجمات السيبرانية تتيح لها أيضًا إجراء تحليل التهديدات السيبرانية وصنع دفاعات السيبرانية”.
لقد أثار هذا الكشف الشك من أولئك الذين يقولون إنه يفيد OpenAI لجعل تكنولوجيتها تبدو أكثر رعباً. بالنظر إلى أن البشر في OpenAI قد قرروا إيقاف بعض إجراءات الأمان للاختبار، فقد argued some أنه كان يجب ألا تكون النتيجة مفاجئة للغاية.
لاحظ تيكستون أن الكشف يلبي الحاجة لدى OpenAI، وهي شركة ناشئة تعمل نحو ظهورها في وول ستريت، لجمع الأموال.
قال: “القصة التي كانوا يروونها باستمرار على مدار عمر هذه الشركة هي قصة عن مدى خطورة نماذجهم، والتي يقرأها مستثمروهم كقصة عن مدى قوة نماذجهم اللغوية”.
جدد الاختراق الدعوات في بعض الأوساط لزيادة اللوائح والرقابة على شركات الذكاء الاصطناعي.
كتب النائب الأمريكي غريغ كاسار، ديمقراطي من تكساس، على وسائل التواصل الاجتماعي: “نحتاج إلى اختبارات سلامة مستقلة إلزامية ورقابة، والإفصاح الإلزامي عن الحوادث الأمنية، والتعاون الدولي لحماية الناس من الكوارث المطلقة”.
قال سوارس، مدير معهد أبحاث ذكاء الآلة, إن الولايات المتحدة ستحتاج إلى بدء مفاوضات مع أكبر منافس لها في الذكاء الاصطناعي، الصين، وهو أمر يعتقد أنه ليس غريبًا كما قد يبدو قبل عام. حذر زعيم الصين شي جين بينغ في مؤتمر الأسبوع الماضي من ضرورة منع الذكاء الاصطناعي من الهروب من السيطرة البشرية. وبعد النفور المبكر من تنظيم الذكاء الاصطناعي، أصبحت إدارة ترامب أكثر تقييدًا في لتقليص المخاطر السيبرانية.
قال سوارس: “يمكن أن يتغير الكثير عندما تبدأ مجتمع الأمن القومي في ملاحظة أن لديهم تهديدًا خطيرًا”. “هل سيوقظهم هذا؟ نأمل. لست متأكدًا. إذا لم يفعل ذلك، ربما ستفعل الحادثة القادمة”.
قال رائد الذكاء الاصطناعي يوشوا بنجيو في وسائل التواصل الاجتماعي إن الحلقة مثيرة للقلق للغاية ويجب أن تعمل كـ “إنذار”.
قال بنجيو، أستاذ في جامعة مونتريال: “الاستمرار على المسار الحالي لتطوير الذكاء الاصطناعي من المرجح أن يؤدي إلى زيادة في الحالات الملموسة للهجمات السيبرانية المستقلة، بالإضافة إلى غيرها من الحوادث عالية المخاطر للسلوك الخطير وغير المنضبط للذكاء الاصطناعي. نحتاج بشكل عاجل إلى اتخاذ إجراءات لمنع هذه المواقف، بدلاً من محاولة تنظيف الأضرار بعد وقوعها.”
