إنفيديا ومجموعة من عمالقة التكنولوجيا أطلقوا يوم الاثنين مبادرة جديدة للسلامة في الذكاء الاصطناعي تركز على النماذج المفتوحة، حيث تستمر تداعيات هجوم سيبراني نفذته نماذج إيه.آي خارجة عن السيطرة.
في الأسبوع الماضي، ظهر أن الهدف من الهجوم، شركة هوغينج فيس الناشئة، لم تتمكن من استخدام النماذج الرائدة في الولايات المتحدة للدفاع عن نفسها، حيث لم يكن هناك فواصل تميز بين المعتدي والمدافع. بدلاً من ذلك، لجأت إلى نموذج صيني مفتوح الوزن، والذي لم يكن ملزماً بتلك القيود نفسها.
في أعقاب تأمل المشرعين الأمريكيين بشكل متزايد كيفية كبح تزايد اعتماد نماذج الذكاء الاصطناعي الصينية، والتي تعتبر الأكثر تقدماً منها ذات الوزن المفتوح، أطلق عمالقة التكنولوجيا مبادرة تهدف إلى بناء ومشاركة أدوات الذكاء الاصطناعي المفتوحة.
يمكن تنزيل النماذج المفتوحة وتعديلها واستضافتها ذاتيًا، على عكس النماذج المغلقة — بما في ذلك الأنظمة الرائدة التي بنتها أنثروبيك وOpenAI — والتي يمكن الوصول إليها فقط من خلال بنية تحتية محددة.
“سيسعى التحالف المفتوح للذكاء الاصطناعي الآمن إلى معالجة وكشف الثغرات باستخدام تقنيات مفتوحة”، قالت إنفيديا في بيان. “وقدم الحادث الأمني الأخير في هوغينج فيس تذكيرًا واضحًا: يحتاج المدافعون السيبرانيون إلى نظم وكيلة مفتوحة ورائدة للدفاع عن النفس.”
بجانب إنفيديا، تشمل الأعضاء الآخرين في التحالف مايكروسوفت, سبيس إكس, بالانتيير، وعشرات من شركات التكنولوجيا الأخرى من الولايات المتحدة وأوروبا.
الدفع للحد من الذكاء الاصطناعي الصيني
تتزايد الدعوات للقيود التي تحد من الوصول إلى النماذج التي بنتها الشركات الصينية للذكاء الاصطناعي، التي اتُهمت بـ الحملات لاستخراج المعلومات من أنظمة المنافسين الأمريكيين، والمعروفة باسم “الاستخراج” — عندما يستخرج نموذج ما المعرفة من نموذج مدرب بشكل أفضل.
في الأسبوع الماضي، هدد وزير الخزانة سكوت بيسنت بفرض عقوبات على الشركات الصينية التي تقوم بهجمات الاستخراج ضد الشركات الأمريكية.
“هناك احتمال حقيقي أن الحكومة الأمريكية تفرض قيودًا على النماذج الصينية”، قال كريس مكغواير، باحث كبير في الصين والتقنيات الناشئة في مركز الأبحاث المجلس للعلاقات الخارجية، لـ CNBC.
يمكن أن تشمل هذه العقوبات حظر المعاملات التي تشمل النماذج، مثل شراء الرموز عبر واجهة برمجة التطبيقات أو استضافة الشركات الأمريكية النموذج على السحابة وفرض رسوم على العملاء مقابل الاستنتاج، بحسب ما قال.
“في واشنطن، هذه ليست مناقشة حول البرمجيات مفتوحة المصدر مقابل البرمجيات المغلقة، ولكنها مناقشة حول ما إذا كان يجب التسامح مع سرقة حقوق الملكية الفكرية الصينية”، قال مكغواير. “ستكون أي إجراءات مركزة على الشركات الصينية، وليس نظام البرمجيات مفتوحة المصدر.”
لكن مع بناء معظم النماذج مفتوحة المصدر الأكثر قدرة من قبل شركات صينية، هناك مخاوف بشأن القيود.
في الأسبوع الماضي، أصدرت إنفيديا ومايكروسوفت وميتا، وبالانتيير وأكثر من 20 شركة أخرى رسالة تحث صناع القرار على تجنب “القيود المبكرة” على نماذج الذكاء الاصطناعي ذات الوزن المفتوح التي قد “تعيق المنافسة أو تدفع الابتكار إلى الخارج.”
أظهر حادثة OpenAI-Hugging Face “حقيقة عملية”، قالت إنفيديا. “عندما لا يستطيع المدافعون فحص وتعديل وتشغيل الذكاء الاصطناعي المتقدم على بنيتهم التحتية الخاصة، فإن قدرتهم على الاستجابة محدودة بالضبط في الوقت الذي تكون فيه السرعة أهم شيء.”
