- التعليمات البرمجية التي تم إنشاؤها بواسطة الذكاء الاصطناعي تزداد بشكل أسرع من آلية الرقابة الأمنية
- المراجعات اليدوية تكافح لمواكبة البرمجيات التي تنتجها الآلات
- يخشى قادة الأمن من انتشار أنماط الترميز غير الآمنة عبر خطوط تطوير البرمجيات
ساعدت مساعدات الترميز المعتمدة على الذكاء الاصطناعي على الانتقال عبر فرق التطوير بشكل أسرع من قدرة الأطر الأمنية على التكيف.
تشير أبحاث جديدة من Salt Security إلى أن 90% من قادة الأمن يعبّرون الآن عن مخاوف نشطة بشأن المخاطر التي تشكلها البرمجيات التي تم إنشاؤها بواسطة الذكاء الاصطناعي.
ومع ذلك، تواصل المؤسسات تبني أدوات الذكاء الاصطناعي لأنها تسرع من مهمة الترميز، وتقلل من الوقت المستغرق في الأعمال المتكررة، وتزيد من سرعة تسليم البرمجيات.
المراجعة البشرية لا يمكنها التعامل مع سرعة الذكاء الاصطناعي
يعتقد قادة الأمن أن ممارسات التطوير التي تم تصميمها قبل أن تصبح الذكاء الاصطناعي شائعًا قد لا توفر إشرافًا كافيًا.
حدد ما يقرب من ثلث (29%) من المستجيبين الأنماط الترميز غير الآمنة باعتبارها الخطر الرئيسي الذي قدمته مساعدات الذكاء الاصطناعي.
تتعلم هذه الأنظمة من مجموعات بيانات تدريب ضخمة تحتوي على عيوبها وممارساتها القديمة.
يمكن لأداة ذكاء اصطناعي أن تولد رمزًا يبدو وظيفيًا تمامًا بينما تعيد بهدوء إنتاج الثغرات التي قد يكتشفها الإنسان.
تشبه هذه المشكلة كيفية برامج مكافحة الفيروسات التي يجب عليها تحديث تعريفاتها بشكل دائم لأن التهديدات الجديدة تظهر أسرع من إمكانية نمو قواعد البيانات الخاصة بالتوقيعات.
الفرق هنا هو أنه لا توجد سلطة مركزية تتعقب كل نمط غير آمن قد يكرره الذكاء الاصطناعي – إذ بالرغم من القلق الواسع الذي يدخله الذكاء الاصطناعي، لا تزال أكثر من ثلث المنظمات تعتمد على مراجعات الشيفرة اليدوية قبل أي إطلاق.
تتزايد الاعتماد على التحقق البشري بشكل هيكلي عندما ينتج الذكاء الاصطناعي الرموز بمعدلات لا يستطيع أي فريق فحصها بدقة.
كانت تلك الطريقة تعمل عندما كتب المطورون البرمجيات بسرعة بشرية، لكنها تفشل عندما يسارع الذكاء الاصطناعي في إنتاج الناتج بشكل كبير.
تبدأ تعبئة المراجعين بسرعة، وتطبق الفرق المعايير بشكل غير متسق، وتُفسَّر متطلبات الأمان بشكل مختلف عبر الأقسام.
تغير مساعدات الترميز المعتمدة على الذكاء الاصطناعي بشكل جذري كيفية بناء البرمجيات، لكن الحوكمة لم تواكب ذلك،” قال روعي إيلياهو، الرئيس التنفيذي ومؤسس مشارك في Salt Security.
“تدرك معظم المنظمات المخاطر، لكن العديد لا يزالون يحاولون إدارة الشيفرات التي يتم إنشاؤها بواسطة الذكاء الاصطناعي باستخدام عمليات الأمان المصممة لعالم ما قبل الذكاء الاصطناعي.”
لا scales هذه الطريقة بشكل أفضل من استخدام بريد إلكتروني واحد لتعامل مع ملايين الرسائل اليومية دون تصفية أو أتمتة.
تعقيد المؤسسات يجعل تنفيذ القوانين أصعب
تواجه المؤسسات الأكبر التي تضم أكثر من 500 موظف تحديات حوكمة لا تواجهها الشركات الصغيرة ببساطة.
تستخدم الفرق الموزعة أدوات مختلفة، وتتابع سير عمل متنوع، وتطبق معايير الأمان بشكل غير متسق عبر المناطق.
يزداد خطر اعتماد المطورين المفرط على مساعدي الذكاء الاصطناعي بالتناسب مع حجم الفريق وضغط التسليم.
حذرت الوكالات الأمنية، بما في ذلك الهيئات الحكومية للأمن السيبراني، في السابق من أن أنظمة الذكاء الاصطناعي توسع من سطح الهجمات وتعقد هياكل المساءلة بشكل كبير.
بدون رؤية أفضل إلى أين تدخل الشفرات التي يجري إنشاؤها بواسطة الذكاء الاصطناعي في خط الأنابيب، تظل الحوكمة تخمينًا متجملًا كعملية.
يقدم التعامل مع مساعدات الترميز المعتمدة على الذكاء الاصطناعي كمكونات من سلسلة الإمداد البرمجي – مماثل لفحص أي خطر البرمجيات الخبيثة – يقدم طريقًا أكثر واقعية للمضي قدمًا من الأمل في أن المراجعة اليدوية ستلحق somehow.
