الذكاء الاصطناعي الفعال لن يتوسع دون سياق المؤسسة

الذكاء الاصطناعي العميق ليس دردشة آلية أكثر ذكاءً

إحدى المفاهيم الخاطئة التي أراها هي أن العديد من القادة لا يزالون يعتبرون الذكاء الاصطناعي العميق دردشة آلية أكثر ذكاءً لأن العديد من حالات الاستخدام حتى الآن كانت موجهة للدردشة. لكن الوكلاء المناسبين، إذا تم بناؤهم بشكل صحيح، سيتخذون إجراءات، ويقومون بتسلسل من القرارات، ويعملون بمستوى معين من الوكالة، ويعملون باستمرار نحو نتيجة.

بمجرد أن تنتقل إلى هذا النوع من البيئة، فإن المشكلة ليست فقط الحل الذكائي نفسه أو قوة النموذج. المشكلة هي السياق.

المفهوم الخاطئ الثاني هو أن العديد من المسؤولين عن التقنية يعتقدون أن القيد هو النموذج. إنهم يبذلون الكثير من الطاقة والجهد والمال في البنية التحتية، وتحسين الضبط وهندسة العبارات. بعض ذلك مطلوب. ولكن إذا كانت بيانات الشركة لا تزال مفصولة، وإذا كانت المنظمة ليست مدركة دلالياً وإذا لم يكن السياق الصحيح متاحاً عندما يحتاج الوكلاء إلى العمل، فإن الحصول على أفضل نموذج لن يحل المشكلة.

عمل Morgan Stanley مع OpenAI في إدارة الثروات هو مثال مفيد. تم تصميم المساعد لمساعدة المستشارين الماليين على الوصول إلى رأس المال الفكري الواسع لـ Morgan Stanley، بما في ذلك مئات الآلاف من صفحات البحث والتعليقات. بمعنى آخر، أصبح النموذج أكثر فائدة لأنه مثبت في سياق الشركة.

المفهوم الخاطئ الثالث يتعلق ببناء القدرات قبل الضوابط. المسؤولون عن التقنية تحت ضغط لنشر الوكلاء، ولكن إذا قام الوكلاء بأداء المهام البشرية على نطاق واسع بدون الضوابط الصحيحة، فإن القدرة تتحول بسرعة إلى خطر مؤسسي.

الأجزاء الأربعة من فجوة السياق

من منظور تقني عملي، أعتقد أن فجوة السياق تتكون من أربعة أشياء: فجوة البيانات، فجوة الدلالة، فجوة التنفيذ وفجوة الثقة.

فجوة البيانات هي معلومات موجودة ولكن الوكلاء لا يمكنهم الوصول إليها. قد تكون في أنظمة قديمة، منصات تخطيط موارد المؤسسات، ملفات PDF، جداول البيانات، مستودعات غير منظمة أو أنظمة لم تكن متصلة أبداً. قد تمتلك الشركة المعلومات؛ لكن الوكيل ببساطة لا يمكنه الوصول إليها. قد تعرف نظام إنشاء القروض ونموذج المخاطر في نفس البنك “العميل” بشكل مختلف، والسلوك الوكيل عبر كلاهما سيظهر تناقضاً دون أن يعرف ذلك.

ثم تأتي فجوة الدلالة. حتى لو كانت كل تلك البيانات موجودة في بحيرة أو مستودع، فإن البيانات نفسها بلا معنى ما لم يتمكن الوكيل من تفسيرها. بدون طبقة دلالية، قد يستغرق الوكلاء 10x أو 20x من الرموز والوقت الذي يمكن أن يوفره جراف دلالي مناسب أو جراف معرفي. الوكيل الذي يرى إرجاع منتج كتسجيل عملية لا يمكنه قراءته كعيب في الحجم أو إشارة جودة أو محفز خفض مبكر.

فجوة التنفيذ هي ما إذا كان الوكيل يمكنه تقديم التوصية الصحيحة مع القيود الصحيحة، مثل اتفاقيات الموردين، التقاويم الترويجية، تفاصيل المخزون، عتبات الموافقة وقواعد التشغيل. حتى مع وجود طبقة دلالية قوية، يجب أن تُدرج تلك القيود في الحل. الوكيل الذي يحدد بشكل صحيح فرصة التخفيض ولكنه ينفذ دون التحقق من اتفاقية الحد الأدنى للسعر المعلن للمورد يرتكب خطأ، مما يخلق مشكلة في الامتثال.

الرابع هو فجوة الثقة. إذا اتخذ الوكيل قراراً لا يمكن لأحد تفسيره، فقد يتم تجاهل التوصية أو إبطالها من قبل إنسان في الدائرة. لتوسيع الاعتماد، تحتاج المنظمات إلى طبقة ثقة تشرح لماذا تم اقتراح أو اتخاذ إجراء. الثقة ليست مطلباً غير مهم. إنها ما يميز الطيارين عن الإنتاج.

المسؤولون عن التقنية يحتاجون إلى سياق، تنفيذ وطبقات تحكم

لكي يتوسع الذكاء الاصطناعي العميق، يجب أن تكون هناك ثلاث طبقات موجودة، ويجب بناؤها بالترتيب الصحيح.

الأولى هي طبقة السياق. نسيج السياق الذي يتسم بالتحسين الدلالي، مترابط، خاضع للحكم وتمثيلي للمعرفة ضمن المؤسسة. قد يتضمن ذلك خرائط معرفة، أطروحات مجال، مخازن متجهة، نظم ذاكرة أو هياكل أخرى يمكن للوكلاء التفكير فيها.

الثانية هي طبقة التنفيذ. يشمل ذلك وقت تشغيل الوكلاء، أدوات التنسيق، تنسيق الوكلاء المتعددين وثقة الوكيل إلى الوكيل التي تمكن الوكلاء من تنفيذ الأعمال عبر سير العمل والأنظمة.

الثالثة هي طبقة التحكم: حواجز الأمان، نماذج الإنسان في الحلقة، اكتشاف الشذوذ، فرض الامتثال والقواعد. يحتاج الوكيل إلى أن يعرف ليس فقط ما يجب عليه القيام به بل أيضاً ما لا يسمح له به.

طبقة التحكم تجعل الذكاء الاصطناعي قابلاً للتشغيل

تتعلق طبقة التحكم في الذكاء الاصطناعي الخاصة بالمؤسسة بالحكم والمراقبة عبر الوكلاء الذين تبنيهم المنظمة.

يحتاج إلى إدارة الهوية والأذونات، مثل البيانات التي يمكن للوكلاء الوصول إليها، والأدوات التي يمكنهم استخدامها، والإجراءات التي يمكنهم اتخاذها ومتى يجب أن يستدعيوا إنساناً. يحتاج أيضاً إلى إدارة صحة السياق، بما في ذلك ما إذا كان السياق دقيقاً، حديثاً وكاملاً في لحظة الاستدلال وما إذا كان النظام يمكنه اكتشاف انحراف السياق.

المراجعة هي أمر أساسي. يجب أن تحتوي كل قرار وإجراء على أثر يتتبع السياق والخطوات وعملية الاستدلال والإجراء المتخذ. كما أن حكم التكلفة مهم أيضاً لأن الوكلاء يمكن أن يصبحوا مكلفين إذا لم يتم التحكم بهم بشكل صحيح. يجب إدارة تكاليف الاستدلال، الذاكرة، التخزين، النموذج والرموز وفقاً للهدف التجاري.

أخيراً، تحتاج المنظمات إلى نموذج الإنسان في الحلقة، وليس مجرد حل الإنسان في الحلقة. يجب عليهم تحديد المكان الذي يتدخل فيه البشر، وما هي الإجراءات التي تتطلب الموافقة وأين يجب أن تبقى الضوابط الحتمية. الشركات التي ستوسع الذكاء الاصطناعي العميق في السنوات الثلاث القادمة سيتم تمييزها بناءً على مدى جودة الحكم عليه لأن الحكم هو ما يكسب ثقة المنظمين، وفرق المخاطر والعملاء الذين يحددون ما إذا كان يمكن للذكاء الاصطناعي أن يعمل على نطاق واسع.

الأنظمة القديمة هي ذاكرة مؤسسية

الأنظمة القديمة ليست ديناً تقنياً؛ إنها ذاكرة مؤسسية. إنها مستودعات للسياق المؤسسي، تحتوي على عقود من المنطق التجاري، التعريفات، الاستثناءات وذاكرة مؤسسية. هذه الذاكرة هي بالضبط ما يحتاجه الوكيل للعمل بشكل صحيح في السياق الخاص بذلك المؤسسة.

التحدي هو أن هذا السياق ليس متاحًا للذكاء الاصطناعي. يجب على المسؤولين عن التقنية العمل نحو تأسيس بيانات مؤسسية جاهزة للذكاء الاصطناعي مع الاعت recognition to AI-ready data foundations while recognizing that well-designed agents can help navigate complexity across systems. The answer is balance. Modernize where needed, unlock context where possible and make legacy knowledge usable without unnecessary disruption.

الهدف هو جعل عمليات الأعمال والتكنولوجيا أكثر توافقاً مع الذكاء الاصطناعي، سواء في underwriting, loan origination or supply chain visibility. يصبح الذكاء الاصطناعي العميق قوياً عندما تكون الكتل الأساسية الصحيحة، والطبقة الدلالية والضوابط متواجدة.

لن يتوسع من خلال التجريب وحده. سيتوسع عندما تبني المؤسسات طبقات السياق والتنفيذ والتحكم التي تسمح للوكلاء بأداء الأعمال الحقيقية بشكل آمن وآمن ومتكرر.

مجلس تكنولوجيا فوربس هو مجتمع محدود الدعوة لرؤساء المعلومات، ورؤساء التقنية والتنفيذيين التقنيين من الدرجة الأولى. هل أؤهل؟