الذكاء الاصطناعي المؤسسي: ابدأ بالعملية، وليس بالنموذج

غالبًا ما تبدأ المحادثة حول الذكاء الاصطناعي المؤسسي بالنموذج: أي الأسباب أفضل، وأيها أقل تكلفة، وأيها يحتوي على سياق أكبر، أو أيهما يمكنه استدعاء المزيد من الأدوات. وفي الشركة، يأتي هذا القرار لاحقًا.

يجب علينا أولاً تحديد النتيجة التشغيلية التي نبحث عنها، وما هي المعلومات التي يمكن للنظام استخدامها، وما هي الإجراءات التي يمكنه تنفيذها، وما هو مستوى الخطأ الذي يمكن تحمله، وما الذي يجب أن يحدث عندما تتجاوز الحالة ما كان متوقعًا.

1. النموذج ليس نظام عمل

يمكن للنموذج أن يلخص أو يصنف أو يستخرج أو يكتب أو يقارن أو يقترح. لإنتاج القيمة بشكل متكرر، تحتاج إلى بيئة تحول تلك القدرة إلى عملية يمكن التحكم فيها.

تتضمن هذه البيئة مصادر الحقيقة والتعليمات والأدوات والأذونات وهوية المستخدم وعمليات التحقق من الصحة والحدود وتسجيل الأنشطة ومعالجة الاستثناءات والإجراء اللاحق.

يمكن أن يعمل العرض التوضيحي مع مستند نظيف وسؤال جيد الصياغة. يجب أن تتحمل العملية المعلومات غير الكاملة، والتنسيقات غير المتوقعة، والبيانات المتناقضة، والمستخدمين المختلفين، والتكاملات المعطلة، والمواقف التي لم يدرجها أحد في العرض التوضيحي.

الذكاء الاصطناعي يجلب القدرة. يقوم النظام بتحويل تلك القدرة إلى نتيجة يمكن التحكم فيها.

2. ابدأ بمقياس العملية

"استخدام الذكاء الاصطناعي" ليس هدفًا تجاريًا. "تقليل وقت تصنيف الملفات دون زيادة الأخطاء"، "إعداد المقترحات بشكل أسرع مع الحفاظ على المراجعة البشرية" أو "اكتشاف الطلبات التي تحتاج إلى الاهتمام قبل تجاوز اتفاقية مستوى الخدمة" هي أهداف تشغيلية.

يحدد مقياسًا أساسيًا والعديد من مقاييس الدرابزين. إذا قمت بتحسين السرعة، شاهد الجودة. إذا قمت بتحسين الاستقلالية، انتبه للاستثناءات. إذا قمت بتحسين التكلفة، راقب تجربة العملاء.

3. تصميم ثماني طبقات قبل الإنتاج

1. الهدف

ما هي النتيجة التي يجب أن تتحسن وكيف سنعرف ما إذا كانت قد تحسنت.

2. الزناد

ما الذي يبدأ النظام: طلب، أو مستند، أو تغيير الحالة، أو محادثة، أو جدول زمني.

3. الدخول

ما هو الحد الأدنى من البيانات التي تحتاجها وكيف يمكنك التحقق من وجودها؟

4. السياق

ما هي المصادر التي يمكنك الرجوع إليها، والتي تسود في حالة النزاع، وما هي المعلومات التي لا ينبغي أن تستنتجها.

5. التفكير

ما هي المهمة المعرفية التي يؤديها: التصنيف أو الاستخراج أو المقارنة أو التوليد أو تحديد الأولويات أو اتخاذ القرار ضمن الحدود.

6. العمل

ما هي الأنظمة التي يمكنك الرجوع إليها أو تعديلها. تعد قراءة نظام إدارة علاقات العملاء (CRM) وإرسال الدفعة بمثابة مستويات مختلفة جدًا من المخاطر.

7. التحكم

ما الذي يحتاج إلى موافقة وما هي العتبات الموجودة وما هي الشروط التي تتطلب التوقف.

8. إمكانية الملاحظة

ما يتم تسجيله لفهم الجودة والتكلفة والأخطاء والقرارات والسلوك مع مرور الوقت.

4. مصدر الحقيقة أكثر أهمية من الموجه

في حالة وجود سياسة أو سعر أو حالة العميل أو مستند تعاقدي في إصدارات متعددة، فلن يتمكن النموذج من حل التناقض التنظيمي بطريقة سحرية.

يحدد المستودع المسؤول، ومن يحافظ عليه، وكيف يتم تحديد الإصدار الحالي. إذا قام النظام باسترداد السياق من مصادر متعددة، فقم بتحديد أولويات الترخيص وعوامل التصفية.

يستطيع الذكاء الاصطناعي العثور على المعلومات بمرونة كبيرة، لكن هذه المرونة ليست بديلاً عن إدارة البيانات.

5. فصل العلم عن العمل

النظام الذي يجيب على سؤال والنظام الذي يعدل العالم لا ينبغي أن يعاملا بنفس الطريقة.

من الملائم تقسيم البنية إلى خطوتين:

1. تحديد ما يجب أن يحدث.
2. تفويض وتنفيذ الإجراء.

يتيح لك هذا الفصل تطبيق عمليات التحقق الحتمية والأذونات والموافقات قبل لمس البيانات أو إرسال الاتصالات أو تنفيذ المعاملات.

6. لا تسأل "هل يمكنك أن تفعل ذلك؟"، اسأل "هل يجب أن تفعل ذلك بمفردك؟"

وينبغي أن يعتمد مستوى الاستقلالية على تكلفة الخطأ، وإمكانية الرجوع عنه، وسهولة اكتشاف حدوث خطأ ما.

لا ينبغي أن يكون الإشراف البشري زرًا زخرفيًا. يحتاج الشخص المشرف إلى سياق كافٍ، وسلطة للتدخل، وحمل مراجعة متوافق مع الحجم.

7. تجنب "الموافقة البشرية" التي لا يمكن أن تنجح

إذا تلقى شخص ما مئات القرارات التي تم إنشاؤها بواسطة الذكاء الاصطناعي ولم يكن لديه سوى ثوانٍ لمراجعتها، فقد تصبح الموافقة إجراءً شكليًا.

صمم المراجعة بحيث تظهر المعلومات اللازمة لاتخاذ القرار: المصدر، الدليل، مستوى الثقة عند وجوده، التغييرات المقترحة وعواقب الموافقة.

كما أنها تحدد متى تكون المراجعة إلزامية ومتى يمكن للنظام التصرف بشكل مباشر.

8. إدارة المخاطر حسب التأثير والسياق

يقترح إطار عمل AI RMF الخاص بـ NIST إدارة مخاطر الذكاء الاصطناعي بشكل مستمر وسياقي، مع الأخذ في الاعتبار التأثيرات والأدوار والقياس والحوكمة طوال دورة الحياة. يوصي NIST أيضًا بتعريف عمليات الإشراف البشري ورسم خرائط المخاطر والفوائد لمكونات النظام.

في الاتحاد الأوروبي، يحدد قانون الذكاء الاصطناعي متطلبات محددة للأنظمة المصنفة على أنها عالية المخاطر، بما في ذلك إدارة المخاطر وإدارة البيانات والتوثيق والسجلات والشفافية والرقابة البشرية والدقة والمتانة والأمن السيبراني. ليست كل أنظمة الذكاء الاصطناعي عالية المخاطر؛ ويعتمد التصنيف على الاستخدام والإطار الذي تحدده اللائحة.

بالنسبة لمشروع تجاري، يمكن لمصفوفة بسيطة تقييم كل إجراء من خلال:

• حجم الضرر المحتمل.
• احتمالية الخطأ.
• قابلية الكشف.
• الرجوع إلى الوراء.
• حساسية البيانات.
• التأثير على الناس.
• الالتزامات القانونية أو التعاقدية.

9. تحديد الأذونات ذات الامتيازات الأقل

يجب أن يتمتع النظام فقط بالأذونات اللازمة لوظيفته. إذا كنت بحاجة إلى قراءة الطلبات، فلن تحتاج بالضرورة إلى تعديل العملاء. إذا قمت بإعداد المسودات، فلن تحتاج بالضرورة إلى إمكانية الإرسال.

عندما تسمح إحدى الأدوات بإجراءات حساسة، فإنها تقدم حدودًا: الحد الأقصى للمبالغ، أو أنواع السجلات، أو البيئات المسموح بها، أو المجالات المعتمدة، أو الإجراءات التي تتطلب الموافقة دائمًا.

10. لا تستخدم النموذج للقواعد التي قد تكون حتمية

إن التحقق من صحة تنسيق البريد الإلكتروني، والتحقق من الحد الأقصى للمبلغ، والتحقق من وجود موافقة أو منع إجراء ما بعد ساعات العمل هي قواعد عادة ما تكون أكثر موثوقية باعتبارها منطقًا حتميًا.

استخدم الذكاء الاصطناعي حيث يضيف قيمة: لغة غامضة، تصنيف مرن، استخراج النص، التوليف أو دعم القرار. ادمجها مع البرامج التقليدية للحدود والضوابط.

11. تقييم السلوك وليس الانطباعات

قبل الإنتاج، قم بإنشاء مجموعة من الحالات الممثلة للعمل الحقيقي. تشمل الحالات العادية والغامضة وغير المكتملة والضارة والحدودية.

لكل حالة تحديد النتيجة المقبولة. يمكن للتقييم قياس:

• دقة التصنيف.
• استخراج الحقول بشكل صحيح.
• الامتثال للقواعد.
• استخدام المصادر المعتمدة.
• التحجيم الصحيح.
• جودة الإجراء المقترح.
• الكمون.
• التكلفة.

لا يكفي أن تسأل شخصًا ما إذا كانت الإجابة "تبدو جيدة". يمكن أن يبدو النص ممتازًا ويستند إلى بيانات خاطئة.

12. فشل اختبار التكامل

يجب أن يعرف النظام ما يجب فعله عندما لا تستجيب واجهة برمجة التطبيقات (API)، أو تنتهي صلاحية بيانات الاعتماد، أو تقوم قاعدة البيانات بإرجاع بيانات جزئية، أو تؤكد الأداة إجراءً متأخرًا.

عجز التصميم عندما يكون هناك خطر تكرار الإجراءات، وإعادة المحاولة الخاضعة للرقابة، والمهلات والحالات المتوسطة التي تسمح لك بمعرفة ما تم تنفيذه بالفعل.

13. سجل ما يكفي للتحقيق

يجب أن تتيح إمكانية الملاحظة الإجابة عن: ما هي المدخلات التي تلقاها النظام، وما هو السياق الذي استخدمه، وما هو القرار الذي أصدره، وما هي الأداة التي أطلقها، وما هي النتيجة التي تلقاها، وماذا حدث بعد ذلك.

لا ينبغي تخزين كل شيء إلى أجل غير مسمى. يجب أن يحترم تصميم السجل الخصوصية والأمان وتقليل البيانات.

14. التحكم في التكلفة وزمن الوصول كجزء من المنتج

قد لا يكون التدفق الصحيح من الناحية الفنية قابلاً للتطبيق إذا استغرق وقتًا طويلاً أو كان يكلف أكثر من القيمة التي ينتجها.

يقيس التكلفة لكل حالة وتوزيعات الكمون. انظر بشكل خاص إلى الحالات المعقدة، لأنها تميل إلى استهلاك المزيد من السياق، والمزيد من المكالمات، والمزيد من الأدوات.

ثم قرر مكان استخدام نموذج أكثر قوة، أو نموذجًا أصغر، أو منطقًا حتميًا أو ذاكرة تخزين مؤقت.

15. تصميم العملية بعد الإطلاق

الذكاء الاصطناعي لا يلغي الصيانة. يقدم طبقة جديدة تتغير أيضًا بمرور الوقت.

16. مطالبات الإصدار والأدوات والتقييمات

إذا قمت بتغيير التعليمات أو النموذج أو الأدوات أو المصادر، يتغير سلوك النظام. تعامل معها كنسخة جديدة.

قم بتشغيل مجموعة التقييم قبل الإنتاج ومقارنة النتائج. وهذا يقلل من الانحدارات غير مرئية.

17. الفرق بين فشل النموذج وفشل العملية وفشل البيانات

عندما يكون الإخراج غير صحيح، قم بتصنيف السبب. إذا لم يفهم النموذج تعليمات ما، فإن الحل يختلف عما إذا كان المصدر يحتوي على سعر قديم أو إذا لم يحدد أحد ما يجب فعله في هذه الحالة.

يتجنب هذا التصنيف محاولة إصلاح جميع المشكلات عن طريق تعديل الموجه.

18. كيفية اختيار حالة الاستخدام الأولى

ابحث عن موقف متكرر وقابل للقياس، مع بيانات يمكن الوصول إليها وتكلفة خطأ يمكن التحكم فيها. يجب أن يكون هناك خط أساس وشخص يمكنه التحقق من صحة النتيجة.

الحالة الأولى الجيدة عادة ما تحتوي على:

• حجم كاف.
• نتيجة ملحوظة.
• البيانات متاحة.
• عمل قابل للعكس أو يمكن مراقبته.
• استثناءات يمكن التحكم فيها.
• فائدة يمكن قياسها.

بالإضافة إلى ذلك، يجب أن تولد قدرات قابلة لإعادة الاستخدام: المصادقة، والوصول إلى البيانات، والتقييم، وقابلية الملاحظة، ومعالجة الاستثناءات، والضوابط.

19. مثال معماري: تصنيف الطلب

مثال افتراضي: تتلقى الشركة الطلبات عن طريق البريد الإلكتروني والنموذج. الهدف هو تصنيفهم وتعيينهم للفريق الصحيح.

1. يتلقى النظام الطلب.
2. التحقق من وجود الحد الأدنى من المعلومات.
3. استشر مصدرًا معتمدًا للتعرف على العميل أو العقد.
4. الذكاء الاصطناعي يصنف النية والأولوية.
5. وتثبت القواعد القطعية أن الأولوية لا تتجاوز الحدود دون دليل.
6. يتم إرسال الحالات ذات الثقة المنخفضة للمراجعة.
7. يتم إنشاء الحالات العادية في نظام التذاكر.
8. يتم تسجيل النتيجة والتصنيف النهائي.
9. التصحيحات البشرية تغذي التقييم المستقبلي.

الذكاء الاصطناعي هو مجرد خطوة 4. تعتمد قيمة الأعمال على النظام بأكمله.

20. علامات تدل على أنك غير مستعد بعد

• لا يوجد مصدر للحقيقة.
• لا يمكنك شرح النتيجة التي تعني النجاح.
• لا أحد يملك هذه العملية.
• لا تعرف المنظمة الإجراءات التي تتطلب الموافقة.
• لا توجد طريقة لاكتشاف الأخطاء.
• تعتمد الحالة على البيانات التي لا يمكن للنظام الوصول إليها بشكل موثوق.
• والحجة الوحيدة هي أن "المنافسة تستخدم الذكاء الاصطناعي".

الاستنتاج

إن ميزة نظام الأعمال المزود بالذكاء الاصطناعي لا تأتي من اختيار الطراز الأكثر بهرجة. إنها تأتي من دمج القدرة الاحتمالية ضمن عملية واضحة، مع المعلومات المصرح بها والحدود والتصاريح والإشراف والتقييم والتشغيل.

عندما يتم تصميم هذه العناصر، يمكن أن يكون تغيير النماذج قرارًا فنيًا. وعندما لا تكون كذلك، لا يوجد نموذج يصلح النقص في العملية.

المصادر والمراجع الرسمية

• NIST — إطار عمل إدارة مخاطر الذكاء الاصطناعي.
• NIST AIRC-AI RMF Core، بما في ذلك ممارسات الإشراف البشري ورسم خرائط المخاطر والضوابط.
• NIST — ملف تعريف الذكاء الاصطناعي التوليدي.
• المفوضية الأوروبية – هيكل قانون الذكاء الاصطناعيومتطلبات الأنظمة عالية المخاطر والالتزامات ذات الصلة.
• المفوضية الأوروبية – دليل بشأن التزامات الموردين والقائمين بالنشر.

تشرح هذه المقالة معايير التصميم والتشغيل؛ ولا يعد بديلاً عن المشورة القانونية لتحديد التزامات محددة بموجب قانون الذكاء الاصطناعي أو اللوائح الأخرى.

إذا كنت تريد أن ترى كيف نقوم ببناء التحليل قبل تنفيذ النظام، راجع كيف نعمل.