الخوف من الذكاء الاصطناعي له أيضًا تكلفة على الشركة

يمكن لأي شركة أن تخطئ في استخدام الذكاء الاصطناعي بطريقتين متعارضتين. الأول هو تقديمها لأنها عصرية، بدون عملية أو ضوابط أو تعريف واضح للقيمة. والثاني هو استبعاده بشكل عام لأنه يولد عدم اليقين أو المخاطرة أو الخوف.

كلا القرارين يبالغان في تبسيط المشكلة.

إن التبني الأعمى يخلط بين القدرة التكنولوجية والمنفعة التجارية. الرفض المطلق يخلط بين الحكمة والجمود. وبين الطرفين موقف ثالث: فهم التكنولوجيا بما يكفي لاتخاذ القرار بحكمة، والتجربة ضمن الحدود، وتحويل التعلم إلى قدرة تنظيمية.

لا تحتاج الشركة إلى الإيمان بالذكاء الاصطناعي. عليك أن تعرف كيفية تقييمها.

وهذا التمييز مهم لأن تكلفة التبني السيئ واضحة للعيان: الأخطاء، والمشاريع الفاشلة، والتسريبات، والوعود غير الصحيحة، والإنفاق بلا عائد. تكلفة عدم التعلم أكثر هدوءًا. ويظهر ذلك على شكل قرارات مدروسة بشكل متزايد، وعمليات تظل يدوية في حين يمكن أن تكون أفضل، وفرق تستخدم الأدوات بمفردها دون حوكمة، واكتشاف المنافسين طريقة أكثر كفاءة للعمل في وقت أقرب.

1. الخطأ الأول: اعتماد الذكاء الاصطناعي لأنه "يجب أن يكون لديك ذكاء اصطناعي"

تبدأ المبادرة بشكل سيء عندما يتم تحديد الحل قبل المشكلة. "نحن بحاجة إلى وكيل"، أو "نحن بحاجة إلى تثبيت روبوت الدردشة" أو "نريد دمج الذكاء الاصطناعي في جميع الأقسام" هي نوايا تكنولوجية، وليست أهدافًا تجارية.

بدون مقياس تشغيلي، تقوم المؤسسة عادةً بقياس النشاط: عدد عمليات التشغيل الآلي، أو المستخدمين، أو المطالبات، أو الاستجابات التي تم إنشاؤها، أو حالات الاستخدام. ولا يوضح أي من هذه الأرقام وحدها وجود القيمة.

في الذكاء الاصطناعي المؤسسي: ابدأ بالعملية، وليس بالنموذج نقوم بتطوير البنية اللازمة لتحويل قدرة الذكاء الاصطناعي إلى نظام تشغيل: الهدف، والمصادر، والأذونات، والضوابط، والتقييم، وقابلية المراقبة، والمسؤولين.

المشكلة في التبني الأعمى ليست في الإفراط في التفاؤل. من السابق لأوانه استبعاد الأسئلة التي يجب أن تقرر ما إذا كان المشروع موجودًا أم لا.

2. الخطأ الثاني: تحويل عدم اليقين إلى سياسة رفض

يبدو رد الفعل المعاكس أكثر أمانًا: لا تستخدم الذكاء الاصطناعي حتى يصبح موثوقًا به تمامًا، أو منظمًا بشكل كامل، أو يكون هناك يقين لا لبس فيه بشأن العائد.

المشكلة هي أن الشركة لا تملك أبدًا معلومات كاملة عن التكنولوجيا المتغيرة. إن توقع اليقين المطلق قد يعني أيضًا التخلي عن التعلم اللازم لاتخاذ قرار جيد لاحقًا.

قد يكون رفض تقنية معينة لعملية معينة أمرًا عقلانيًا تمامًا. إن رفض الفئة بأكملها دون تطوير القدرة على فهمها أمر مختلف.

الشركة الحكيمة لا تقول "نعم" لكل شيء. لا تحتاج أيضًا إلى قول "لا" لكل شيء. سؤال:

• ما الذي يمكنك القيام به بشكل موثوق بما فيه الكفاية اليوم؟
• ما الذي لا ينبغي لي أن أفعله؟
• ما المهام التي يمكننا اختبارها دون الكشف عن عملية حرجة؟
• ما هي المعرفة التي نحتاجها لتقييم الموردين والعروض؟
• ما هي الضوابط التي تتناسب مع المخاطر؟

3. تكلفة عدم التعلم موجودة حتى لو لم تظهر في الفاتورة

عدم تنفيذ المشروع يتجنب تكلفته المباشرة. لكن المقارنة الصحيحة لا تكون دائمًا "القيام بمشروع مقابل عدم الإنفاق". في بعض الأحيان يكون الأمر "تطوير القدرات مقابل الحفاظ على موقف الجهل".

يمكن أن تظهر تكلفة عدم الحركة هذه في خمسة أبعاد.

1. تكلفة القرار

إن الإدارة التي لا تفهم حتى الحد الأدنى ما هي القدرات الحقيقية وما هي القدرات التسويقية تعتمد بشكل كامل على الموردين أو المالكين أو الموظفين التقنيين لاتخاذ القرار. يزداد عدم تناسق المعلومات.

2. تكلفة الفرصة البديلة

قد تكون هناك مهام منخفضة المخاطر حيث يؤدي التصنيف أو الاستخراج أو البحث أو التوليد المساعد أو التحليل إلى تقليل الاحتكاك الحقيقي. وعدم استكشافها له تكلفة، على الرغم من أننا لا نعرف حجمها بعد.

3. تكلفة الموهبة

لا تظل الفرق بالضرورة بلا حراك لأن السياسة الرسمية كذلك. وقد يستخدمون أدوات خاصة بهم، أو ينسخون المعلومات إلى خدمات غير مصرح بها، أو ينشئون تدفقات دون مراجعة. إن الحظر دون تقديم معايير يمكن أن يحل محل التبني خارج نطاق الإدارة.

4. تكلفة سرعة التعلم

الخبرة المتراكمة مهمة. إن معرفة كيفية تصميم التقييمات واختيار الحالات وإدارة الأذونات ومراجعة المخرجات أو دمج الذكاء الاصطناعي مع البرامج التقليدية لا يتم اكتسابها على الفور عند ظهور مشروع مهم.

5. تكلفة تنافسية

ولا ينشأ العيب لأن شركة أخرى "تستخدم الذكاء الاصطناعي". وينشأ هذا الأمر إذا اكتشفت طريقة للاستجابة بشكل أسرع، أو العمل مع إعادة صياغة أقل، أو التخصيص بشكل أفضل، أو تحليل المزيد من المعلومات، أو إنشاء أدوات ذات احتكاك أقل وتحويل هذه القدرة إلى تحسين مستدام.

وليس هناك حاجة إلى افتراض أن جميع القطاعات سوف تتغير بنفس الوتيرة. ويكفي أن ندرك أن القدرة التنافسية للسوق يمكن أن تتغير عندما تقرر الشركة عدم النظر.

4. لا تخلط بين المخاطر التكنولوجية ومخاطر الأعمال

تسأل المخاطر التكنولوجية ما إذا كان النموذج يمكن أن يرتكب أخطاء، أو يهلوس، أو يكشف معلومات، أو يتم التلاعب به، أو يصبح غير متاح. تتضمن مخاطر الأعمال أيضًا ما يحدث إذا لم تقم المنظمة بتطوير استجابة أثناء تغير العملاء أو الموردين أو الموظفين أو المنافسين.

تحتاج الإدارة الناضجة إلى المقارنة بين الجانبين. قد يكون النظام المزود بالذكاء الاصطناعي محفوفًا بالمخاطر للغاية. قد تكون العملية اليدوية بطيئة جدًا. قد يكون المورد غير كاف. يمكن أيضًا الاعتماد على شخص رئيسي.

القرار لا يتعلق بالاختيار بين "الخطر" و"عدم المخاطرة". وهو يتألف من مقارنة مخاطر البدائل الحقيقية.

5. لا ينبغي أن يكون الهدف الأولي هو "اعتماد الذكاء الاصطناعي"، بل خلق القدرة على التقييم

يمكن للمؤسسة بناء القدرات قبل أتمتة أي شيء رئيسي.

وتشمل تلك القدرة:

• فهم أنواع المهام التي تحلها النماذج الحالية بشكل جيد؛
• التعرف على حدود وأنواع الفشل؛
• التمييز بين الاستخدام المدعوم والتنفيذ المستقل؛
• معرفة المعلومات التي يمكن مشاركتها؛
• اختبارات التصميم مع الحالات الحقيقية.
• مقارنة التكلفة وزمن الوصول والجودة؛
• دمج المراجعة البشرية عند الضرورة؛
• قياس ما إذا كانت العملية قد تحسنت حقا.

هذا يغير المحادثة الداخلية. لم يعد السؤال "هل نحن مع أو ضد الذكاء الاصطناعي؟" ويصبح السؤال "ما هو الدليل الذي نحتاجه للموافقة على هذا الاستخدام أو رفضه؟"

6. الإطار ProjectCore: فهم ← تحديد ← تجربة ← قياس ← مقياس

فهم

يحدد قدرة معينة، وليس التسمية. يعد تلخيص ملف واستخراج الحقول وتصنيف الطلبات وكتابة المسودة الأولى وتنفيذ المعاملة مشكلات مختلفة.

تحديد

فهو يحدد البيانات التي يمكنك استخدامها، والإجراءات التي يمكنك اتخاذها، والحالات التي تم استبعادها، والخطأ الذي قد يكون بالغ الأهمية. المحيط يهم أكثر من الطموح.

تجربة

ابدأ بالمهام القابلة للعكس أو المساعدة. استخدم حالات حقيقية مجهولة المصدر أو بيئة خاضعة للرقابة عندما يكون ذلك مناسبًا. الهدف ليس إثبات نجاح العرض التجريبي: بل اكتشاف مواضع فشله.

قياس

قارن مع خط الأساس. يعد الوقت والجودة ومعدل التصحيح والاستثناءات والتكلفة لكل حالة وعبء المراجعة أكثر فائدة من مرات الظهور.

تسلق

يزداد الحجم أو الاستقلالية فقط عندما تبرر الأدلة ذلك وتتمكن المنظمة من تشغيل النظام.

التعلم مع التحكم يختلف عن الانتشار بالإيمان.

7. تصميم مجموعة من التجارب، وليس "مشروع ذكاء اصطناعي كبير"

إن برنامجاً مشتركاً ضخماً واحداً يؤدي إلى تركيز قدر كبير من عدم اليقين. والبديل هو العمل مع مجموعة من الفرضيات الصغيرة القابلة للمقارنة.

على سبيل المثال:

• تصنيف البريد الداخلي منخفض المخاطر؛
• توثيق استخراج البيانات مع التحقق البشري؛
• البحث عن الوثائق المعتمدة؛
• إعداد المسودات التي لا يتم إرسالها تلقائيًا أبدًا؛
• تحليل الحوادث للكشف عن الأنماط.

الهدف ليس تجميع الطيارين. يجب أن تنتهي كل تجربة بقرار: التوسع، أو إعادة التصميم، أو الاحتفاظ بها كدعم، أو التخلي عنها.

8. يجب أن تصبح الحكمة هندسة

إن إخبار النموذج "كن حذرًا" ليس بمثابة سيطرة. إذا كان الإجراء يمكن أن يسبب ضررًا، فيجب أن تحد البنية من الأذونات، أو تتطلب الموافقة، أو التحقق من صحة البيانات، أو منع الإجراء خارج الحدود.

في الحوكمة والمخاطر في وكلاء الذكاء الاصطناعي نحن نغطي هذه الضوابط بعمق: الأقل امتيازًا، والإشراف الحقيقي، والتقييم، وقابلية الملاحظة، والعجز، والفشل الآمن.

بالنسبة لاستراتيجية التعلم في المؤسسة، فإن النتيجة واضحة: كلما انخفض النضج، كلما انخفض التأثير المحتمل للتجارب المبكرة.

9. التدريب المفيد ليس مجموعة من المطالبات

قد يكون تعليم الموظفين كيفية كتابة تعليمات أفضل أمرًا مفيدًا، لكنه لا يؤدي في حد ذاته إلى إنشاء حكم تجاري. يجب أن يتضمن التدريب ذو الصلة متى لا يتم استخدام النموذج، وكيفية التحقق من المخرجات، والبيانات التي لا يجب مشاركتها، وكيفية اكتشاف مصدر سيئ، وما هي المهام التي تحتاج إلى مراقبة، وما هي الإشارات التي تفرض التصعيد.

يجب عليك أيضًا التمييز بين الأدوار. تحتاج الإدارة إلى فهم الاقتصاد والمخاطر والقدرات. تحتاج العمليات إلى تصميم العمليات والاستثناءات. تحتاج التكنولوجيا إلى الهندسة المعمارية والأمن والتقييم. يحتاج المستخدمون إلى معرفة ما يمكنهم تفويضه وما تبقى من مسؤوليتهم.

10. عادة ما يخلط الخوف بين مخاطر مختلفة

يمكن أن تعني عبارة "الذكاء الاصطناعي خطير" أشياء مختلفة تمامًا:

• الخصوصية؛
• أخطاء؛
• فقدان المناصب
• الاعتماد على الموردين؛
• الامتثال التنظيمي؛
• الأمن السيبراني؛
• جودة القرارات؛
• فقدان المعرفة الداخلية.

وطالما ظلت هذه الأمور مختلطة، فلا يمكن إدارتها. يحتاج كل خطر إلى مالك وسيناريو وتأثير وتحكم مختلف.

تستبدل المحادثة الناضجة المشاعر العامة بخريطة محددة للمخاطر والقرارات.

11. كيفية قياس ما إذا كانت الشركة تتعلم

لا يكفي حساب التراخيص أو المستخدمين النشطين. تقوم المنظمة بتطوير الحكم عندما تعمل على تحسين قدرتها على التمييز بين الاستخدامات الجيدة والسيئة.

إن مجرد تجاهل الشركة للعديد من الحالات بعد تجربتها لا يعني أنها فشلت. يمكن أن يعني العكس تمامًا: أنت تتعلم عدم تحويل كل إمكانية تقنية إلى مشروع.

12. ما الذي يتغير عندما تصبح القدرة استراتيجية؟

في البداية، قد تكون الميزة في استخدام أداة. وبمرور الوقت، تتحول الميزة نحو دمج القدرات في العمليات والبيانات والقرارات والبرامج الداخلية الخاصة.

يمكن لشركتين الوصول إلى نفس النموذج والحصول على نتائج مختلفة تمامًا. يظهر الفرق في جودة بياناتك، وتصميم العمليات، وسرعة التجريب، والحوكمة، والتكامل، ومعرفة المجال.

ولهذا السبب فإن السؤال الاستراتيجي ليس فقط ما هو النموذج الذي تمتلكه الشركة، بل ما هي القدرة الداخلية التي تطورها من حوله.

13. التنظيم والمعايير ليست سببا لعدم التعلم

إطارات مثله NIST AI إطار إدارة المخاطر إنهم يقترحون على وجه التحديد إدارة المخاطر المستمرة والسياقية. وفي الاتحاد الأوروبي، قانون الذكاء الاصطناعي يستخدم نهجًا يعتمد على الفئات والالتزامات بناءً على الاستخدام ومستوى المخاطر.

والنتيجة العملية ليست أن كل شركة يجب أن تستخدم الذكاء الاصطناعي. المشكلة هي أنك تحتاج إلى تصنيف الاستخدامات وفهم المسؤوليات وتجنب التعامل مع جميع الحالات على أنها متكافئة.

14. خطة عملية للشركة التي تريد التعلم دون تسرع

1. يحدد سياسة الحد الأدنى للبيانات والأدوات المسموح بها.
2. تدريب مجموعة صغيرة مستعرضة في القدرات والحدود.
3. حدد ثلاثة احتكاكات حقيقية منخفضة أو متوسطة المخاطر.
4. قياس العملية الحالية قبل الاختبار.
5. صمم كل تجربة بمحيط واضح.
6. يشمل الحالات الصعبة والإخفاقات المتوقعة.
7. قارن الوقت والجودة والتكلفة والمراجعة البشرية.
8. توثيق ما تم تعلمه، حتى لو تم التخلي عنه.
9. تحويل الأنماط القابلة لإعادة الاستخدام إلى معايير داخلية.
10. زيادة الحكم الذاتي فقط عندما يكون هناك دليل.

الاستنتاج

الذكاء الاصطناعي لا يستحق الإيمان ولا الخوف كسياسة عمل. إنه يستحق التحليل.

إن اعتماده دون إصدار أحكام يمكن أن يؤدي إلى أتمتة الأخطاء وزيادة المخاطر واستهلاك الموارد في مشاريع لا قيمة لها. إن رفضها من حيث المبدأ يمكن أن يمنع الشركة من تطوير القدرة اللازمة للتعرف على الفرصة المتاحة.

الموقف الأقوى غير مريح لأنه يتطلب العمل: الفهم والتعريف والاختبار والقياس واتخاذ القرار. لكن هذه القدرة على التعلم هي على وجه التحديد ما يسمح لنا بالمضي قدمًا دون تحويل كل تطور جديد إلى مقامرة.

الهدف ليس "استخدام المزيد من الذكاء الاصطناعي". هو أن الشركة يمكنها الإجابة بالأدلة على سؤال أكثر أهمية: حيث يستحق استخدامه، وتحت أي ظروف ولماذا.

إذا كنت تريد أن ترى كيف يفصل ProjectCore المشكلة عن التكنولوجيا قبل تصميم الحل، راجع كيف نعمل.