ماذا لو تحول الذكاء الاصطناعي إلى كابوس سيبراني يهدد الأعمال؟
الذكاء الاصطناعي بشرى جديدة في الأمن السيبراني وعالم الأعمال
يقدم الذكاء الاصطناعي قوة تحويلية عبر مختلف القطاعات من خلال توفير قدرات تحول هائلة. فالأدوات المعززة بالذكاء الاصطناعي قادرة على معالجة ملايين البيانات في ثوانٍ، واكتشاف مواطن الخلل، ودعم اتخاذ القرار في قطاعات مثل الرعاية الصحية والتمويل وخدمات العملاء.
وفي الشرق الأوسط، بما في ذلك الكويت، بدأت الحكومات والمؤسسات في توظيف الذكاء الاصطناعي في تطوير المدن الذكية والخدمات الإلكترونية والقطاع المصرفي لتعزيز الكفاءة والأمان. وتشير تقارير لشركات مثل مايكروسوفت وكولفايرإلى أنه عند دمج الذكاء الاصطناعي التوليدي مع الخبرات البشرية، فإن ذلك يعزز قدرات اكتشاف التهديدات وتحليل البيانات والدقة التشغيلية. ورغم هذه الفرص الكبيرة، إلا أن هناك جانبًا تحذيريًا لا يمكن تجاهله.
عندما تتحول البشرى إلى كابوس
كلما ازداد ذكاء الأنظمة المعتمدة على الذكاء الاصطناعي، ازدادت معها التهديدات المحتملة. فالقدرات المصممة لدعم الأعمال يمكن أن تُستخدم أيضًا ضدها، إذ تكشف الدراسات الأكاديمية، مثل تلك التي قدمها شيفاني ميتا ويوسف عثمان، كيف يمكن للجهات الخبيثة استغلال الذكاء الاصطناعي لأتمتة حملات التصيّد الاحتيالي، وكتابة الأكواد البرمجية الضارة، وحتى تطوير برمجيات خبيثة قابلة للتكيّف. وعلى عكس التهديدات التقليدية، تتميّز هذه الهجمات بالسرعة والدقة وصعوبة الاكتشاف، مما يجعل الأدوات المصممة لحمايتنا يمكن أيضًا أن تشكل تهديداً على أمن المعلومات.
الذكاء الاصطناعي في أيدٍ غير أمينة
يستغل مجرمو الإنترنت قدرات الذكاء الاصطناعي بالفعل. إن خِدع البريد الإلكتروني التي كانت تبدو بدائية أصبحت اليوم شبه مطابقة للرسائل الحقيقية، حيث تُكتب بلغة سليمة ومقنعة من خلال نماذج لغوية متقدمة. وفي المنتديات المظلمة، يتم تسويق أدوات مثل WormGPT وFraudGPT خصيصًا لاستخدامها في الاحتيال والهندسة الاجتماعية. كما أدرجت مؤسسة OWASP تقنية “حقن الأوامر” (Prompt Injection) ، وهي طريقة تتلاعب بأسلوب عمل نماذج الذكاء الاصطناعي، ضمن أخطر التهديدات التي تواجه أنظمة الذكاء الاصطناعي الحديثة. وقد أظهر باحثون أمنيون أيضًا كيفية قدرة “البرمجيات الخبيثة” التي تعمل بالذكاء الاصطناعي على التكاثر ذاتيًا عبر الأنظمة المتصلة، وسرقة البيانات والانتشار دون تدخل بشري.
ثغرات خفية ينبغي لكيانات الأعمال أخذها بعين الاعتبار
لا تقتصر المخاطر على الهجمات الخارجية فحسب، بل إنه في ظل دمج المؤسسات للذكاء الاصطناعي في عملياتها اليومية، تظهر ثغرات جديدة. إن الأدوات مثل روبوتات خدمة العملاء، والخوارزميات التنبؤية، وأنظمة كشف مواطن الخلل قد تشكّل جميعها نقاط ضعف محتملة. فإذا كانت البيانات المستخدمة في تدريب النماذج معيبة أو منحازة أو غير محدثة، فإن الذكاء الاصطناعي قد يتخذ قرارات غير صائبة أو يسهل تضليله. كما يمكن للمهاجمين استغلال النماذج المفتوحة عبر إدخال بيانات خبيثة مضمّنة داخل مستندات أو صفحات ويب، ومن دون ضوابط وصول قوية ورقابة مستمرة، قد تتحول هذه الأنظمة من أصول إلى خصوم.
حوكمة الذكاء الاصطناعي: خط الدفاع الأول قبل الأمن السيبراني
لا تبدأ حماية أنظمة الذكاء الاصطناعي من أدوات الحماية التقنية فقط، بل تبدأ من الحوكمة. فقبل استخدام أي نموذج أو أداة ذكاء اصطناعي، يجب أن يكون لدى كيان الأعمال إطار واضح يحدد من يملك قرار استخدام التقنية، ومن يراجع مخاطرها، ومن يعتمد مخرجاتها، ومن يتحمل المسؤولية عند حدوث خطأ أو انحراف أو تسرب بيانات.
وتساعد حوكمة الذكاء الاصطناعي على تحويل الاستخدام العشوائي أو الفردي للأدوات الذكية إلى استخدام مؤسسي منضبط، قائم على سياسات وإجراءات ومسؤوليات واضحة. ومن دون هذا الإطار، قد تستخدم الإدارات المختلفة أدوات ذكاء اصطناعي بطرق غير موحدة، أو تدخل بيانات حساسة في منصات غير معتمدة، أو تعتمد على مخرجات خوارزمية دون مراجعة بشرية كافية، مما يزيد من مخاطر الأمن السيبراني والخصوصية والامتثال.
التضليل والتلاعب على نطاق واسع
يساهم الذكاء الاصطناعي في جعل التمييز بين الحقيقي والمزيف أكثر صعوبة، إذ توجد أدوات قادرة على إنشاء أصوات وصور ومقاطع فيديو ونصوص شديدة الواقعية تُستخدم في انتحال الهوية، والاحتيال، وحملات نشر المعلومات المضللة. هذا المحتوى أكثر إقناعًا من أساليب الاحتيال التقليدية، وغالبًا ما يتجاوز آليات الاكتشاف الأساسية. كما أن بعض هذه الأدوات يُروَّج لها علنًا كوسيلة للاحتيال أو التأثير على الرأي العام. وقد حذرّت صحيفة فاينانشال تايمز وغيرها من المحللين من أن الذكاء الاصطناعي يساهم بالفعل في تسريع الجريمة الإلكترونية وتعقيد الثقة الرقمية داخل المجتمع.
حوكمة البيانات وجودة البيانات المستخدمة في نماذج الذكاء الاصطناعي
يعتمد الذكاء الاصطناعي على البيانات، ولذلك فإن ضعف جودة البيانات قد يؤدي إلى ضعف جودة القرارات. فإذا كانت البيانات المستخدمة في تدريب النموذج أو تشغيله غير مكتملة أو غير محدثة أو متحيزة أو مأخوذة من مصادر غير موثوقة، فقد ينتج عن ذلك مخرجات مضللة أو غير عادلة أو غير دقيقة، حتى وإن كان النموذج نفسه متطوراً من الناحية التقنية.
ولهذا السبب، ينبغي أن تكون حوكمة البيانات جزءاً أساسياً من حوكمة الذكاء الاصطناعي. ويشمل ذلك تحديد مصادر البيانات، والتحقق من جودتها، وضمان قانونية استخدامها، وحماية البيانات السرية والشخصية، وتحديد صلاحيات الوصول إليها، ومراقبة أي تغييرات قد تؤثر على أداء النموذج. كما يجب أن تكون هناك آليات لاختبار الانحياز، ومراجعة دقة المخرجات، والتأكد من أن البيانات المستخدمة تعكس الغرض المشروع والمحدد من النظام.
ما أهمية ذلك للكويت؟
تبدي الكويت اهتمامًا قوياً بالتحول الرقمي، حيث إن الاستراتيجيات الوطنية تركز على المدن الذكية، والخدمات المعتمدة على الذكاء الاصطناعي، ومختبرات الابتكار لمواكبة التطورات العالمية. ومع ذلك، فإن تبني الذكاء الاصطناعي يزيد أيضًا من خطر التهديدات السيبرانية، ذلك أن الكثير من كيانات الأعمال والمؤسسات المحلية بدأت باستخدام أدوات الذكاء الاصطناعي دون وجود سياسات واضحة لتنظيمها. وفي أماكن أخرى، مثل الهند، بدأت الحكومات والمؤسسات المالية بالتحول نحو نماذج أمن سيبراني تراعي مخاطر الذكاء الاصطناعي. وبالنسبة للكويت، فإن تجاهل هذه المخاطر قد يعرّض مسيرة التقدم الرقمي للخطر.
مواءمة الذكاء الاصطناعي مع المعايير والأطر الدولية
مع تزايد الاعتماد على الذكاء الاصطناعي، لم تعد المؤسسات قادرة على إدارة مخاطره بالاجتهادات الفردية فقط. فقد ظهرت أطر ومعايير دولية تساعد كيانات الأعمال على بناء منهجية أكثر نضجاً، مثل معيار ISO/IEC 42001 الخاص بنظام إدارة الذكاء الاصطناعي، وإطار NIST لإدارة مخاطر الذكاء الاصطناعي، إضافة إلى إرشادات OWASP الخاصة بمخاطر تطبيقات النماذج اللغوية الكبيرة.
وتساعد هذه الأطر المؤسسات على الانتقال من التعامل مع الذكاء الاصطناعي كأداة تقنية إلى التعامل معه كمنظومة حوكمة ومخاطر وامتثال. ويشمل ذلك تحديد سياق الاستخدام، وتقييم المخاطر، ووضع الضوابط، وتوثيق المسؤوليات، ومراقبة الأداء، والتحسين المستمر. وبالنسبة لكيانات الأعمال في الكويت، فإن مواءمة استخدام الذكاء الاصطناعي مع هذه الأطر تعزز الثقة، وتدعم الجاهزية الرقابية، وتساعد على تحقيق التوازن بين الابتكار والحماية.
خطوات للحد من المخاطر السيبرانية المتعلقة بالذكاء الاصطناعي
في أثناء الاستفادة من قدرات الذكاء الاصطناعي، ينبغي على المؤسسات اتخاذ الإجراءات التالية للتخفيف من مخاطره:
- مراجعة وتوثيق جميع أنظمة الذكاء الاصطناعي المستخدمة: فهم مهام كل أداة، وطبيعة البيانات التي تعتمد عليها، وتأثير قراراتها.
- اختبار المدخلات والمخرجات بانتظام: استخدام سيناريوهات محاكاة مُسيطر عليها لاكتشاف الثغرات مثل حقن الأوامر أو تسميم البيانات.
- تطبيق ضوابط وصول صارمة: تحديد المستخدمين المصرّح لهم بالتفاعل مع النظام، واستخدام المصادقة متعددة العوامل للاتصالات الحساسة.
- عدم إلغاء الإشراف البشري: يجب أن يشمل اتخاذ القرارات عالية الخطورة مراجعة بشرية دائمًا.
- توعية الموظفين: يجب تدريب جميع العاملين على فهم كيفية استغلال الذكاء الاصطناعي، والتعرف على المحتوى المزيف، والمخرجات المشبوهة، وأي تلاعب محتمل.
- متابعة التطورات القانونية والأخلاقية: الرجوع إلى الأطر والتوجيهات الصادرة عن جهات عالمية مثل منظمة التعاون الاقتصادي والتنمية (OECD) والمنتدى الاقتصادي العالمي والهيئات الوطنية للأمن السيبراني.
خاتمة
إن الذكاء الاصطناعي يفتح أمام كيانات الأعمال فرصاً كبيرة لتحسين الكفاءة، وتعزيز الأمن السيبراني، وتطوير الخدمات، ودعم اتخاذ القرار. إلا أن هذه الفرص قد تتحول إلى مخاطر حقيقية إذا تم استخدام الذكاء الاصطناعي دون حوكمة واضحة، أو دون ضوابط بيانات، أو دون مراجعة بشرية، أو دون مراقبة مستمرة للمخاطر السيبرانية والتشغيلية والأخلاقية.
ولذلك، فإن السؤال لم يعد: هل ينبغي استخدام الذكاء الاصطناعي؟ بل: كيف يمكن استخدامه بصورة آمنة ومسؤولة وقابلة للرقابة؟ وتكمن الإجابة في بناء إطار حوكمة متكامل يوازن بين الابتكار والحماية، ويحدد المسؤوليات، ويصنف المخاطر، ويراقب الأداء، ويضمن أن الذكاء الاصطناعي يعمل لخدمة كيان الأعمال لا لتهديده.
يرجى الاتصال بإدارة تطوير الأعمال، هاتف: +965 1887 799 داخلي رقم: 335 وسوف نحدد لكم موعد اجتماع لمزيد من المناقشة.