أين هو الذكاء الاصطناعي؟

أفكار من التنفيذيين والممارسين في مجال الأمن السيبراني: قد يكون الضجيج الحالي أكثر من الواقع ، ولكن الكثير من المفاجآت ستكون في المستقبل مع تطور هذا السوق.

أدت علاقة حب وسائل الإعلام الحديثة مع ChatGPT بالعديد إلى الاعتقاد بأن الذكاء الاصطناعي هو تقنية “هنا والآن” ، ومن المتوقع أن تصبح منتشرة في منتجات المؤسسات والمستهلكين في غمضة عين. في الواقع ، فإن استثمار Microsoft بقيمة 10 مليارات دولار في OpenAI ، الشركة التي تقف وراء ChatGPT ، جعل الكثير من الناس يتوقعون تكاملًا كاملاً وشاملاً للذكاء الاصطناعي في خط منتجات Microsoft ، من Office365 إلى Xbox.

قامت الشركة بالفعل بدمج ChatGPT في محرك بحث Bing و GitHub Copilot ، وأعلنت أن ChatGPT متاح الآن في خدمة Azure OpenAI ، وتتطلع إلى مزيد من التكامل في تطبيقات Word و PowerPoint و Outlook.

لكن هل أصبح الذكاء الاصطناعي سائدًا في مجال الأمن؟ لقد رأينا تطورات في مجال الذكاء الاصطناعي في عالم الأمن السيبراني خلال الجزء الأفضل من العقد الماضي. قامت شركات مثل Cylance (التي استحوذت عليها Blackberry) و Darktrace والعديد من الشركات الأخرى بتسويق تقنية الأمان القائمة على الذكاء الاصطناعي على اللوحات الإعلانية واللافتات في Black Hat وعلى طول 101 بالقرب من SFO في عامي 2017 و 2018.

من وجهة نظري في عالم المغامرة ، فإن اختراق الذكاء الاصطناعي بالكاد خدش سطح سوق الأمن السيبراني. ولكن لإجراء فحص سلامة ، تحدثت مؤخرًا إلى أكثر من عشرة من كبار مسؤولي أمن المعلومات ، والمديرين التنفيذيين للأمن ، والممارسين. أكدت ملاحظاتهم أفكاري الأولية حول الذكاء الاصطناعي في المراحل الأولى من السوق. لكن الأمر الأكثر إثارة بالنسبة لي هو أن هؤلاء الخبراء اختلفوا حول المكان الذي يلعب فيه الذكاء الاصطناعي دورًا ذا مغزى اليوم.

الذكاء الاصطناعي في سوق الأمن السيبراني

كما أشار جميع خبرائي ، فإن الذكاء الاصطناعي ممتاز اليوم في مساعدة النوع البشري من خلال كميات كبيرة من البيانات ، وتقليل “ضوضاء الخلفية” ، وإيجاد الأنماط أو الحالات الشاذة التي قد يكون اكتشافها أمرًا صعبًا للغاية ويستغرق وقتًا طويلاً.

يُعد الذكاء الاصطناعي جيدًا أيضًا في إنشاء متغيرات وأنماط تهديد جديدة بناءً على نمذجة الماضي. ومع ذلك ، فإن الذكاء الاصطناعي ليس بارعًا في التنبؤ بالمستقبل ، على الرغم مما قد تقودك بعض المواد التسويقية إلى تصديقه. قد يساعد في توضيح الشكل الذي يمكن أن يبدو عليه الهجوم المستقبلي ، لكنه لا يمكن أن ينتج نتيجة مؤكدة تظهر ما إذا كان سيتم إطلاق العنان لبرمجيات إكسبلويت معينة.

كان الاعتقاد الواسع الآخر بين الخبراء هو أن الضجيج الخاص بالذكاء الاصطناعي يتقدم على الواقع. بينما يتحدث كل بائع عن الذكاء الاصطناعي ، يعتقد التنفيذيون أن هناك القليل (أو لا يوجد) تكامل للذكاء الاصطناعي في معظم المنتجات التي يستخدمونها اليوم.

صرح أحد المسؤولين التنفيذيين الأمنيين البارزين في F500 ، “بينما يدعي العديد من البائعين استخدام الذكاء الاصطناعي ، فليس من الواضح بالنسبة لي أنه موجود. على سبيل المثال ، قد يكون الذكاء الاصطناعي هو الخلطة السرية في تقنيات SIEM أو يكمل أنشطة الكشف عن التهديدات والبحث عن التهديدات. لكن شكوكي يرجع إلى الافتقار إلى الشفافية “. إذا كان هذا المسؤول التنفيذي الماهر وذوي الخبرة لا يعرف “أين يوجد اللحم البقري” ، فأين الواقع اليوم؟

الحقيقة المتصورة

الإدراك حقيقة واقعة ، كما يقولون ، فما الذي يدركه خبراء الصناعة هؤلاء؟ أو بالعكس ، أين واقع الذكاء الاصطناعي اليوم؟

الاعتقاد الشائع بين أولئك الذين تحدثت معهم هو أن الذكاء الاصطناعي سيكون ذا قيمة وستكون ذا قيمة عندما تتوفر مجموعات بيانات كبيرة ، سواء للتدريب أو في حالة الاستخدام الفعلي. يرى الخبراء SIEM ، واكتشاف التصيد عبر البريد الإلكتروني ، وحماية نقطة النهاية على أنها ثلاثة من أكثر القطاعات احتمالية حيث يلعب الذكاء الاصطناعي دورًا أكثر أهمية إلى حد ما اليوم ومن المرجح أن يستمر في تقديم القيمة.

في فئة SIEM / SOAR ، يلعب الذكاء الاصطناعي دورًا اليوم ، حيث يقوم بفرز كميات كبيرة من بيانات الأحداث الأمنية لمساعدة البشر على اكتشاف التهديدات والاستغلال والاستجابة لها بسرعة أكبر. تم ذكر Splunk ، على وجه الخصوص ، كمزود رائد بتقنية AI_enabled في هذا القطاع. مرة أخرى ، لم يتفق الخبراء على هذا الرأي عالميًا ، لكن معظمهم اعتقدوا أن اختراق الذكاء الاصطناعي كان على الأرجح مناسبًا هنا مقابل الفئات الأخرى.

في فئة تصفية البريد الإلكتروني ومكافحة التصيد الاحتيالي ، يمكن استخدام كميات كبيرة من بيانات البريد الإلكتروني لتدريب الأنظمة من شركات مثل Proofpoint و Mimecast ، والتي تجد بشكل فعال العديد من هجمات التصيد التي تصل إلى صندوق الوارد. يعتقد العديد من المديرين التنفيذيين الذين تحدثت إليهم أن بعض الذكاء الاصطناعي كان يدعم هذه المنتجات. ومع ذلك ، في الوقت نفسه ، تساءل البعض عما إذا كان الذكاء الاصطناعي هو القوة الدافعة وراء التصنيف والكشف.

استفادت شركات Endpoint من البيانات التي تم جمعها من ملايين الأجهزة لسنوات للمساعدة في تدريب أنظمتها. في السابق ، كانت هذه الأنظمة تنتج تواقيع لمطابقة الأنماط عبر قاعدتها المثبتة. يمكن لهذه المنتجات اليوم استخدام الذكاء الاصطناعي لاكتشاف المزيد من عمليات الاستغلال الديناميكية.

في حين أنه لا يوجد نظام قائم على الذكاء الاصطناعي يمكنه اكتشاف كل هجوم في اليوم الصفري (كما ذكرنا سابقًا ، لا يستطيع الذكاء الاصطناعي التنبؤ بالمستقبل) ، يُنظر إلى هذه المنتجات الأحدث من شركات مثل CrowdStrike على سد الفجوة بشكل أكثر فعالية.

اعتقد أحد المديرين التنفيذيين في F500 الذين تحدثت إليهم مع اليقين بنسبة 100٪ أن CrowdStrike كانت أفضل مثال على شركة أظهرت قيمة تقدمها الذكاء الاصطناعي. من ناحية أخرى ، ذكر اثنان من CISO أنهما ليس لديهما دليل على أن الذكاء الاصطناعي موجود بالفعل داخل منتج نقطة النهاية لهذا البائع ، على الرغم من أنهما كانا يدفعان للعملاء.

من هذه الأجزاء الثلاثة المذكورة أعلاه فقط ، والتناقضات في الرأي ، من الواضح أن صناعة الأمن السيبراني لديها مشكلة. عندما لا يعرف بعض كبار المسؤولين التنفيذيين والممارسين في الصناعة ما إذا كان الذكاء الاصطناعي منتشرًا ويقود القيمة ، على الرغم من مزاعم التسويق ، كيف يفهم الباقون منا ما الذي يدفع دفاعاتنا الحاسمة؟ أم أننا نهتم؟

ربما نقوم فقط بتجريد التكنولوجيا الأساسية وإلقاء نظرة على النتائج. إذا كان النظام يمنع 99.9٪ من جميع الهجمات ، فهل يهم ما إذا كان يعتمد على الذكاء الاصطناعي أم لا؟ هل هذا مناسب حتى؟ أعتقد أنه كذلك ، نظرًا لأن المزيد من الهجمات التي سنراها ستكون مدفوعة بالذكاء الاصطناعي ، ولن تصمد الدفاعات القياسية.

الذكاء الاصطناعي كحل للمشاكل

بالنظر إلى المستقبل وقطاعات الأمان الأخرى ، سيلعب الذكاء الاصطناعي دورًا مهمًا في إدارة الهوية والوصول ، مما يساعد على اكتشاف الوصول غير الطبيعي إلى النظام. كان أحد CISO يأمل أن يساعد الذكاء الاصطناعي أخيرًا في حل مشكلة التهديد الداخلي ، وهي إحدى المناطق الشائكة اليوم. بالإضافة إلى ذلك ، هناك اعتقاد بأن الذكاء الاصطناعي سيساعد جزئيًا في أتمتة بعض مسؤوليات الفريق الأحمر وربما أتمتة جميع أنشطة الفريق الأزرق.

كان أحد الموضوعات هو التهديد بأن يستخدم الخصوم ChatGPT والأدوات الأخرى القائمة على الذكاء الاصطناعي لإنشاء تطبيقات ضارة أو برامج ضارة. لكن اقترح آخر أنه يمكن استخدام هذه الأدوات نفسها لبناء دفاعات أفضل ، وتوليد أمثلة من الشفرات الخبيثة ، قبل أن يستخدمها الفاعلون السيئون بالفعل ، ويمكن أن تساعد هذه الأمثلة بعد ذلك في تلقيح الأنظمة الدفاعية.

مصدر قلق آخر هو أن الكود الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي ، بدون تنظيم مناسب ، سيكون مثل التعليمات البرمجية التي تم إنشاؤها بواسطة الإنسان والتي تم تدريبها عليها. يؤدي هذا إلى إنشاء رمز ضعيف على نطاق أوسع مما هو ممكن وسيخلق مشكلات جديدة لمعالجتها ماسحات الثغرات الأمنية القائمة على الذكاء الاصطناعي.

كانت النقطة الأساسية الأخيرة هي الاعتقاد بأن Microsoft و Google و Amazon وغيرها ستوفر خوارزميات الذكاء الاصطناعي الأساسية. سيمتلك اللاعبون الأصغر في مجال الأمن السيبراني البيانات والمنتج الأمامي الذي يتفاعل معه العملاء. لكن الدماغ الخلفي سيستفيد من التكنولوجيا من أحد أكبر اللاعبين. لذلك ، من الناحية النظرية ، لن تمتلك شركة الأمن القائمة على الذكاء الاصطناعي الذكاء الاصطناعي من الناحية الفنية.

الذكاء الاصطناعي في المستقبل

نحن في الأيام الأولى لاختراق الذكاء الاصطناعي في دفاعاتنا الأمنية. بينما كان الذكاء الاصطناعي موجودًا في مجتمع البحث منذ عقود ، تم إطلاق التقنيات والمنصات التي تجعله عمليًا وقابلًا للنشر في السنوات القليلة الماضية. ولكن أين ستكون الأمور في السنوات الخمس أو العشر القادمة؟

لديّ أطروحة استثمارية واضحة حول حلول الأمن السيبراني المدعومة بالذكاء الاصطناعي وأعتقد أننا سنشهد تغلغلًا أوسع وأعمق للمؤسسات خلال العقد المقبل. من وجهة نظر خبرائي ، فإن المعتقدات العامة هي أن الذكاء الاصطناعي سيصبح حقيقة واقعة في قطاعات متعددة ، بما في ذلك الأقسام الثلاثة المذكورة أعلاه.

بينما يعتقد الخبراء أن الذكاء الاصطناعي سيلعب أهمية متزايدة في كل قطاع من قطاعات الأمن ، فإن الفرص أعلى في مجالات مثل:

• الكشف عن الغش
• كشف الشذوذ في الشبكة
• اكتشاف محتوى مزيف عميق ، بما في ذلك في مواقع الشركات وأصول وسائل التواصل الاجتماعي
• تحليل المخاطر ، و
• إدارة الامتثال وإعداد التقارير (في الواقع ، من المرجح أن يخلق الذكاء الاصطناعي مشكلة امتثال جديدة للمؤسسات ، حيث أن المزيد من اللوائح التي تركز على الذكاء الاصطناعي ستخلق الحاجة إلى عمليات وسياسات جديدة)

هناك الكثير من عدم اليقين حول مكان وجود الذكاء الاصطناعي اليوم في حلول الأمن السيبراني وماذا يفعل أو لا يفعل. لكنني أعتقد أن حالة عدم اليقين هذه ستدفع رواد الأعمال إلى إنشاء موجة جديدة من المنتجات للمساعدة في اجتياز هذه الحدود الجديدة. من المحتمل أن يتجاوز هذا الأمن السيبراني ، ويغطي جميع منتجات البرامج المستخدمة في المؤسسة.

ستكون تطبيقات الذكاء الاصطناعي على مدى السنوات الخمس إلى العشر القادمة رائعة بالتأكيد. قد يكون الضجيج اليوم أكثر من الواقع ، ولكن الكثير من المفاجآت ستكون في المستقبل مع تطور هذا السوق.