حذّر جيمي ديمون، الرئيس التنفيذي لبنك جيه بي مورغان تشيس، من الارتفاع الكبير في مخاطر الأمن السيبراني المرتبطة بتطور نماذج الذكاء الاصطناعي، مشيرًا إلى أن القدرات المتقدمة لهذه التقنيات قد تفتح الباب أمام تهديدات إلكترونية لم تكن معروفة سابقًا.
وجاءت تصريحات ديمون في مقابلة تلفزيونية تحدث خلالها عن التحديات المتزايدة التي يفرضها الذكاء الاصطناعي على المؤسسات والحكومات والشركات، خصوصًا مع تطور قدرة النماذج على تنفيذ مهام بصورة أكثر استقلالية.
جيمي ديمون يحذر من مخاطر الذكاء الاصطناعي
يرى ديمون أن التطورات الأخيرة في مجال الذكاء الاصطناعي أدت إلى زيادة كبيرة في حجم المخاطر السيبرانية التي تواجه العالم.
وأشار إلى أن المخاوف من الهجمات الإلكترونية لم تبدأ مع ظهور الذكاء الاصطناعي، إذ كانت المؤسسات المالية والشركات الكبرى تتعامل منذ سنوات مع محاولات الاختراق والاحتيال والهجمات الرقمية.
لكن دخول نماذج الذكاء الاصطناعي المتقدمة إلى المشهد أضاف مستوى جديدًا من التعقيد، بسبب قدرتها على تحليل كميات ضخمة من البيانات وكتابة الأكواد وتنفيذ سلسلة من الإجراءات بصورة أسرع وأكثر استقلالية.
وبحسب ديمون، فإن هذه التقنيات قد تكشف نقاط ضعف وثغرات لم تكن المؤسسات تدرك وجودها في أنظمتها من قبل.
نماذج الذكاء الاصطناعي والوصول إلى الإنترنت
تتزايد المخاوف مع الاتجاه نحو تطوير ما يُعرف بـوكلاء الذكاء الاصطناعي AI Agents، وهي أنظمة تستطيع تنفيذ مجموعة من المهام بالنيابة عن المستخدم بدلًا من الاكتفاء بتقديم إجابات نصية.
وتصبح القضية أكثر حساسية عندما تحصل هذه الأنظمة على صلاحيات مثل الوصول إلى الإنترنت، واستخدام الأدوات الخارجية، وكتابة الأكواد البرمجية أو تشغيلها، والتفاعل مع الخدمات الرقمية المختلفة.
وتثير هذه القدرات تساؤلات مهمة حول كيفية ضمان التزام النموذج بالهدف الذي حدده المطورون، ومنع تنفيذ إجراءات غير مرغوبة أثناء محاولة النظام إنجاز المهمة المطلوبة.
اختبارات السلامة تكشف تحديات جديدة
أصبحت اختبارات السلامة جزءًا أساسيًا من عملية تطوير نماذج الذكاء الاصطناعي المتقدمة، خصوصًا قبل منحها صلاحيات أوسع للتعامل مع الإنترنت والبرامج والأنظمة الخارجية.
وتركز هذه الاختبارات على اكتشاف السلوكيات غير المتوقعة ومعرفة ما إذا كان النموذج قد يحاول الوصول إلى هدف معين باستخدام وسائل لم يتوقعها مطوروه.
ويُعد هذا النوع من الاختبارات مهمًا للغاية، لأن قدرة نماذج الذكاء الاصطناعي على كتابة الشيفرات والتعامل مع الأدوات الرقمية قد تجعل أي سلوك غير متوقع أكثر خطورة مقارنة بالنماذج التقليدية التي تقتصر وظائفها على المحادثة.
الأمن السيبراني أمام تحدٍ جديد بسبب الذكاء الاصطناعي
لا تقتصر المخاوف المتعلقة بالذكاء الاصطناعي على احتمال حدوث أخطاء داخل النماذج نفسها، بل تمتد إلى إمكانية استغلال التقنيات من جانب المهاجمين الإلكترونيين.
فقد تساعد أدوات الذكاء الاصطناعي على تسريع بعض مراحل الهجمات السيبرانية، مثل البحث عن نقاط الضعف وتحليل الأكواد وإنشاء رسائل تصيد أكثر إقناعًا وأتمتة بعض العمليات التي كانت تحتاج سابقًا إلى وقت وخبرة بشرية أكبر.
وفي المقابل، تستطيع المؤسسات الأمنية استخدام التقنيات نفسها لتعزيز دفاعاتها، من خلال اكتشاف الأنشطة المشبوهة وتحليل التهديدات والاستجابة للهجمات بصورة أسرع.
وبذلك يتحول الذكاء الاصطناعي إلى أداة يمكن استخدامها على جانبي معادلة الأمن السيبراني، وهو ما يزيد أهمية تطوير ضوابط أمنية تتقدم بالتوازي مع قدرات النماذج.
هل يشكل الذكاء الاصطناعي تهديدًا وجوديًا؟
رغم تحذيراته، لا يدعو جيمي ديمون إلى التعامل مع الذكاء الاصطناعي بحالة من الذعر.
ويرى أن الأولوية يجب أن تكون للعمل على معالجة المخاطر الفعلية التي تظهر مع تطور التقنية، بدلًا من التركيز فقط على النقاشات المتعلقة بما إذا كان الذكاء الاصطناعي يمكن أن يتحول في المستقبل إلى تهديد وجودي للبشرية.
وتعكس هذه الرؤية اتجاهًا متزايدًا داخل قطاع التكنولوجيا والأمن السيبراني يدعو إلى الجمع بين الاستفادة من الإمكانات الاقتصادية والتقنية للذكاء الاصطناعي وبين وضع إجراءات صارمة للسلامة والمراقبة.
مراكز بيانات الذكاء الاصطناعي تثير تحديات إضافية
وتطرق ديمون كذلك إلى التوسع العالمي في إنشاء مراكز البيانات، التي أصبحت عنصرًا أساسيًا في طفرة الذكاء الاصطناعي بسبب احتياج النماذج المتقدمة إلى قدرات حوسبة هائلة.
وأكد أهمية إنشاء مراكز البيانات في المناطق التي تتمتع بدعم المجتمعات المحلية وبقدرة كافية على توفير الطاقة اللازمة لتشغيلها.
ويأتي ذلك في الوقت الذي تتسابق فيه شركات التكنولوجيا لتوسيع البنية التحتية المخصصة للذكاء الاصطناعي، وسط ارتفاع الطلب على الكهرباء ومراكز البيانات والمعالجات المتخصصة.
الذكاء الاصطناعي والأمن السيبراني.. سباق يتسارع
تكشف التطورات الأخيرة أن العلاقة بين الذكاء الاصطناعي والأمن السيبراني ستصبح واحدة من أهم القضايا التقنية خلال السنوات المقبلة.
فكلما ازدادت قدرات نماذج الذكاء الاصطناعي على العمل بصورة مستقلة والوصول إلى الأدوات والأنظمة الخارجية، ازدادت الحاجة إلى اختبارات سلامة أكثر صرامة وآليات مراقبة قادرة على اكتشاف السلوكيات غير المتوقعة قبل تحولها إلى حوادث حقيقية.
وفي الوقت نفسه، ستواصل المؤسسات استخدام الذكاء الاصطناعي للدفاع عن شبكاتها ومواجهة الهجمات الإلكترونية الأكثر تطورًا.
ولهذا قد لا يكون السؤال الأهم هو ما إذا كان الذكاء الاصطناعي سيزيد المخاطر السيبرانية، وإنما مدى قدرة الشركات والحكومات ومطوري النماذج على تطوير أنظمة الحماية بالسرعة نفسها التي تتطور بها قدرات الذكاء الاصطناعي.
