أصبح الذكاء الاصطناعي التوليدي (AI) هو الاتجاه السائد حاليًا، و ليس من المستغرب أن يتم استخدام هذه التقنية بشكل خبيث من قبل جهات خبيثة لتحقيق مصالحها الخاصة.مما يمهد الطريق لزيادة سريعة في الجرائم الإلكترونية.
نتائج حديثة من موقع SlashNext تكشف هذه المعلومات عن وجود أداة جديدة للجرائم الإلكترونية تعتمد على الذكاء الاصطناعي التوليدي، وتسمى WormGPT.والذي تم الإعلان عنه في المنتديات السرية كوسيلة للمهاجمين لتنفيذ هجمات التصيد الاحتيالي المتطورة واختراق البريد الإلكتروني للأعمال (BEC).
هذا هو WormGPT؛ الذكاء الاصطناعي الذي يساعد مجرمي الإنترنت على تصميم هجمات أكثر تعقيدًا
أشار دانيال كيلي، الباحث الأمني، إلى أن «يتم تقديم هذه الأداة كبديل غير قانوني لنماذج GPT، وهي مصممة خصيصًا للأنشطة الخبيثة.يمكن للمجرمين الإلكترونيين استخدام هذه التقنية لأتمتة إنشاء رسائل بريد إلكتروني مزيفة مقنعة للغاية، ومخصصة للمستلم، مما يزيد من فرص نجاح الهجوم.
وصف مؤلف هذا البرنامج بأنه «أكبر عدو لـ ChatGPT الشهير"والذي "يسمح لك بفعل كل أنواع الأشياء غير القانونية".
من المهم التأكيد على أن أدوات مثل WormGPT، إذا وقعت في أيدي جهات خبيثة، يمكن أن تصبح أسلحة قوية، خاصة بالنظر إلى أن تتخذ OpenAI ChatGPT وGoogle Bard خطوات لمكافحة إساءة استخدام نماذج اللغة الكبيرة (LLMs) في إنشاء رسائل بريد إلكتروني تصيدية مقنعة وإنشاء برامج ضارة.
بحسب تقرير شركة تشيك بوينت، «تُعد قيود إساءة استخدام الأمن السيبراني في Bard أقل بكثير مقارنة بقيود ChatGPT. وبالتالي، يصبح من الأسهل بكثير إنشاء محتوى ضار باستخدام إمكانيات برنامج بارد.
في فبراير الماضي، كشفت شركة الأمن السيبراني الإسرائيلية كيف يتحايل مجرمو الإنترنت على قيود ChatGPT من خلال استغلال واجهة برمجة التطبيقات الخاصة بها. علاوة على ذلك، تم رصد عمليات تداول حسابات مميزة مسروقة وبيع برامج. استخدام القوة الغاشمة لاختراق حسابات ChatGPT باستخدام قوائم واسعة من عناوين البريد الإلكتروني وكلمات المرور.
حقيقة أن يُبرز تشغيل WormGPT دون قيود أخلاقية الخطر الذي يشكله الذكاء الاصطناعي التوليديلأن حتى مجرمي الإنترنت المبتدئين يمكنهم شن هجمات سريعة وواسعة النطاق دون امتلاك المعرفة التقنية اللازمة.
ومما يزيد الأمر سوءاً، أن الجهات الفاعلة في مجال التهديدات تروج "الهروب من السجن" لـ ChatGPTتصميم أوامر وتعليمات متخصصة تهدف إلى التلاعب بالأداة لتوليد نتائج قد تنطوي على الكشف عن معلومات سرية، وإنتاج محتوى غير لائق، وتنفيذ تعليمات برمجية ضارة.
في الآونة الأخيرة، كنت أفكر في دودة GPT:
برنامج يعمل عبر مفاتيح OAI API المخترقة، ولديه إمكانية الوصول إلى الإنترنت، ويمكنه خداع الأشخاص عبر البريد الإلكتروني للحصول على نسخ CC أو مفاتيح API، ويمكنه استخدام تحويل النص إلى كلام والنسخ الصوتي للاتصال وتظاهر حالات الطوارئ، وتكرار نفسه والتنسيق لتحقيق أهداف عالية المستوى.
- فايبهاف كومار (@ فايبهافك97) 6 نيسان 2023
دانيال كيلي يحذر"يمكن للذكاء الاصطناعي التوليدي إنشاء رسائل بريد إلكتروني بقواعد نحوية لا تشوبها شائبة، مما يجعلها تبدو شرعية ويقلل من احتمالية اعتبارها مشبوهة."
استخدام يُضفي الذكاء الاصطناعي التوليدي طابعًا ديمقراطيًا على تنفيذ هجمات الاحتيال الإلكتروني المعقدة.حتى بالنسبة للمهاجمين ذوي المهارات المحدودة، مما يجعلها أداة سهلة الوصول لمجموعة واسعة من مجرمي الإنترنت.
ما الذي يمكن فعله لمنع استخدام الذكاء الاصطناعي من قبل مجرمي الإنترنت؟
في هذا السياق المقلق، من الضروري أن تتخذ السلطات تدابير لمنع هذه التكنولوجيا من الوقوع في أيدي المتسللين. يُقترح اتخاذ الإجراءات التالية:
- تطبيق اللوائح والقوانين المحدثة التي تتناول إساءة استخدام الذكاء الاصطناعي التوليدي في الجرائم الإلكترونية.
- تعزيز التعاون بين الشركاتيتعاون باحثو الأمن والوكالات الحكومية لتبادل المعلومات ومكافحة هذه التهديدات بشكل مشترك.
- تعزيز أمن نماذج الذكاء الاصطناعي التوليدية من خلال تطوير أساليب للكشف عن المحتوى الضار والتخفيف من آثاره.
- إنشاء برامج للتوعية والتدريب في مجال الأمن السيبراني بالنسبة للمستخدمين، مع تسليط الضوء على المخاطر المرتبطة بالتلاعب بأدوات الذكاء الاصطناعي التوليدي.
- تشجيع البحث والتطوير في مجال التدابير المضادة المتقدمة لمكافحة الاستخدام الخبيث للذكاء الاصطناعي التوليدي.
من الضروري اتخاذ تدابير استباقية لحماية سلامة الذكاء الاصطناعي التوليدي وحماية المستخدمين من الهجمات الإلكترونية المحتملة المتطورة بشكل متزايد. لا يمكننا التخفيف من هذا التهديد المتزايد بشكل فعال إلا من خلال التعاون والاهتمام المستمر بالأمن السيبراني.
