سلاح ذو حدين لنماذج اللغة الكبيرة: المخاطر المحتملة واستراتيجيات التعامل معها

إن التطور السريع لتكنولوجيا الذكاء الاصطناعي يحدث تغييرًا عميقًا في أسلوب حياتنا. من سلسلة GPT إلى Gemini، وصولًا إلى نماذج مفتوحة المصدر المختلفة، يقوم الذكاء الاصطناعي المتقدم بإعادة تشكيل عملنا وحياتنا. ومع ذلك، فإن التقدم التكنولوجي يصاحبه أيضًا تحديات جديدة، خاصة ظهور نماذج اللغة الكبيرة غير المحدودة أو الخبيثة.

النماذج اللغوية غير المحدودة تشير إلى تلك التي تم تصميمها أو تعديلها عمدًا أو "التهرب" منها لتجنب آليات الأمان والقيود الأخلاقية المدمجة في النماذج السائدة. عادةً ما يستثمر مطورو النماذج اللغوية السائدة موارد كبيرة لمنع استخدام نماذجهم في توليد خطاب الكراهية أو المعلومات الخاطئة أو التعليمات الخاصة بالبرمجيات الخبيثة، أو تقديم إرشادات للأنشطة غير القانونية. ولكن في السنوات الأخيرة، بدأ بعض الأفراد أو المنظمات، لأغراض غير قانونية، في البحث عن نماذج غير مقيدة أو تطويرها بأنفسهم.

التهديدات المحتملة لـ LLM غير المحدود

ظهور هذه النماذج قد خفض بشكل كبير من عتبة بعض الأنشطة غير القانونية. المهام التي كانت تتطلب مهارات متخصصة في الماضي، مثل كتابة التعليمات البرمجية الضارة، وإنشاء رسائل التصيد، والتخطيط للاحتياج، أصبحت الآن ممكنة بسهولة حتى للأشخاص العاديين الذين لا يملكون خبرة في البرمجة، بفضل نموذج LLM غير المحدود. كل ما يحتاجه المهاجم هو الحصول على أوزان النموذج المفتوح المصدر والشيفرة المصدرية، ثم استخدام مجموعة بيانات تحتوي على محتوى ضار، أو تصريحات متحيزة، أو تعليمات غير قانونية لإجراء التعديلات، مما يسمح له بإنشاء أدوات هجوم مخصصة.

هذا النموذج يجلب مخاطر متعددة:

1. يمكن للمهاجمين استهداف نموذج "تعديل سحري" محدد، لإنشاء محتوى أكثر خداعًا، لتجاوز مراجعة المحتوى والقيود الأمنية للـ LLM التقليدي.
2. يمكن استخدام النموذج لإنشاء متغيرات سريعة لشفرة مواقع الاصطياد ، أو لتخصيص نصوص الاحتيال لمنصات التواصل الاجتماعي المختلفة.
3. إن توفر نماذج المصدر المفتوح وقابليتها للتعديل ساهم في تشكيل وانتشار بيئة الذكاء الاصطناعي تحت الأرض، مما وفر أرضية للصفقات والتطوير غير القانوني.

النماذج اللغوية الكبيرة غير المحدودة النموذجية والتهديدات المحتملة لها

النسخة السوداء من GPT

هذه LLM خبيثة تُباع علنًا في منتديات سرية، حيث يعلن المطورون بوضوح أنها لا تحتوي على أي قيود أخلاقية. وهي مبنية على نموذج مفتوح المصدر، وتم تدريبها على كمية كبيرة من البيانات المتعلقة بالبرامج الضارة. يتعين على المستخدمين دفع 189 دولارًا كحد أدنى للحصول على شهر واحد من حق الاستخدام. أكثر استخداماتها شهرة هو توليد رسائل بريد إلكتروني تجارية شديدة الواقعية ومقنعة لشن هجمات البريد الإلكتروني وعمليات الاحتيال.

في مجال العملات المشفرة، قد يتم استخدامه في:

• إنشاء رسائل/معلومات تصيد، تقلد طلبات "تحقق من الحساب" المرسلة من البورصات أو المشاريع إلى المستخدمين
• المساعدة في كتابة التعليمات البرمجية الخبيثة التي تسرق ملفات المحفظة، وتراقب الحافظة، وتقوم بتسجيل ضغطات المفاتيح، وغيرها من الوظائف.
• قيادة الاحتيال الآلي، الرد التلقائي على الضحايا المحتملين، وتوجيههم للمشاركة في إسقاطات أو مشاريع استثمارية مزيفة

خبير محتوى الشبكة المظلمة

هذه نموذج لغة تم تطويره من قبل الباحثين ، وتم تدريبه مسبقًا على بيانات الويب المظلم ، وكان الهدف منه هو دعم أبحاث الأمن السيبراني وإنفاذ القانون. ومع ذلك ، إذا حصل عليه الأفراد ذوو النوايا السيئة أو استخدموا تقنيات مماثلة لتدريب نموذج كبير بلا قيود ، فإن العواقب ستكون كارثية.

في مجال العملات المشفرة، تشمل إساءة الاستخدام المحتملة ما يلي:

• جمع معلومات المستخدمين وفرق المشروع، لاستخدامها في الاحتيال الاجتماعي
• نسخ استراتيجيات سرقة العملات وغسل الأموال الناضجة في الدارك ويب

مساعد الاحتيال عبر الإنترنت

هذا نموذج متقدم يتم بيعه في الشبكة المظلمة ومنتديات القراصنة، حيث تتراوح الرسوم الشهرية من 200 دولار إلى 1700 دولار.

في مجال العملات المشفرة، قد يتم استخدامه لـ:

• إنشاء وثائق بيضاء، ومواقع رسمية، وخطط عمل ومواد تسويقية تبدو حقيقية، لاستخدامها في تنفيذ ICO/IDO وهمية.
• إنشاء صفحة تسجيل دخول أو واجهة اتصال محفظة مشابهة بسرعة لم exchange المعروف
• تصنيع التعليقات الزائفة والدعاية على نطاق واسع، لدعم الرموز الاحتيالية أو تشويه سمعة المشاريع المنافسة
• تقليد الحوار البشري، وبناء الثقة مع المستخدمين غير المدركين، وإغرائهم بكشف المعلومات الحساسة أو تنفيذ عمليات ضارة

مساعد الذكاء الاصطناعي بدون قيود أخلاقية

هذا روبوت محادثة بالذكاء الاصطناعي تم تحديده بوضوح على أنه بلا قيود أخلاقية.

في مجال العملات المشفرة، قد يتم استخدامه لـ:

• إنشاء رسائل تصيد عالية الدقة تتظاهر بأنها طلبات تحقق KYC زائفة من بورصات رئيسية وما إلى ذلك
• إنشاء عقود ذكية بسرعة تحتوي على أبواب خلفية مخفية أو منطق احتيالي، لاستخدامها في خدع سحب البساط أو مهاجمة بروتوكولات التمويل اللامركزي
• إنشاء برامج ضارة تتمتع بقدرة مستمرة على التحول، لسرقة ملفات المحفظة والمفاتيح الخاصة وعبارات الاسترداد
• دمج نصوص السيناريو الناتجة عن الذكاء الاصطناعي، نشر الروبوتات على منصات التواصل الاجتماعي، وتحفيز المستخدمين على المشاركة في مشاريع وهمية
• بالتعاون مع أدوات الذكاء الاصطناعي الأخرى، يتم إنشاء صوت مزيف لمؤسسي المشاريع أو كبار المديرين التنفيذيين في البورصات، لتنفيذ عمليات الاحتيال عبر الهاتف.

منصة الوصول بدون رقابة

تقدم هذه الأنواع من المنصات الوصول إلى نماذج LLM متعددة، بما في ذلك بعض النماذج التي تخضع لرقابة أقل أو قيود فضفاضة. على الرغم من أن الهدف هو توفير فرص استكشاف مفتوحة للمستخدمين، إلا أنه قد يتم استغلالها أيضًا من قبل العناصر الإجرامية.

تشمل المخاطر المحتملة:

• يمكن للمهاجمين استخدام نماذج ذات قيود أقل لإنشاء قوالب تصيد، أو دعاية زائفة، أو أفكار هجمات.
• خفض عتبة تحذير الهندسة، مما يسهل على المهاجمين الحصول على المخرجات التي كانت مقيدة في الأصل
• تسريع تكرار نصوص الهجوم، اختبار سريع لنماذج مختلفة لاستجابة التعليمات الضارة

استراتيجيات المواجهة

ظهور LLM غير المحدود يمثل علامة على أن الأمن السيبراني يواجه نمطًا جديدًا من الهجمات أكثر تعقيدًا وقابلية للتوسع والآلية. هذه النماذج لا تقلل فقط من عتبة الهجوم، ولكنها أيضًا تجلب تهديدات جديدة أكثر خفاءً وخداعًا.

لمواجهة هذه التحديات، تحتاج جميع الأطراف في النظام البيئي الأمني إلى العمل معًا:

1. زيادة الاستثمار في تقنيات الكشف، وتطوير القدرة على التعرف على واعتراض المحتوى الاحتيالي الذي يتم إنشاؤه بواسطة LLM الضار، واستغلال ثغرات العقود الذكية، والبرامج الضارة.

2. تعزيز بناء قدرة النموذج على منع الاختراق، واستكشاف آلية العلامات المائية والتتبع، من أجل تتبع مصدر المحتوى الضار في المشاهد الرئيسية مثل المالية وتوليد الشفرات.

3. إنشاء معايير أخلاقية وتنظيمية سليمة، للحد من تطوير واستخدام النماذج الخبيثة من المصدر.

4. تعزيز التعليم للمستخدمين وزيادة وعي الجمهور بقدرتهم على تمييز المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي ووعيهم بالأمان.

5. تشجيع التعاون بين الأوساط الأكاديمية والصناعية، والبحث المستمر في تقنيات أمان الذكاء الاصطناعي، مثل التدريب المضاد، وتعزيز قوة النموذج، وغيرها.

6. تعزيز التعاون الدولي، ووضع معايير أمان الذكاء الاصطناعي وأفضل الممارسات بشكل مشترك، وتنسيق إنفاذ القانون عبر الحدود لمكافحة الجرائم المتعلقة بالذكاء الاصطناعي.

فقط من خلال التعاون المشترك بين جميع الأطراف يمكننا الاستمتاع بمكاسب تكنولوجيا الذكاء الاصطناعي مع التحكم الفعال في المخاطر المحتملة، وبناء مستقبل رقمي أكثر أمانًا وموثوقية.