مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

23 خبر
  • العملية العسكرية الروسية في أوكرانيا
  • كأس أمم إفريقيا 2025
  • جنوب اليمن.. تصعيد عسكري وسياسي
  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • كأس أمم إفريقيا 2025

    كأس أمم إفريقيا 2025

  • جنوب اليمن.. تصعيد عسكري وسياسي

    جنوب اليمن.. تصعيد عسكري وسياسي

  • واشنطن تعتقل مادورو

    واشنطن تعتقل مادورو

  • 90 دقيقة

    90 دقيقة

  • فيديوهات

    فيديوهات

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

اختر "الشخصية القيادية العربية الأكثر تأثيرا عام 2025"!

اختر "الشخصية القيادية العربية الأكثر تأثيرا عام 2025"!

موسكو: ضرب مواقع حيوية أوكرانية باستخدام صاروخ "أوريشنيك" ردا على هجوم كييف على مقر إقامة بوتين

سوريا.. دبابة تابعة للقوات الحكومية تدهس صحفيا أثناء بث مباشر (فيديو)

"قناة 13" العبرية: البحرية الإسرائيلية أطلقت النار على سفينة حربية مصرية دخلت المياه الإقليمية لغزة

الدفاع السورية: تدمير "الموقع 12" لـ"قسد" والعمال الكردستاني في حي الشيخ مقصود بمدينة حلب (فيديو)

ماكرون يوجه اتهامات للولايات المتحدة ويتحدث عن "لعبة غريبة" وقع الفرنسيون والأوروبيون ضحية لها

رئيسة الدبلوماسية الأوروبية تتحدث عن رسائل للغرب حملتها الضربة الروسية الكبيرة بـ"أوريشنيك"

مظلوم عبدي: الاستمرار في نهج القتال ولغة الحرب لفرض حلول أحادية الجانب أمر غير مقبول

الجيش السوري يعلن بدء عملية تمشيط حي الشيخ مقصود بحلب لطرد "قسد"

الولايات المتحدة تستولي على ناقلة نفط أخرى في الكاريبي والجيش الأمريكي يصدر بيانا (فيديو)

اليمن.. حل المجلس الانتقالي من الرياض وقيادات عدن ترفض البيان

الجيش السوري يعلن حي الشيخ مقصود منطقة عسكرية مغلقة