مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

53 خبر
  • نبض الملاعب
  • إسرائيل تواصل غاراتها على لبنان
  • العملية العسكرية الروسية في أوكرانيا
  • نبض الملاعب

    نبض الملاعب

  • إسرائيل تواصل غاراتها على لبنان

    إسرائيل تواصل غاراتها على لبنان

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • هدنة وحصار المضيق

    هدنة وحصار المضيق

  • عيد النصر على النازية

    عيد النصر على النازية

  • فيديوهات

    فيديوهات

  • زاخاروفا: هجوم مسيرات أوكرانية على جانكوي بالقرم عمل إرهابي من قبل نظام كييف

    زاخاروفا: هجوم مسيرات أوكرانية على جانكوي بالقرم عمل إرهابي من قبل نظام كييف

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

روسيا تدعو الدول إلى إجلاء موظفي بعثاتها الدبلوماسية في كييف في أقرب وقت

قلق في إسرائيل إزاء خطوة يعمل الرئيس الشرع على تطويرها على أرض الواقع

لحظة بلحظة.. بين تجدد الحرب والتوصل لاتفاق: تضارب إشارات ترامب يريح أسواق الطاقة ويبقي التوتر بهرمز

"سي بي إس" عن مسؤولين أمريكيين: تعرض سفينة شحن مملوكة لشركة فرنسية لهجوم في الخليج

السودان.. مقتل قيادي بارز في "قوات درع السودان" إثر استهداف منزله بولاية الجزيرة (صورة + فيديو)

وسط تناقضات واشنطن.. روبيو: مشروع القرار بشأن هرمز اختبار للأمم المتحدة كهيئة فاعلة

نافيا تنفيذ هجمات.. مقر خاتم الأنبياء يتوعد برد ساحق إذا اتخذ أي إجراء ضد إيران من أراضي الإمارات

إسرائيل تعلن استهداف قائد قوة الرضوان في حزب الله اللبناني بغارة على بيروت (صور + فيديو)

القوات الأمريكية: عطلنا ناقلة نفط ترفع العلم الإيراني حاولت انتهاك الحصار بقذائف من عيار 20 ملم

بنبرة ساخرة.. مجموعة "حنظلة" توصي إسرائيل باستبدال أنظمة كاميرات المراقبة بمعهد الدراسات الأمنية

روبيو: قانون الحد من صلاحيات الرئيس العسكرية لمدة 60 يوما "غير دستوري"

حزب الله يرد على اتهامات دمشق بتفكيك خلية تابعة له خططت لتنفيذ أعمال لزعزعة الاستقرار في سوريا (صور)

مراسل RT: إصابة نجل رئيس حركة حماس في قصف إسرائيلي على مدينة غزة