مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

24 خبر
  • نبض الملاعب
  • فيديوهات
  • الحرب على إيران
  • نبض الملاعب

    نبض الملاعب

  • فيديوهات

    فيديوهات

  • الحرب على إيران

    الحرب على إيران

  • ضربات إسرائيلية على لبنان

    ضربات إسرائيلية على لبنان

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • أردوغان: حكومة نتنياهو لا تكتفي باستهداف جارتنا إيران بل تنفذ أيضا خططها لاحتلال لبنان

    أردوغان: حكومة نتنياهو لا تكتفي باستهداف جارتنا إيران بل تنفذ أيضا خططها لاحتلال لبنان

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

"تسنيم" نقلا عن مصدر: إيران ترفض مقترحات واشنطن لوقف النار وتتهمها بالخداع وكسب الوقت لشن هجوم جديد

لحظة بلحظة.. الحرب على إيران بيومها الـ26: استمرار المواجهات بالتوازي مع محاولة فتح باب التفاوض

بوتين: "المثقفون" الذين عارضوا العملية العسكرية في أوكرانيا لم يكتبوا شيئا عن مأساة الشرق الأوسط

سياسي أمريكي بارز يكشف 7 أسباب قد تفشل مفاوضات ترامب مع إيران

البيت الأبيض: ترامب سيفتح باب الجحيم في إيران في حال الضرورة لكنه يفضل السلام

حمد بن جاسم يوجه رسالة "حازمة" للرياض وواشنطن وطهران ودول الخليج عن لحظة تاريخية "فارقة"

الإعلام الإيراني يتحدث عن قصف قاعدة "الأمير سلطان" الجوية لهجمات بالمسيّرات

أنماط تداول مشبوهة تسبق قرارات ترامب.. واستعداد ديمقراطي للتحقيق في تداولات مبنية على معلومات داخلية

الخارجية الروسية: واشنطن تتجاهل الاحتجاجات حول نقل المعلومات الاستخباراتية إلى كييف

زاخاروفا: روسيا تأمل ألا تقوم الولايات المتحدة بعملية برية على جزيرة خرج

" نحن بانتظاركم".. مستشار خامنئي يخاطب الجنود الأمريكيين "الراغبين بالموت من أجل إسرائيل"

خطة أمريكية من 15 بندا لإنهاء العداء مع إيران

الحسكة.. تشكيل تجمع للقبائل والعشائر العربية في رأس العين..وشخصيات مشاركة تثير الجدل