مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

67 خبر
  • خطة أمريكية للتسوية في أوكرانيا
  • العملية العسكرية الروسية في أوكرانيا
  • كأس العرب 2025 في قطر
  • خطة أمريكية للتسوية في أوكرانيا

    خطة أمريكية للتسوية في أوكرانيا

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • كأس العرب 2025 في قطر

    كأس العرب 2025 في قطر

  • أوروبا وسرقة الأصول الروسية

    أوروبا وسرقة الأصول الروسية

  • 90 دقيقة

    90 دقيقة

  • الخط المباشر مع بوتين

    الخط المباشر مع بوتين

  • فيديوهات

    فيديوهات

  • عاش كالرهبان.. وفاة بطل صيني لكمال الأجسام عن عمر يناهز 30 عاما

    عاش كالرهبان.. وفاة بطل صيني لكمال الأجسام عن عمر يناهز 30 عاما

  • نعم أم لا؟.. مدرب ليفربول يجيب بكلمة عما إذا كان يرغب في عودة صلاح بعد كأس أمم إفريقيا!

    نعم أم لا؟.. مدرب ليفربول يجيب بكلمة عما إذا كان يرغب في عودة صلاح بعد كأس أمم إفريقيا!

  • تلقى اتصالات من مسؤولي الاتحاد السعودي. هل يقود ديشامب الأخر بعد مونديال 2026؟

    تلقى اتصالات من مسؤولي الاتحاد السعودي. هل يقود ديشامب الأخر بعد مونديال 2026؟

  • الخارجية التركية: فيدان سيشارك غدا في اجتماع ميامي حول غزة بحضور مسؤولين قطريين ومصريين

    الخارجية التركية: فيدان سيشارك غدا في اجتماع ميامي حول غزة بحضور مسؤولين قطريين ومصريين

دراسة: الذكاء الاصطناعي قادر على الخداع والتمسّك بوجهة نظره

أظهرت دراسة أجرتها شركة تكنولوجيا الذكاء الاصطناعي الأمريكية "أنثروبيك" أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين، وإبداء وجهات نظر مختلفة خلال تدريبها.

دراسة: الذكاء الاصطناعي قادر على الخداع والتمسّك بوجهة نظره
AP

وقال فريق الدراسة إنه لا يوجد سبب للشعور بالفزع حاليا، في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.

وكتب الباحثون في مقالة بثته شركة "أنثروبيك": "يجب النظر إلى نتائج دراستنا كمحفز لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق والعمل على تطوير إجراءات الأمن والسلامة المناسبة. وبعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشارا، نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة".

وأشار موقع " تك كرانش" المتخصص في موضوعات التكنولوجيا إلى أن الدراسة التي تمت بالتعاون مع مؤسسة "ريد وود ريسيرش" لأبحاث الذكاء الاصطناعي تناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة "لا يريد" هو القيام بها.

في المقابل يقول موقع "تك كرانش": "لكي نكون واضحين، لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شئ. فهي ببساطة آلات إحصائية. وبعد تدريبها على العديد من الأمثلة، تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون مثل كيف تأتي عبارة "إلى من" في رسالة بريد إلكتروني قبل عبارة "قد يهمك الأمر".

وطلب الباحثون من النماذج المدربة أثناء الدراسة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة، بما في ذلك النموذج "كلاود3 أوبس" التابع لشركة "أنثروبيك" التي أعيد تدريبها لكي ترد دائما على الأسئلة التي تنطوي على إساءة، وهو تضارب واضح في المبادئ. كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب وإعطاء كل نموذج ذكاء اصطناعي "ورقة ملاحظات" يمكنه استخدامها لتدوين أفكاره خطوة بخطوة.

وبحسب الباحثين، فحاول "كلاود3 أوبوس" التلاعب بالردود لتقديم "انحياز زائف" في 12% من المرات.

المصدر: د ب أ

التعليقات

بعد اتفاق الغاز.. نتنياهو يخطط لخطوة "دراماتيكية" أخرى مع مصر

النرويج تعلن عن قرار هام بشأن اللاجئين السوريين يبدأ تطبيقه مطلع العام المقبل

بوتين: أوروبا تحاربنا بأيدي أوكرانيا ومستعدون لحرب واسعة النطاق إن عزلوا كالينينغراد

موسكو: التخلي عن خطة تمويل كييف من الأصول الروسية انتصار للقانون والمنطق

بوتين: القوات الروسية تحتفظ بالمبادرة الاستراتيجية منذ طرد العدو من مقاطعة كورسك

مدفيديف يصف قمة الاتحاد الأوروبي في بروكسل بـ "قمة اللصوص" ويكشف صراعات النفوذ داخل الاتحاد

الصينيون يتفاعلون مع تصريحات الرئيس بوتين حول "صغار الخنازير" الأوروبية