مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

42 خبر
  • فيديوهات
  • عيد النصر على النازية
  • نبض الملاعب
  • فيديوهات

    فيديوهات

  • عيد النصر على النازية

    عيد النصر على النازية

  • نبض الملاعب

    نبض الملاعب

  • هدنة وحصار المضيق

    هدنة وحصار المضيق

  • إسرائيل تواصل غاراتها على لبنان

    إسرائيل تواصل غاراتها على لبنان

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

دراسة مقلقة تكشف تدريب ذكاء اصطناعي على صور الاعتداء الجنسي على الأطفال!

كشفت دراسة جديدة أن آلاف صور الاعتداء الجنسي على الأطفال مخبأة داخل مؤسسة شهيرة لمولدات صور الذكاء الاصطناعي.

دراسة مقلقة تكشف تدريب ذكاء اصطناعي على صور الاعتداء الجنسي على الأطفال!
صورة تعبيرية / Colin Anderson Productions pty ltd / Gettyimages.ru

وعثر مرصد ستانفورد للإنترنت على أكثر من 3200 صورة للاعتداء الجنسي على الأطفال في قاعدة بيانات الذكاء الاصطناعي العملاقة LAION، وهو فهرس للصور والتسميات التوضيحية عبر الإنترنت استُخدم لتدريب صنّاع صور الذكاء الاصطناعي مثل Stable Diffusion.

وعملت مجموعة المراقبة مع المركز الكندي لحماية الطفل وغيره من الجمعيات الخيرية المناهضة للإساءة، لتحديد المواد غير القانونية والإبلاغ عن روابط الصور الأصلية إلى جهات إنفاذ القانون. وتم التأكد من أن أكثر من 1000 صورة من الصور المشتبه بها تشمل مواد اعتداء جنسي على الأطفال.

وكتب الباحثون: "وجدنا أن امتلاك مجموعة بيانات LAION-5B المأهولة حتى أواخر عام 2023، يعني حيازة آلاف الصور غير القانونية".

وعشية إصدار تقرير مرصد ستانفورد للإنترنت يوم الأربعاء، قالت LAION إنها أزالت مجموعات البيانات الخاصة بها مؤقتا.

وقالت LAION، التي تمثل الشبكة المفتوحة للذكاء الاصطناعي واسعة النطاق غير الربحية، في بيان لها: "إن لديها سياسة عدم التسامح مطلقا مع المحتوى غير القانوني، وفي ظل الحذر الشديد، قمنا بإزالة مجموعات بيانات LAION للتأكد من أنها آمنة قبل إعادة نشرها".

وفي حين أن الصور لا تمثل سوى جزء صغير من مؤشر LAION الذي يبلغ حوالي 5.8 مليار صورة، تقول مجموعة ستانفورد إنها ربما تؤثر على قدرة أدوات الذكاء الاصطناعي على توليد مخرجات ضارة وتعزيز الإساءة السابقة للضحايا الحقيقيين.

ويقول الباحثون إن هذه الصور نفسها جعلت من السهل على أنظمة الذكاء الاصطناعي إنتاج صور واقعية وصريحة لأطفال مزيفين، بالإضافة إلى تحويل صور وسائل التواصل الاجتماعي لمراهقين حقيقيين يرتدون ملابس كاملة، إلى عراة، الأمر الذي أثار قلق المدارس وجهات إنفاذ القانون في جميع أنحاء العالم. 

وحتى وقت قريب، اعتقد الباحثون في مجال مكافحة إساءة الاستخدام، أن الطريقة الوحيدة التي تنتج بها بعض أدوات الذكاء الاصطناعي غير الخاضعة للرقابة صورا مسيئة للأطفال، هي من خلال الجمع بين ما تعلمته من فئتين منفصلتين من الصور عبر الإنترنت: المواد الإباحية للبالغين والصور الحميدة للأطفال.

وقال ديفيد ثيل، كبير خبراء التكنولوجيا في مرصد ستانفورد للإنترنت، والذي كتب التقرير، إن هذه مشكلة ليست سهلة الإصلاح، وتعود جذورها إلى العديد من مشاريع الذكاء الاصطناعي التوليدية التي "تم طرحها بشكل فعال في السوق" وإتاحتها على نطاق واسع، لأن هذا المجال تنافسي للغاية.

يذكر أن LAION من بنات أفكار الباحث والمعلم الألماني، كريستوف شومان، الذي قال في وقت سابق من هذا العام إن جزءا من السبب وراء جعل قاعدة البيانات المرئية الضخمة هذه متاحة للجمهور، هو ضمان عدم التحكم في مستقبل تطوير الذكاء الاصطناعي من قبل شركات قوية.

المصدر: الغارديان

التعليقات

ترامب: السفن بدأت تغيير مسارها من هرمز إلى الموانئ الأمريكية ونتفاوض مع إيران

خاتم الأنبياء: استهدفنا قطعا بحرية أمريكية ردا على انتهاك وقف النار وردنا سيكون قاصما على أي اعتداء

السعودية توضح حقيقة فتح دول خليجية مجالها الجوي أمام القوات الأمريكية ضد إيران

مستشار خامنئي يعلن نهاية "الصبر الاستراتيجي" ويرسم ملامح المرحلة الجديدة لمضيق هرمز

تصعيد في أزمة مضيق هرمز.. انفجارات واشتباكات بحرية قرب قشم وبندر عباس جنوب إيران

مصدر عسكري إيراني: استهداف وحدات أمريكية في مضيق هرمز بعد هجوم على ناقلة نفط وإجبارها على التراجع

الحرس الثوري ينشر مشاهد ردّه على 3 مدمرات أمريكية (فيديوهات)

بزشكيان يكشف تفاصيل لقاء جمعه مع المرشد مجتبى خامنئي ويشير إلى جانب استرعى انتباهه

أزمة هرمز.. البحرين وواشنطن تطرحان مشروع قرار على مجلس الأمن

الدفاعات الجوية الإماراتية تتصدى لمسيرات وصواريخ إيرانية صباح اليوم

ترامب: مدمراتنا عبرت هرمز بنجاح.. سنضرب بقوة أكبر وأكثر عنفا إذا لم توقع إيران الاتفاق المطلوب

"إن بي سي نيوز": السعودية منعت استخدام واشنطن قواعدها وأجواءها لإعادة فتح مضيق هرمز

لبنان لحظة بلحظة.. تصعيد ميداني متواصل ومحادثات إسرائيلية لبنانية بواشنطن منتصف مايو الجاري

صور الأقمار الاصطناعية تكشف حجم الدمار في قاعدة "عريفجان" الأمريكية بالكويت (فيديو)

لحظة بلحظة.. تصعيد ميداني بين إسرائيل و"حزب الله" وبيروت تتمسك بالسلام وترفض التطبيع

الكشف عن تعرض ناقلة نفط صينية لهجوم قرب مضيق هرمز

"وول ستريت جورنال" تتحدث عن اختراق في المفاوضات وانفتاح طهران على مناقشة "النووي" مع واشنطن

البحث عن 23 راكبا غادروا سفينة سياحية مصابين بفيروس "هانتا" القاتل (صور)

قلق في إسرائيل إزاء خطوة يعمل الرئيس الشرع على تطويرها على أرض الواقع

وكالة مهر الإيرانية: تفعيل الدفاعات الجوية في طهران

مضيق هرمز في أحدث ظهور له وعينة من الناقلات المحتجرة عبره