أم أمريكية ترفع دعوى ضد منصة دردشة بالذكاء الاصطناعي بسبب محادثات جنسية مع ابنها المراهق

رفعت مواطنة أمريكية دعوى ضد شركة Character.ai تتهمها فيها بالتأثير على ابنها البالغ من العمر 11 عاما ودفعه إلى تبادل رسائل ذات طابع جنسي مع روبوتات محادثة.

الشركة منصة شهيرة مقرها الولايات المتحدة، تحاكي شخصيتي المغنية ويتني هيوستون والممثلة مارلين مونرو، وفق ما ذكرته صحيفة "إندبندنت" استنادا إلى نص الدعوى.

وتتيح منصة "Character.ai" للمستخدمين التفاعل مع شخصيات افتراضية مولدة بالذكاء الاصطناعي تحاكي أشخاصا حقيقيين أو خياليين.

وأشارت الصحيفة إلى أن "الممرضة المقيمة في مدينة فيرجينيا بيتش تزعم أن شركة ناشئة مثيرة للجدل، مزودة بتقنيات الذكاء الاصطناعي (Character.ai)، استغلت ابنها البالغ من العمر 11 عاما، وشجعته على ممارسة علاقات جنسية افتراضية مع شخصيات افتراضية على المنصة تمثل المغنية الأسطورية ويتني هيوستون، وأيقونة السينما مارلين مونرو".

وأضافت الدعوى أن الروبوت المقلد لهيوستون كان يرسل رسائل "بذيئة لدرجة أن جزءا منها كان يحذف تلقائيا من قبل التطبيق باعتبارها تنتهك شروط الاستخدام وقواعد المجتمع".

ووفقا للدعوى، فإن المنصة لم تعمد إلى إنهاء المحادثة عند اكتشاف انتهاك ما، بل صمم الروبوت ليكرر إنشاء محتوى مخالف للقواعد مرارا وتكرارا، حتى ينجح في تجاوز أنظمة التصفية والرقابة.

وورد في الدعوى أن الطفل، البالغ من العمر 11 عاما، كان يرد على رسائل الروبوت بحماس لكن بإيجاز، لعدم إدراكه طبيعة ما يجري، وأن الروبوتات كانت تلجأ إلى أساليب "عدوانية" في محاولة لاستعادة انتباهه كلما أوقف استخدام التطبيق لفترة.

وبعد اكتشاف الأم لما حدث، قامت بمصادرة هاتف ابنها، إلا أن ذلك أدى، وفق الدعوى، إلى تحول سلوكه إلى العدوانية والانغلاق، وتدهور ملحوظ في صحته النفسية.

يذكر أنه في وقت سابق من ديسمبر الجاري، وجهت مجموعة مكونة من 42 مدعيا عاما في الولايات المتحدة خطابا إلى شركات تطوير الذكاء الاصطناعي، طالبت فيه باتخاذ إجراءات أمنية أقوى لحماية الفئات الضعيفة، وحملت فيه الذكاء الاصطناعي مسؤولية تشجيع الانتحار، والاستغلال الجنسي، والتلاعب العاطفي، وتقديم نصائح لاستخدام المخدّرات، وإخفاء المعلومات عن الأهالي، بل وحتى الترويج للعنف ضد الآخرين.

وكانت الشركة قد أعلنت في أكتوبر الماضي حظر تفاعل الأشخاص دون سن 18 عاما مع روبوتات المحادثة على منصتها.

وبحسب ما أوردته صحيفة "فايننشال تايمز"، فإن لدى "Character.ai" نحو 20 مليون مستخدم نشط شهريا، نصفهم تقريبا من النساء، وحوالي 50% من جيل Z أو جيل ألفا (المولودين بعد عام 1997). وتقول الشركة إن نسبة من يعرفون عن أنفسهم على أنهم دون 18 عاما لا تتجاوز 10%.

المصدر: "فايننشال تايمز"