مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

66 خبر
  • غزة والضفة تحت النيران الإسرائيلية
  • إسرائيل تغزو لبنان
  • وقائع الانتخابات الأمريكية (تغطية مباشرة)
  • غزة والضفة تحت النيران الإسرائيلية

    غزة والضفة تحت النيران الإسرائيلية

  • إسرائيل تغزو لبنان

    إسرائيل تغزو لبنان

  • وقائع الانتخابات الأمريكية (تغطية مباشرة)

    وقائع الانتخابات الأمريكية (تغطية مباشرة)

  • خارج الملعب

    خارج الملعب

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • فيديوهات

    فيديوهات

عالم روسي يحذر من ثغرات في الذكاء الاصطناعي تحدث نتيجة "تسميم" الشبكات العصبية

يمكن أن يكون الذكاء الاصطناعي عرضة للخطر بسبب أخطاء متعمدة أو غير متعمدة في البيانات التي يتم تدريبه عليها.

عالم روسي يحذر من ثغرات في الذكاء الاصطناعي تحدث نتيجة "تسميم" الشبكات العصبية

ويقول مدير معهد برمجة الأنظمة التابع لأكاديمية العلوم الروسية أرتيون أفيتيسيان، إن هذا التهديد يتطلب تطوير قاعدة علمية وتكنولوجية جديدة.

وأوضح قائلا:" إن طبيعة الذكاء الاصطناعي تتمثل في أن ثغرات في النموذج الذي نستغله تأتي من خلال البيانات. يمكن "تسميم" البيانات، وهناك مصطلح من هذا القبيل. ويمكن وصول تلك الثغرات عن طريق نماذج تم تدريبها مسبقا، وأخيرا عن طريق تدريب النموذج الأصلي أو تغييره بحيث يكون عرضة للخطر". جاء ذلك على لسان أفيتيسيان في مؤتمر AI Journey  الدولي لقضايا الذكاء الاصطناعي  الذي اختتمت مؤخرا أعماله في موسكو.

وأوضح أنه يمكن أن تتمثل مثل هذه الثغرة الأمنية، على سبيل المثال، في أن الذكاء الاصطناعي لن يلاحظ جزءا من البيانات التي تخضع للتحليل من قبله.

وحسب أفيتيسيان، فقد يكون "التسميم" غير مقصود، ويحدث بسبب عدم الكفاءة، ولكن يمكن استغلال هذه الثغرة الأمنية من قبل المهاجمين.

وأضاف العالم: "فيما يتعلق بالبيانات والنماذج الجاهزة، فإننا بحاجة إلى تطوير قاعدة علمية وتكنولوجية جديدة حتى نتمكن من التأكد من موثوقية هذه التكنولوجيات".

وأعاد العالم الروسي إلى الأذهان أن روسيا تبنت عام 2021 ميثاق الأخلاقيات في مجال الذكاء الاصطناعي، والتي تهدف أيضا إلى ضمان سلامة القرارات المستندة إلى الذكاء الاصطناعي.

بينما أكد العالم استحالة التعرف على المضمون الذي يؤلفه الذكاء الاصطناعي، وقال إن مثل هذه التكنولوجيات غير موجودة لدينا أو حتى في الخارج. وأيد العالم فكرة وضع علامات خاصة على مضمون يؤلفه الذكاء الاصطناعي، مشيرا إلى أن العالم المعاصر مضطر إلى تطبيق تكنولوجيات الذكاء الاصطناعي في شتى المجالات ولا يمكن الحد من انتشار تلك العملية.

المصدر: تاس

التعليقات

ملايين الدولارات وممر آمن.. موقع عبري ينشر تفاصيل عرض قدمه نتنياهو لحركة حماس

ادعى الجيش أنه عثر عليهما في غزة.. إعلام عبري ينشر صورتين جديدتين لقائد الجناح العسكري لحركة "حماس"

حماس تصدر بيانا عن اللقاءات مع فتح في القاهرة

لافروف يعلق على إدراج غوتيريش فى قاعدة بيانات "صانع السلام" الأوكرانية

"فضيحة تؤكد أنه مجرم حرب".. "حماس" تعلق على أهداف نتنياهو من تسريب وثائق سرية وحساسه من مكتبه