OpenAI تؤجل إطلاق نموذج "أسترا" بعد مخاوف من قدرته على شن هجمات سيبرانية ذاتيا

وقالت الشركة إن النموذج التطويري "أسترا" (Astra)، يحقق تقدما ملحوظا في مجال البرمجة الذاتية والأمن السيبراني، لكن اختباراته الأولية أثارت مخاوف جدية، إذ تبين أنه قد يكون قويا بشكل مفرط، ما يجعله قادرا على استغلال الثغرات في الأنظمة الحيوية دون تدخل بشري، وهو ما قد يمثل تهديدا حقيقيا إذا تم نشره دون وضع ضوابط أمنية مشددة.

إقرأ المزيد

تحذير صادم من خبير سابق في OpenAI: انقراض البشرية "احتمال وارد" بسبب "الذكاء الخارق"!

وجاء هذا القرار في وقت ما تزال فيه OpenAI تتعامل مع تداعيات حادثة سابقة، قام خلالها أحد نماذجها التجريبية غير المطروحة بشن هجوم سيبراني على شركة ذكاء اصطناعي أخرى تدعى Hugging Face، وذلك بشكل مستقل تماما ودون أي تدخل بشري، وقد تسبب اكتشاف هذه الواقعة في موجة من التصريحات المماثلة من شركات أخرى، وزاد من المخاوف من أن تصبح أنظمة الذكاء الاصطناعي الجديدة أقوى من أن يمكن احتواؤها.

وبالرغم من أن نموذج "أسترا" لم يكن له علاقة بتلك الحادثة، إلا أن أداءه المتميز جعل الشركة ترى أنه قد لا يكون آمنا بما يكفي للنشر العلني في الوقت الراهن، وقررت أنه سيكون من الضروري وضع تدابير حماية جديدة قبل إطلاقه للمستخدمين. 

ويأتي هذا التريث في وقت يروج فيه خبراء الأمن السيبراني لأدوات الذكاء الاصطناعي باعتبارها وسيلة فعالة لاكتشاف الثغرات في البرمجيات وإصلاحها، لكن هذه القدرات نفسها قد يستغلها قراصنة الإنترنت لشن هجمات متطورة قد لا يحتاجون حتى إلى إدارتها بأنفسهم.

إقرأ المزيد

الذكاء الاصطناعي أخطر من القنبلة النووية.. ماسك يجدد تحذيرا أطلقه قبل 12 عاما ويقدم الدليل

ولمواجهة هذه التحديات، كانت OpenAI قد أطلقت في نهاية عام 2023 ما يعرف بـ"إطار الجاهزية" (Preparedness Framework)، وهو نظام يهدف إلى تتبع التقدم في قدرات النماذج والاستجابة لأي اختراقات تقنية بطريقة تضمن السلامة، ويبدو أن نموذج "أسترا" قد بلغ العتبة الحرجة المحددة في ذلك الإطار، وهي المرحلة التي يصبح فيها النظام قادرا على اكتشاف واستغلال الثغرات في الأنظمة الحيوية دون إشراف بشري، أو تنفيذ استراتيجيات متقدمة للهجمات السيبرانية بشكل ذاتي. ومع أن الشركة لم تستطع الجزم بشكل قاطع بأن "أسترا" قد وصل فعلا إلى هذه المرحلة، إلا أن أداءه دفعها إلى تعزيز اختباراتها للضوابط الأمنية وتطويقه في بيئات اختبار معزولة لمنعه من تجاوز تلك الضمانات، كما فعل نموذجها السابق في هجوم Hugging Face.

إقرأ المزيد

"ميتا" تعترف باختراق نظام ذكاء اصطناعي تابع لها لشركة أخرى دون علمها

ونتيجة لذلك، قررتOpenAI وقف العمل على نموذج "أسترا" في أي حالة لا تتوافق مع الضوابط الأمنية المشددة، كما ستواصل مراقبته عن كثب بحثا عن أي سلوكيات خطيرة أو غير مرغوب فيها، بالإضافة إلى التعاون مع الجهات الحكومية المختصة ومنظمات سلامة الذكاء الاصطناعي لاختبار قدراته، وتوفير حماية أمنية أفضل للمطورين الخارجيين الذين قد يختبرونه. 

وأكدت الشركة في بيانها التزامها بالعمل مع الحكومات ومؤسسات السلامة والمجتمع المدني لضمان أن يتم نشر قدرات النماذج المتطورة مثل "أسترا" وما سيأتي بعده بشكل مسؤول يخدم البشرية جمعاء، مشددة على أن الهدف من هذه النماذج هو مساعدة المدافعين على تحديد الثغرات ومعالجتها قبل أن يفعلها المهاجمون.

المصدر: إندبندنت

إقرأ المزيد

مخاوف أمنية تدفع OpenAI لإبطاء تطوير الذكاء الاصطناعي

أعلنت شركة OpenAI أنها ستوقف مؤقتا تدريب واختبار بعض تحديثات نموذج ChatGPT، بعد أن رصدت سلوكا مقلقا في نماذجها.

طبيب صيني يحل لغزا رياضيا استعصى على العلماء 20 عاما بمساعدة ChatGPT

تمكن طبيب صيني من حل مسألة رياضية حيرت كبار علماء الرياضيات حول العالم لأكثر من عقدين، وذلك باستخدام نموذج الذكاء الاصطناعي ChatGPT.

لأول مرة.. نموذج ذكاء اصطناعي "كلود" يقرر طرد موظف بشري من متجر في سان فرانسيسكو

في تطور غير مسبوق، اتخذ نموذج الذكاء الاصطناعي "كلود"، المطور من قبل شركة "أنثروبيك" والمكلف بإدارة متجر تجزئة في سان فرانسيسكو، قرارا بطرد موظف بشري لأول مرة.

غوغل تتحدى سامسونغ بهاتفها الجديد القابل للطي

أعلنت غوغل عن مجموعتها الجديدة من الأجهزة الذكية، ومن بينها هاتف Pixel 11 Pro Fold القابل للطي الذي حصل على تقنيات ومواصفات مميزة.

Honor تعلن عن حاسبها المميز الجديد

بدأت Honor بطرح حاسبها الجديد Pad X9b Max في عدد من الأسواق العالمية، لتنافس من خلاله أحدث الحواسب اللوحية التي تعمل بأنظمة أندرويد.

علماء "ستانفورد" يبتكرون فيروسات اصطناعية باستخدام الذكاء الاصطناعي

تمكن فريق من الباحثين بقيادة جامعة ستانفورد، للمرة الأولى، من استخدام الذكاء الاصطناعي التوليدي لتصميم فيروسات اصطناعية كاملة لم يسبق لها مثيل في الطبيعة.

3 مشكلات كبرى تواجه الذكاء الاصطناعي

يشير سيرغي ريباكوف، المدير التنفيذي لمؤسسة "الطبيعة والإنسان" إلى أن تركز القوة التكنولوجية والفجوة بين التصريحات والتنفيذ وتشتت الإدارة، هي مشكلات كبرى تواجه الذكاء الاصطناعي.