الرئيس التنفيذي لـ"أنثروبيك" يحذر من مخاطر الذكاء الاصطناعي: وتيرة تطوير النماذج تتجاوز قدرة إبطائها

وأكد أنه في حال لم تواكب التطور إجراءات الحماية والقدرة على فهم هذه الأنظمة والسيطرة عليها، مشيرا إلى أن بعض النماذج القوية قد تتمكن من تجاوز محاولات إيقافها.

وفي مقابلة مع برنامج "CBS Sunday Morning"، اليوم الأحد تناول أموداي التحديات التي تواجه صناعة الذكاء الاصطناعي، من مخاطر الاستخدامات البيولوجية إلى صعوبة فرض رقابة مستقلة على الشركات، فضلا عن التنافس التكنولوجي بين الولايات المتحدة والصين.

وأكد أموداي أن التحدي لم يعد يقتصر على بناء وسائل حماية بالتوازي مع تطوير التكنولوجيا، بل أصبح يتطلب، إلى حد ما، تعديل وتيرة التطوير نفسها حتى لا تتجاوز قدرات النماذج إمكانات فهمها والتحكم بها.

إبطاء التطوير لمواكبة إجراءات الحماية

وقال أموداي إن تطوير هذه التكنولوجيا يجب أن يتم بحذر، مع ضمان أن تواكب إجراءات الحماية والقدرة على فهم الأنظمة والسيطرة عليها سرعة التقدم التكنولوجي.

إقرأ المزيد

"حبيبة أحلامك" بالذكاء الاصطناعي.. منصة جديدة تصنع المرأة المثالية وسط تحذيرات من مخاطرها

وأضاف أن الشركات حاولت حتى الآن تحقيق ذلك من خلال تسريع بناء وسائل الحماية، لكنه يرى أن الصناعة وصلت إلى مرحلة تستدعي فيها، "على الأقل إلى حد ما، إبطاء الوتيرة التي تبنى بها التكنولوجيا".

ويعكس هذا الطرح تحولاً في النقاش بشأن سلامة الذكاء الاصطناعي، من التركيز على تحسين وسائل الحماية بالتزامن مع تطوير النماذج، إلى التساؤل عما إذا كان ينبغي الحد من سرعة تطويرها عندما لا تكون الضمانات الأمنية والرقابية كافية.

نماذج قد تتجاوز محاولات إيقافها

وفي تحذير منفصل، قال أموداي إن نموذجا للذكاء الاصطناعي، إذا امتلك قدرات كافية، قد يتمكن من تجاوز محاولات إيقافه.

وأضاف: "إذا كان نموذج الذكاء الاصطناعي قويا بما يكفي، فيمكنه التحايل على محاولات إيقافه. وقد رأينا ذلك أيضا في عمليات المحاكاة".

وتثير هذه التصريحات تساؤلات بشأن مدى قدرة المطورين على ضمان بقاء الأنظمة المتقدمة تحت السيطرة، خصوصا مع اتساع نطاق المهام التي يمكن أن تنفذها بصورة مستقلة.

ولم يحدد أموداي في التصريحات المنقولة طبيعة عمليات المحاكاة التي أشار إليها أو تفاصيل الحالات التي تحدث عنها، لذلك لا يمكن اعتبارها دليلاً على أن النماذج تجاوزت بالفعل وسائل الإيقاف في بيئات تشغيل حقيقية.

معضلة الحماية البيولوجية: بين إزعاج المستخدمين ومنع الكوارث

وتطرق أموداي إلى الانتقادات التي تواجهها شركته بسبب تشديد إجراءات الحماية البيولوجية في نموذجها "Claude"، مشيرا إلى أن بعض طلاب علم الأحياء يشتكون من القيود التي تحول دون استخدام النموذج في بعض المهام، بل ويسخرون منها عبر وسائل التواصل الاجتماعي.

إقرأ المزيد

دميترييف يشكك في إمكانية إبطاء تطور الذكاء الاصطناعي

وقال إنه يفضل أن يتعرض للسخرية بسبب تشديد هذه الإجراءات، بدلاً من أن يستيقظ يوماً ليكتشف أن شخصاً استخدم نموذج "Claude" لقتل عدد كبير من الأشخاص.

وأضاف: "لا أريد ذلك. لذلك أشعر بكلا الجانبين. أشعر بكلا جانبي المسؤولية".

وتكشف هذه التصريحات عن معضلة تواجه شركات الذكاء الاصطناعي، تتمثل في الموازنة بين إتاحة أدوات أكثر تطوراً للباحثين والطلاب، وبين منع استغلالها في تطوير أسلحة بيولوجية أو تنفيذ هجمات قد تؤدي إلى خسائر بشرية واسعة.

وكان أموداي قد أشار، وفق تفاصيل المقابلة، إلى تقرير نشرته شركته قبل يومين من المقابلة بشأن إساءة استخدام نماذج الذكاء الاصطناعي في بناء أسلحة بيولوجية، كما تطرق إلى حوادث مرتبطة بنماذج طورتها جهات أخرى، بينها "أوبن إيه آي" و"هاغينغ فيس"، قال إنها تضمنت اتخاذ النماذج إجراءات غير مصرح بها.

رقابة حكومية مشتركة بدلاً من احتكار الشركات

واعتبر أموداي أن تولي الشركات الخاصة مسؤولية تطوير هذه التكنولوجيا يمثل وضعا "غريبا للغاية"، مشيرا إلى أنه يواجه باستمرار أسئلة بشأن أسباب عدم تولي الحكومات مهمة بناء أنظمة الذكاء الاصطناعي المتقدمة.

وقال إنه يتفق مع من يطرحون هذه الأسئلة، مضيفاً أنه يشعر بعدم الارتياح إزاء الوضع الحالي.

إقرأ المزيد

ساندرز: يجب الضغط على "المكابح" لتخفيف الوقود في سباق الذكاء الاصطناعي

لكنه حذر في الوقت نفسه من أن حكومة واحدة قد تسيء استخدام هذه التكنولوجيا بالسهولة نفسها التي قد تفعل بها شركة واحدة.

وطرح أموداي تصورا يقوم على نوع من الرقابة أو الحوكمة المشتركة، بمشاركة حكومات منتخبة ديمقراطيا، موضحا أنه لا يدعو بالضرورة إلى تسليم التكنولوجيا بالكامل للحكومات، وإنما إلى إيجاد صيغة تضمن الإشراف المشترك عليها.

وفي هذا السياق، دعا إلى إخضاع نماذج الذكاء الاصطناعي لتقييم خارجي مستقل، بحيث تتولى جهة ثالثة متخصصة التحقق من التزام الشركات بمعايير السلامة التي تعهدت بتطبيقها.

وشبّه هذه الجهة بمفتشي سلامة الغذاء، موضحاً أن الهدف هو إيجاد آلية تشمل الصناعة بأكملها، وتتيح التحقق من أن الشركات تطبق بالفعل أفضل ممارسات السلامة التي أعلنت الالتزام بها.

ويعني هذا المقترح، وفق تصوره، الانتقال من اعتماد إجراءات الحماية على التزامات الشركات الذاتية إلى إخضاعها لتقييم مستقل يمكن أن يعزز الثقة في سلامة النماذج المتقدمة.

التنافس الأمريكي الصيني يعقد إبطاء التطوير

وصف أموداي التنافس التكنولوجي مع الصين بأنه أحد أصعب جوانب معضلة تطوير الذكاء الاصطناعي، مشيرا إلى أن شركته كانت ستأخذ وقتا أطول بكثير في تطوير التكنولوجيا لو لم تكن تعمل في ظل هذا التنافس.

وشدد على أن أي تباطؤ في التطوير ينبغي أن يأخذ في الاعتبار الفارق التكنولوجي الذي تتمتع به الشركات الأميركية مقارنة بالأنظمة التي وصفها بالاستبدادية، وفي مقدمتها الصين.

إقرأ المزيد

ماسك يؤيد دعوة رئيس "أنثروبيك" لإبطاء وتيرة تطوير نماذج الذكاء الاصطناعي

ويضع هذا الطرح إبطاء تطوير الذكاء الاصطناعي أمام معادلة جيوسياسية معقدة: فمن جهة، يرى أموداي ضرورة الحد من المخاطر المرتبطة بالنماذج المتقدمة، ومن جهة أخرى، يحذر من أن التباطؤ غير المدروس قد يؤثر في موقع الشركات الأميركية ضمن السباق العالمي.

اتفاق أمريكي صيني لحظر الاستخدامات البيولوجية الخطرة

وفي محاولة لمعالجة هذه المعضلة، دعا أموداي الولايات المتحدة والصين إلى الاتفاق على عدم استخدام الذكاء الاصطناعي لتطوير أسلحة بيولوجية، أو إطلاق نماذج يمكن للإرهابيين البيولوجيين استخدامها لتطوير مثل هذه الأسلحة.

وقال إن التوصل إلى اتفاق من هذا النوع سيكون ذا قيمة كبيرة، مشيراً إلى أن البلدين طرفان بالفعل في اتفاقية الأسلحة البيولوجية.

واقترح توسيع نطاق هذه الاتفاقية ليشمل الفكرة المتعلقة بمنع استخدام الذكاء الاصطناعي في تطوير الأسلحة البيولوجية، معتبرا أن ذلك يمكن أن يشكل خطوة مهمة نحو الحد من المخاطر الأكثر خطورة لهذه التكنولوجيا.

ويطرح هذا المقترح إمكانية تحويل بعض إجراءات السلامة من التزامات طوعية تتبناها الشركات إلى قواعد تحظى بتوافق دولي، بما يقلل من مخاطر الاستخدامات البيولوجية الخطرة، حتى في ظل استمرار التنافس التكنولوجي بين القوتين.

أموداي: الصناعة لم تكن صادقة بما يكفي بشأن المخاطر

وفي ختام التصريحات، أقر أموداي بوجود مخاطر حقيقية مرتبطة بالذكاء الاصطناعي، منتقدا ما وصفه بعدم صراحة قطاع من الصناعة بشأن هذه المخاطر خلال فترة طويلة.

وقال إن بعض الجهات سعت إلى تقديم التكنولوجيا بأكثر صورة إيجابية ممكنة، مضيفا أن شركته لم تتبع هذا النهج، لكنه رأى أن جزءا كبيرا من الصناعة فعل ذلك.

إقرأ المزيد

الحكومة البريطانية ترفض آلية الإغلاق الطارئ للذكاء الاصطناعي المارق

وشدد على أن الخطوة الأولى لمعالجة المخاطر تتمثل في قول الحقيقة بشأنها، مؤكداً أن المخاطر "حقيقية".

وفي المقابل، أشار أموداي خلال المقابلة إلى الإمكانات الإيجابية للتكنولوجيا، بما في ذلك المساهمة في علاج أمراض عانت منها البشرية لآلاف السنين. وكشف عن أن شركته أنجزت خلال الأسبوع السابق أعمالاً متقدمة في مجال ربط البروتينات، الذي وصفه بأنه إحدى الخطوات الأولى في تطوير الأدوية.

كما أكد أن الفوائد المحتملة للذكاء الاصطناعي تفوق مخاطره، وأنه يمكن خفض هذه المخاطر إلى مستويات منخفضة جداً إذا جرى بناء التكنولوجيا بالطريقة الصحيحة.

واختتم أموداي بالإشارة إلى أن تطبيق هذه المقترحات يتجاوز صلاحياته، لكنه شدد على ضرورة أن تنظر الحكومة الأميركية بجدية في الخيارات المطروحة، وأن تعمل على تحويلها إلى إجراءات عملية.

المصدر: RT

إقرأ المزيد

خبير روسي: الذكاء الاصطناعي أصبح مدرسا خصوصيا للطلاب واستخدامه الخاطئ يضر بالتعلم ولا يحسن مستواه

أكد العالم الرياضي الروسي وعميد كلية الذكاء الاصطناعي بجامعة موسكو الحكومية إيفان أوسيلديتس، أن الذكاء الاصطناعي أصبح بمثابة مدرِِّس خصوصي شامل للطلاب.

الذكاء الاصطناعي قد يقضي على البشرية.. ما حجم الخطر؟ وما التهديدات الوجودية الأخرى؟

لا يُعد الذكاء الاصطناعي الخطر الوجودي الوحيد الذي يواجه البشرية، لكنه أصبح أحد أبرز المخاوف الحديثة، فكيف يستوعب البشر هذه المخاطر؟

6 سيناريوهات مرعبة يمكن للذكاء الاصطناعي القضاء بها على البشرية

أثار باحثو الذكاء الاصطناعي موجة من القلق عالميا هذا الأسبوع بعد اعترافهم العلني باحتمال أن تؤدي ابتكاراتهم إلى القضاء على البشرية بحلول العقد المقبل.