وقال داريو أمودي إن الخطر الحقيقي الوشيك يتمثل في أن الذكاء الخارق للبشر سيسبب ضررا على مستوى الحضارة في غياب تدخل ذكي وسريع.
وفي مقال من 38 صفحة، كتب أمودي: "أعتقد أننا ندخل في طقوس عبور، مضطربة وحتمية في آن واحد، والتي ستختبر من نحن كجنس بشري".
وأضاف "أن البشرية على وشك أن تُمنح قوة لا يمكن تصورها تقريبا، ومن غير الواضح تماما ما إذا كانت أنظمتنا الاجتماعية والسياسية والتكنولوجية تمتلك النضج الكافي لاستخدامها".
ويشعر أمودي أحد أبرز الشخصيات المؤثرة في مجال الذكاء الاصطناعي، بقلق بالغ إزاء استهانة الحكومات وشركات التكنولوجيا والجمهور بالمخاطر المحتملة.
وقد كتب مذكرته التي تعد تكملة لمقالته الشهيرة عام 2024 بعنوان "آلات النعمة المحبة: كيف يُمكن للذكاء الاصطناعي أن يُغيّر العالم نحو الأفضل" - بهدف إثارة قلق الآخرين، وإثارة نقاش عام، وتفصيل المخاطر.
ويصر أمودي على أنه متفائل بأن البشر سيتجاوزون هذه المرحلة الانتقالية، ولكن فقط إذا كان قادة الذكاء الاصطناعي والحكومات صريحين مع الناس ويأخذون التهديدات على محمل الجد أكثر مما يفعلون اليوم.
وتنبع مخاوف أمودي من اعتقاده القوي بأنه في غضون عام أو عامين، سنواجه الحقيقة الصارخة لما يسميه "بلد العباقرة في مركز البيانات".
وما يعنيه، هو أن الآلات التي تتمتع بعبقرية حائزة جائزة نوبل في العديد من قطاعات الكيمياء والهندسة وما إلى ذلك، ستكون قادرة على بناء الأشياء بشكل مستقل ودائم، مع مخرجات تتراوح من الكلمات أو مقاطع الفيديو إلى العوامل البيولوجية أو أنظمة الأسلحة.
وكتب: "إذا استمر التقدم المتسارع وهو أمر غير مؤكد ولكنه الآن مدعوم بسجل حافل يمتد لعقد من الزمان، فلا يمكن أن يمر أكثر من بضع سنوات قبل أن يصبح الذكاء الاصطناعي أفضل من البشر في كل شيء تقريبا".
ومن بين التحذيرات المحددة التي وجهها أمودي للعالم في مقالته بعنوان "مرحلة المراهقة للتكنولوجيا: مواجهة مخاطر الذكاء الاصطناعي القوي والتغلب عليها":
- "فقدان هائل للوظائف"، حيث يعتقد الرئيس التنفيذي أن الذكاء الاصطناعي سيؤثر على 50% من وظائف ذوي الياقات البيضاء المبتدئين خلال 1-5 سنوات، بينما يعتقد أيضا أنهم قد يمتلكون ذكاء اصطناعيا أكثر قدرة من الجميع في غضون 1-2 سنوات فقط.
- "الذكاء الاصطناعي في ظل سلطة الدولة" ويبين في الصدد أن أفضل طريقة لفهم مخاطر الذكاء الاصطناعي هي طرح السؤال التالي "لنفترض أن "دولة العباقرة" قد ظهرت في مكان ما من العالم في عام 2027، تخيلوا على سبيل المثال 50 مليون شخص، جميعهم أكثر كفاءة من أي فائز بجائزة نوبل أو رجل دولة أو خبير تقني.
- "تزايد خطر الإرهاب: هناك أدلة تشير إلى أن العديد من الإرهابيين على الأقل يتمتعون بمستوى تعليمي جيد نسبيا، وعلم الأحياء هو المجال الذي يُقلقني أكثر من غيره نظرا لقدرته الهائلة على التدمير وصعوبة التصدي له.
وذكر أن معظم الأفراد ذوي النوايا السيئة مضطربون نفسيا وبالتالي فإن سلوكهم بحكم التعريف تقريبا، غير متوقع وغير عقلاني، وهؤلاء تحديدا غير المهرة منهم، هم من قد يستفيدون أكثر من الذكاء الاصطناعي الذي يُسهّل قتل أعداد كبيرة من الناس.
وأشار إلى أنه ومع تقدم علم الأحياء مدفوعا بشكل متزايد بالذكاء الاصطناعي نفسه، قد يصبح من الممكن تنفيذ هجمات أكثر انتقائية، على سبيل المثال استهداف أشخاص من أصول معينة، مما يضيف دافعا آخر مرعبا للغاية.
ولفت إلى أنه لا يعتقد أن الهجمات البيولوجية ستُنفذ بالضرورة فورا عندما يصبح ذلك ممكنا على نطاق واسع، ولكن إذا جمعنا هذه البيانات على مدى ملايين الأشخاص وبضع سنوات، أعتقد أن هناك خطرا حقيقيا لوقوع هجوم كبير مع احتمال وقوع ملايين الضحايا أو أكثر.
- تمكين الأنظمة الاستبدادية: ستمتلك الحكومات من جميع المستويات هذه التكنولوجيا، مشددا على أن "الاستبداد المدعوم بالذكاء الاصطناعي يرعبه".
- شركات الذكاء الاصطناعي: "قد يبدو الأمر غريبا بعض الشيء أن أقول هذا بصفتي الرئيس التنفيذي لشركة ذكاء اصطناعي، لكنني أعتقد أن المستوى التالي من المخاطر يكمن في شركات الذكاء الاصطناعي نفسها"، ويحذر أمودي بعد الفقرة المتعلقة بالحكومات الاستبدادية من سيطرة شركات الذكاء الاصطناعي على مراكز بيانات ضخمة، وتدريبها نماذج متطورة، وامتلاكها خبرة واسعة في كيفية استخدام هذه النماذج، وفي بعض الحالات، تتواصل يوميا مع عشرات أو مئات الملايين من المستخدمين، مع إمكانية التأثير عليهم.
وبإمكانها أيضا استخدام منتجات الذكاء الاصطناعي الخاصة بها لغسل أدمغة قاعدة مستخدميها الضخمة، مشددا على أنه يجب على الجمهور أن يكون متيقظا للخطر الذي يمثله ذلك.
وأوضح صاحب المقال أن حوكمة شركات الذكاء الاصطناعي تستحق تدقيقا شديدا.
- إغواء الأقوياء لإسكاتهم: تمتلك شركات الذكاء الاصطناعي العملاقة نفوذا وأموالا طائلة ما قد يدفع القادة إلى التقليل من شأن المخاطر، وإخفاء مؤشرات الخطر.
ويكتب أمودي في أكثر فقراته تشاؤما: "هناك أموال طائلة يمكن جنيها من الذكاء الاصطناعي حرفيا تريليونات الدولارات سنويا.. هذا هو الفخ القوي للغاية للذكاء الاصطناعي وجائزته الثمينة، لدرجة أنه من الصعب جدا على الحضارة الإنسانية فرض أي قيود عليه على الإطلاق".
- دعوة للعمل
يقول أمودي: "يقع على عاتق الأثرياء واجب المساعدة في حل هذه المشكلة، ويحزنني أن العديد من الأثرياء وخاصة في قطاع التكنولوجيا، قد تبنوا مؤخرا موقفا متشائما وعدميا مفاده بأن العمل الخيري احتيالي أو عديم الجدوى لا محالة.
وخلاصة القول، "على البشرية أن تستيقظ، وستكون السنوات المقبلة صعبة للغاية، وستطلب منا أكثر مما نعتقد أننا قادرون على تقديمه".
جدير بالذكر أن شركة "أمودي" قامت ببناء واحدة من أكثر أنظمة إدارة القانون تطورا في العالم.
وأصبحت أدوات البرمجة والعمل المشترك الجديدة من "أنثروبيك"، مثل Claude Opus 4.5، حديث وادي السيليكون وكبار المديرين التنفيذيين في أمريكا.
كما أن الذكاء الاصطناعي يقوم بتنفيذ 90% من برمجة الكمبيوتر لبناء منتجات شركة "أنثروبيك"، بما في ذلك الذكاء الاصطناعي الخاص بها.
المصدر: "أكسيوس"