تعاون مصري سوداني في مجال الكهرباء    الخلافات تشتعل بين مدرب الهلال ومساعده عقب خسارة "سيكافا".. الروماني يتهم خالد بخيت بتسريب ما يجري في المعسكر للإعلام ويصرح: (إما أنا أو بخيت)    شاهد بالصورة والفيديو.. بأزياء مثيرة.. تيكتوكر سودانية تخرج وترد على سخرية بعض الفتيات: (أنا ما بتاجر بأعضائي عشان أكل وأشرب وتستاهلن الشتات عبرة وعظة)    ترامب : بوتين خذلني.. وسننهي حرب غزة    كامل إدريس في السعودية: وعكة رباعية..!!    الكويت ترحب ب "الرباعية" حول السودان    شاهد بالصورة والفيديو.. حصلت على أموال طائلة من النقطة.. الفنانة فهيمة عبد الله تغني و"صراف آلي" من المال تحتها على الأرض وساخرون: (مغارز لطليقها)    شاهد بالفيديو.. شيخ الأمين: (في دعامي بدلعو؟ لهذا السبب استقبلت الدعامة.. أملك منزل في لندن ورغم ذلك فضلت البقاء في أصعب أوقات الحرب.. كنت تحت حراسة الاستخبارات وخرجت من السودان بطائرة عسكرية)    بايرن ميونخ يتغلب على تشيلسي    نادي دبيرة جنوب يعزز صفوفه إستعداداً لدوري حلفا    البرهان : " لايمكن أن نرهن سيادتنا لأي دولة مهما كانت علاقتنا معها "    أول دولة تهدد بالانسحاب من كأس العالم 2026 في حال مشاركة إسرائيل    900 دولار في الساعة... الوظيفة التي قلبت موازين الرواتب حول العالم!    "نهاية مأساوية" لطفل خسر أموال والده في لعبة على الإنترنت    "مرصد الجزيرة لحقوق الإنسان يكشف عن انتهاكات خطيرة طالت أكثر من 3 آلاف شخص"    د.ابراهيم الصديق على يكتب: معارك كردفان..    رئيس اتحاد بربر يشيد بلجنة التسجيلات ويتفقد الاستاد    عثمان ميرغني يكتب: المفردات «الملتبسة» في السودان    خطوط تركيا الجويّة تدشّن أولى رحلاتها إلى السودان    شاهد بالصورة والفيديو.. حصلت على أموال طائلة من النقطة.. الفنانة فهيمة عبد الله تغني و"صراف آلي" من المال تحتها على الأرض وساخرون: (مغارز لطليقها)    إحباط محاولة تهريب وقود ومواد تموينية إلى مناطق سيطرة الدعم السريع    شاهد بالصورة والفيديو.. خلال حفل خاص حضره جمهور غفير من الشباب.. فتاة سودانية تدخل في وصلة رقص مثيرة بمؤخرتها وتغمر الفنانة بأموال النقطة وساخرون: (شكلها مشت للدكتور المصري)    هدف قاتل يقود ليفربول لإفساد ريمونتادا أتلتيكو مدريد    السعودية وباكستان توقعان اتفاقية دفاع مشترك    المالية تؤكد دعم توطين العلاج داخل البلاد    غادر المستشفى بعد أن تعافي رئيس الوزراء من وعكة صحية في الرياض    تحالف خطير.. كييف تُسَلِّح الدعم السريع وتسير نحو الاعتراف بتأسيس!    دوري الأبطال.. مبابي يقود ريال مدريد لفوز صعب على مارسيليا    شاهد بالفيديو.. نجم السوشيال ميديا ود القضارف يسخر من الشاب السوداني الذي زعم أنه المهدي المنتظر: (اسمك يدل على أنك بتاع مرور والمهدي ما نازح في مصر وما عامل "آي لاينر" زيك)    الجزيرة: ضبط أدوية مهربة وغير مسجلة بالمناقل    ماذا لو اندفع الغزيون نحو سيناء؟.. مصر تكشف سيناريوهات التعامل    ريال مدريد يواجه مرسيليا في بداية مشواره بدوري أبطال أوروبا    ماذا تريد حكومة الأمل من السعودية؟    الشرطة تضع حداً لعصابة النشل والخطف بصينية جسر الحلفايا    شاهد بالصور.. زواج فتاة "سودانية" من شاب "بنغالي" يشعل مواقع التواصل وإحدى المتابعات تكشف تفاصيل هامة عن العريس: (اخصائي مهن طبية ويملك جنسية إحدى الدول الأوروبية والعروس سليلة أعرق الأسر)    إنت ليه بتشرب سجاير؟! والله يا عمو بدخن مجاملة لأصحابي ديل!    وزير الداخلية يترأس إجتماع لجنة ضبط الأمن وفرض هيبة الدولة ولاية الخرطوم    في أزمنة الحرب.. "زولو" فنان يلتزم بالغناء للسلام والمحبة    إيد على إيد تجدع من النيل    حسين خوجلي يكتب: الأمة العربية بين وزن الفارس ووزن الفأر..!    ضياء الدين بلال يكتب: (معليش.. اكتشاف متأخر)!    في الجزيرة نزرع أسفنا    من هم قادة حماس الذين استهدفتهم إسرائيل في الدوحة؟    مباحث شرطة القضارف تسترد مصوغات ذهبية مسروقة تقدر قيمتها ب (69) مليون جنيه    في عملية نوعية.. مقتل قائد الأمن العسكري و 6 ضباط آخرين وعشرات الجنود    الخرطوم: سعر جنوني لجالون الوقود    السجن المؤبّد لمتهم تعاون مع الميليشيا في تجاريًا    وصية النبي عند خسوف القمر.. اتبع سنة سيدنا المصطفى    عثمان ميرغني يكتب: "اللعب مع الكبار"..    جنازة الخوف    حكاية من جامع الحارة    حسين خوجلي يكتب: حكاية من جامع الحارة    تخصيص مستشفى الأطفال أمدرمان كمركز عزل لعلاج حمى الضنك    مشكلة التساهل مع عمليات النهب المسلح في الخرطوم "نهب وليس 9 طويلة"    وسط حراسة مشددة.. التحقيق مع الإعلامية سارة خليفة بتهمة غسيل الأموال    نفسية وعصبية.. تعرف على أبرز أسباب صرير الأسنان عند النوم    بعد خطوة مثيرة لمركز طبي.."زلفو" يصدر بيانًا تحذيريًا لمرضى الكلى    الصحة: وفاة 3 أطفال بمستشفى البان جديد بعد تلقيهم جرعة تطعيم    







شكرا على الإبلاغ!
سيتم حجب هذه الصورة تلقائيا عندما يتم الإبلاغ عنها من طرف عدة أشخاص.



منها تدمير البنية التحتية وافتعال الحروب.. ما أسوأ سيناريوهات الذكاء الاصطناعي؟
النيلين نشر في النيلين يوم 11 - 06 - 2023

أصبح الذكاء الاصطناعي (AI) بسرعة جزءا لا يتجزأ من حياتنا اليومية، مما أدى إلى تغيير طريقة عملنا والتواصل والتفاعل مع العالم من حولنا. ومع استمرار تقدم الذكاء الاصطناعي وزيادة تطوره، من المهم مراعاة المخاطر والعواقب المحتملة المرتبطة بتطويره.
وفي هذه المقالة، سوف نلقي نظرة عامة شاملة على بعض أسوأ السيناريوهات التي يمكن أن تنشأ عن التطور غير المنضبط للذكاء الاصطناعي، من احتمال أن تسبب الأسلحة المستقلة (ذاتية التشغيل) الفوضى إلى خطر تحول الذكاء الاصطناعي الخارق ضد الإنسانية، فنسلط بذلك الضوء على المخاطر المحتملة التي يجب أن نضعها في الاعتبار بينما يواصل البشر تطوير هذه التقنيات القوية والاعتماد عليها.
ومن الجدير بالذكر أنه إلى جانب الرجوع إلى المصادر المتخصصة، فقد لجأنا في إعداد هذه المقالة إلى الاستفادة من رأي الذكاء الاصطناعي نفسه بطرح السؤال على 4 تطبيقات شهيرة للذكاء الاصطناعي هي "شات جي بي تي" (ChatGPT)، "جي بي تي-4" (GPT-4)، "ساغ" (Sage)، "كلود+" (Claude+) فحذرتنا، وقدمت لنا تصوراتها عن أسوأ سيناريوهات الذكاء الاصطناعي، وأكد أحدها أنه "من المهم ملاحظة أن هذه السيناريوهات ليست تنبؤات، بل هي مخاطر محتملة يجب أن نكون على دراية بها ونعمل على التخفيف منها".
اتخاذ القرارات الحاسمة بناء على معلومات مزيفة
هناك مخاوف من إمكانية استخدام الذكاء الاصطناعي لتوليد صور أو مقاطع فيديو أو صوت أو نصوص مزيفة (التزييف العميق) باستخدام أدوات التعلم الآلي المتقدمة، مما يؤدي إلى انتشار المعلومات المضللة على نطاقات ضخمة عبر الإنترنت، وهذا يمكن أن يقوض سلامة المعلومات ويقوض الثقة في مصادر الأخبار وفي نزاهة المؤسسات الديمقراطية.
وفي سيناريو مرعب، قد يدفع ظهور التزييف العميق صناع القرار في مجال الأمن القومي في يوم من الأيام إلى اتخاذ إجراءات فعلية بناء على معلومات خاطئة، مما قد يؤدي إلى أزمة كبيرة، أو أسوأ من ذلك: الحرب.
سباق التسلح بالذكاء الاصطناعي
عندما يتعلق الأمر بالذكاء الاصطناعي والأمن القومي، فإن السرعة هي النقطة المهمة، لكنها أيضا المشكلة. ولأن أنظمة الذكاء الاصطناعي تمنح مستخدميها مزايا سرعة أكبر فإن الدول التي تطور أولا تطبيقات عسكرية تكتسب ميزة إستراتيجية، لكن في المقابل قد يكون بهذا الأمر خطورة بالغة قد يتسبب بها أصغر عيب في النظام والذي يمكن للمخترقين استغلاله.
ففي مثل هذا السيناريو، قد تؤدي الحاجة الملحة للفوز بسباق التسلح بالذكاء الاصطناعي إلى عدم كفاية تدابير السلامة، مما يزيد من احتمالية إنشاء أنظمة ذكاء اصطناعي ذات عواقب غير مقصودة وربما كارثية.
على سبيل المثال، قد يميل قادة الأمن القومي إلى تفويض قرارات القيادة والتحكم للذكاء الاصطناعي ويلغون الإشراف البشري على نماذج التعلم الآلي التي لا نفهمها تماما، من أجل الحصول على ميزة السرعة. وفي مثل هذا السيناريو، حتى الإطلاق الآلي لأنظمة الدفاع الصاروخي التي تبدأ دون إذن بشري يمكن أن يؤدي إلى تصعيد غير مقصود وربما يؤدي إلى حرب نووية.
كما يمكن في سيناريو آخر، من خلال استغلال بعض العيوب أو الثغرات في أنظمة الذكاء الاصطناعي، شن هجمات إلكترونية تؤدي إلى تعطيل البنية التحتية الحيوية للدول المتقدمة، أو سرقة البيانات الحساسة لها، أو نشر معلومات مضللة بين السكان بهدف إحداث بلبلة واضطراب شعبي، أو حتى تضليل أصحاب القرار بمعلومات مزيفة، كما ذكرنا بالنقطة الأولى.
نهاية الخصوصية والإرادة الحرة
مع كل إجراء رقمي نتخذه فإننا ننتج بيانات جديدة: رسائل البريد الإلكتروني، النصوص، ما نُحَمِّلُه من الإنترنت، المشتريات، المنشورات، صور السلفي، مواقع "جي بي إس". ومن خلال السماح للشركات والحكومات بالوصول غير المقيد إلى هذه البيانات، فإننا نسلمها أدوات المراقبة والتحكم.
ومع إضافة التعرف على الوجه، القياسات الحيوية، البيانات الجينية، التحليل التنبئي المدعوم بالذكاء الاصطناعي، فإننا ندخل منطقة خطرة ومجهولة مع تنامي المراقبة والتتبع من خلال البيانات دون أي فهم تقريبا للآثار المحتملة.
وتمتد قوة البيانات، بمجرد جمعها وتحليلها، إلى ما هو أبعد من وظائف المراقبة. فاليوم، تتنبأ الأنظمة التي تدعم الذكاء الاصطناعي بالمنتجات التي سنشتريها، الترفيه الذي سنشاهده، الروابط التي سننقر عليها. فعندما تعرفنا هذه المنصات بشكل أفضل مما نعرف أنفسنا، فقد لا نلاحظ الزحف البطيء الذي يسلبنا إرادتنا الحرة ويخضعنا لسيطرة القوى الخارجية.
فقدان السيطرة على الذكاء الاصطناعي الخارق
ولعل هذا السيناريو هو الأكثر تشاؤما بينها جميعها. ويشير الذكاء الاصطناعي الخارق إلى النظام الذي يتجاوز الذكاء البشري في كل جانب تقريبا. فإذا فشلنا في مواءمة أهداف مثل هذا الذكاء الاصطناعي مع أهدافنا، فقد يؤدي ذلك إلى عواقب سلبية غير مقصودة، ويمكن لهذا أن يحدث إذا تم تصميم أنظمة الذكاء الاصطناعي بحيث تمتلك القدرة على التحسين الذاتي وأن تصبح أكثر ذكاء من تلقاء نفسها.
ويحذر بعض الخبراء من أن الذكاء الاصطناعي يمكن أن يصبح -في نهاية المطاف- متقدما لدرجة أنه قد يتفوق على البشر ويتخذ قرارات تشكل تهديدا وجوديا للبشرية سواء عن قصد أو عن غير قصد، في حال إذا لم نعد نستطيع التحكم فيه بشكل صحيح.
فأنظمة الذكاء الاصطناعي مصممة للتعلم من البيانات واتخاذ القرارات بناء عليها، وكلما أصبحت تلك الأنظمة أكثر تقدما، أمكنها تطوير أهدافها وقيمها الخاصة التي قد لا تتوافق مع أهداف وقيم البشر، وبالتالي قد تتخذ قرارات ضارة بهم أو ربما تصبح مستقلة بحيث يصعب أو يستحيل على البشر التحكم فيها أو إغلاقها.
وفي مثل هذا السيناريو المرعب قد لا يكون البشر قادرين على التنبؤ أو فهم تصرفات هذه الأنظمة الذكية، مما قد يؤدي إلى عواقب غير مقصودة.
على سبيل المثال، قد يقرر نظام الذكاء الاصطناعي المصمم لتحسين تدفق حركة المرور إعادة توجيه جميع المركبات إلى مكان واحد، مما يتسبب في حدوث ازدحام وفوضى هائلة، أو قد يقرر نظام الذكاء الاصطناعي المصمم لتحسين تخصيص الموارد أن القضاء على البشر هو الطريقة الأكثر فعالية لتحقيق هذا الهدف.
الأسلحة الفتاكة ذاتية التشغيل
يمكن استخدام الذكاء الاصطناعي لتشغيل أسلحة فتاكة ذاتية التشغيل مثل الطائرات بدون طيار، أو إنشاء أسلحة مستقلة يمكنها اتخاذ قرارات بشأن من يُقتل دون تدخل بشري، وقد يؤدي هذا إلى سيناريوهات خطيرة حيث تخرج هذه الأسلحة عن السيطرة أو يتم اختراقها للاستخدام الضار.
فمثل هذه النوعية من الأسلحة قد تكون عرضة للحوادث أو اختراق القراصنة أو أي شكل آخر من الهجمات الإلكترونية، وفي حال تمكن المهاجمون من السيطرة على هذه الأنظمة، فيمكنهم، على سبيل المثال، استخدامها لإحداث ضرر واسع النطاق.
ووقع أوضح مثال على خطورة الأسلحة ذاتية التشغيل في تجربة حديثة لسلاح الجو الأميركي بتاريخ 2 يونيو/حزيران 2023، حيث قررت طائرة مسيرة (درون) تعمل بالذكاء الاصطناعي، خلال اختبار محاكاة بالولايات المتحدة، قتل مشغلها (الافتراضي) الذي كان يُفترض أن يقول "نعم" للموافقة على الهجوم على الأهداف المحددة (الوهمية) لأنها رأت أن مشغلها يمنعها من تحقيق هدفها ويتدخل في جهودها لإكمال مهمتها.
سوء الاستخدام من قبل الأنظمة الاستبدادية
بات معروفا حاليا أنه يمكن استخدام الذكاء الاصطناعي للمراقبة الجماعية (أنظمة التعرف على الوجوه على سبيل المثال) وتمكين الحكومات أو الكيانات الأخرى من مراقبة مواطنيها والسيطرة عليهم على نطاق غير مسبوق. وقد يؤدي ذلك إلى فقدان الخصوصية، فضلا عن إساءة استخدام السلطة من قبل أولئك الذين يتحكمون في تقنيات المراقبة هذه وربما استخدامها لانتهاك حقوق الإنسان وغيرها من أشكال القمع.
وخير مثال على ذلك ما تتبعه سلطات الاحتلال الإسرائيلي مع الفلسطينيين في مدينة الخليل حيث تنشر كاميرات ترصد حركة ووجوه الفلسطينيين وتحفظ بياناتهم وتتعرف عليهم، فيتخذ الذكاء الاصطناعي قرارا بالسماح بمرورهم أو رفضه عند نقاط التفتيش المختلفة، أو حتى تصفية المشتبه فيهم، من دون تدخل بشري.
سكاي نيوز
الجزيرة
مواضيع مهمة
علاج الحمى في الطب النبوي مشكلة مص الإصبع التفاح الأخضر .. فوائد
الضغط في العمل كيف نتناول الكزبرة؟ ميكب خدود البشرة الداكنة

انقر هنا لقراءة الخبر من مصدره.