في تغريدة على منصة اكس البرهان: شكراً مصر شكراً فخامة الرئيس عبدالفتاح السيسي    فيفا يحسم مصير المركز الثالث في كأس العرب بعد إلغاء مواجهة السعودية والإمارات    لجنة أمن ولاية الخرطوم تعكف على تسليم المواطنين ممتلكاتهم المنهوبة المضبوطة باقسام الشرطة    السودان..وفاة قائد السلاح الطبي السابق    شاهد بالصورة والفيديو.. فتاة سودانية تسخر من "ميسرة": (البنات بحبوا الراجل السواق حتى لو ما عندو قروش وشكلك انت ما سواق عشان كدة كبرتها منك)    شاهد بالصورة والفيديو.. فتاة سودانية تسخر من "ميسرة": (البنات بحبوا الراجل السواق حتى لو ما عندو قروش وشكلك انت ما سواق عشان كدة كبرتها منك)    إسحق أحمد فضل الله يكتب: .....(الشوط الجديد)    شاهد بالفيديو.. أطفال سودانيون يصطادون "صقر الجديان" الضخم والجمهور يرفض: (رمز الدولة لا يحبس ولا يوضع في قفص)    استشهاد فردين من الدفاع المدني في قصف مسيّرات مليشيا الدعم السريع على محطة كهرباء المقرن بعطبرة    شاهد بالصور.. عبد الرحيم دقلو يعرض نفسه لسخرية الجمهور بظهور مثير للشفقة ومعلقون: (يا حليل أيام القصور والصبغة وإن شاء الله تكون عرفت الخرطوم حقت أبو منو؟)    حملة مشتركة ببحري الكبرى تسفر عن توقيف (216) أجنبي وتسليمهم لإدارة مراقبة الأجانب    بمشاركة 6 عرب.. الأندية الإنجليزية تدفع ثمن كأس الأمم الإفريقية    "فيفا" يطلق تذاكر ب60 دولارا لكل مباراة في "مونديال 2026"    مسيرات مليشيا الدعم السريع تستهدف محولات محطة المقرن التحويلية بعطبره    تعادل مثير بأجمل مباريات الدوري الانجليزي    استمرار اللجان.. وهزيمة "هلال الجان"..!!    مدرب رديف المريخ يثمن جهود الإدارة..محسن سيد: لدينا مواهب مميزة وواعدة في الرديف    وزير سوداني سابق يعلن عودته للمشهد بخطاب من رئيس الوزراء    عزمي عبد الرازق يكتب: عودة لنظام (ACD).. محاولة اختراق السودان مستمرة!    مسيرات انتحارية تستهدف عطبرة    البرهان عدم حرمان أي سوداني من استخراج الأوراق الثبوتية حتى وإن كان لديه بلاغات جنائية فهذه حقوق مشروعة    انخفاض أسعار السلع الغذائية بسوق أبو حمامة للبيع المخفض    مكتول هواك يترجّل    توجيه بصرف اجور العاملين قبل 29 ديسمبر الجاري    "ونسة وشمار".. زوجة مسؤول بالدولة تتفوه بعبارات غاضبة وتعبر عن كراهيتها للإعلامية داليا الياس بعد إرسال الأخيرة رسالة "واتساب" لزوجها    هل استحق الأردن والمغرب التأهل لنهائي كأس العرب؟    تونس.. سعيد يصدر عفوا رئاسيا عن 2014 سجينا    هل يمكن أن يؤدي الحرمان من النوم إلى الوفاة؟    بنك السودان يتأهب لإطلاق المقاصة الإلكترونية    الأردن يفوز على السعودية برأس رشدان ويتأهل لنهائي كأس العرب    والي الخرطوم يوجه بالالتزام بأسعار الغاز حسب التخفيض الجديد    ضبط أخطر تجار الحشيش وبحوزته كمية كبيرة من البنقو    البرهان يصل الرياض    النوم أقل من 7 ساعات ثاني أكبر قاتل بعد التدخين    بعد غياب طويل.. أول ظهور للفنانة المصرية عبلة كامل بعد قرار السيسي    ترامب يعلن: الجيش الأمريكي سيبدأ بشن غارات على الأراضي الفنزويلية    كارثة إنسانية قبالة اليونان وغالبية الضحايا من مصر والسودان    ترامب يلغي وضع الحماية المؤقتة للإثيوبيين    الإعلامية والشاعرة داليا الياس ترد على إتهام الجمهور لها بالتسبب في فصل المذيع الراحل محمد محمود حسكا من قناة النيل الأزرق    قوات الجمارك بكسلا تحبط تهريب (10) آلاف حبة كبتاجون    وفاة إعلامي سوداني    مسيّرتان انتحاريتان للميليشيا في الخرطوم والقبض على المتّهمين    إسحق أحمد فضل الله يكتب: (حديث نفس...)    تصريحات ترامب المسيئة للصومال تثير غضبا واسعا في مقديشو    حريق سوق شهير يسفر عن خسائر كبيرة للتجار السودانيين    مياه الخرطوم تكشف تفاصيل بشأن محطة سوبا وتنويه للمواطنين    إدارة التعدين بولاية كسلا تضبط (588) جرام و (8) حبات ذهب معدة للبيع خارج القنوات الرسمية    محافظ بنك السودان المركزي تزور ولاية الجزيرة وتؤكد دعم البنك لجهود التعافي الاقتصادي    إحباط تهريب كميات كبيرة من المخدرات والمواد الخطرة بنهر النيل    الصحة الاتحادية تُشدد الرقابة بمطار بورتسودان لمواجهة خطر ماربورغ القادم من إثيوبيا    مقترح برلماني بريطاني: توفير مسار آمن لدخول السودانيين إلى بريطانيا بسهولة    وصول 260 ألف جوال من الأسمدة لزراعة محاصيل العروة الشتوية بالجزيرة    الشتاء واكتئاب حواء الموسمي    عثمان ميرغني يكتب: تصريحات ترامب المفاجئة ..    "كرتي والكلاب".. ومأساة شعب!    ما الحكم الشرعى فى زوجة قالت لزوجها: "من اليوم أنا حرام عليك"؟    حسين خوجلي: (إن أردت أن تنظر لرجل من أهل النار فأنظر لعبد الرحيم دقلو)    حسين خوجلي يكتب: عبد الرجيم دقلو.. إن أردت أن تنظر لرجل من أهل النار!!    







شكرا على الإبلاغ!
سيتم حجب هذه الصورة تلقائيا عندما يتم الإبلاغ عنها من طرف عدة أشخاص.



منها تدمير البنية التحتية وافتعال الحروب.. ما أسوأ سيناريوهات الذكاء الاصطناعي؟
النيلين نشر في النيلين يوم 11 - 06 - 2023

أصبح الذكاء الاصطناعي (AI) بسرعة جزءا لا يتجزأ من حياتنا اليومية، مما أدى إلى تغيير طريقة عملنا والتواصل والتفاعل مع العالم من حولنا. ومع استمرار تقدم الذكاء الاصطناعي وزيادة تطوره، من المهم مراعاة المخاطر والعواقب المحتملة المرتبطة بتطويره.
وفي هذه المقالة، سوف نلقي نظرة عامة شاملة على بعض أسوأ السيناريوهات التي يمكن أن تنشأ عن التطور غير المنضبط للذكاء الاصطناعي، من احتمال أن تسبب الأسلحة المستقلة (ذاتية التشغيل) الفوضى إلى خطر تحول الذكاء الاصطناعي الخارق ضد الإنسانية، فنسلط بذلك الضوء على المخاطر المحتملة التي يجب أن نضعها في الاعتبار بينما يواصل البشر تطوير هذه التقنيات القوية والاعتماد عليها.
ومن الجدير بالذكر أنه إلى جانب الرجوع إلى المصادر المتخصصة، فقد لجأنا في إعداد هذه المقالة إلى الاستفادة من رأي الذكاء الاصطناعي نفسه بطرح السؤال على 4 تطبيقات شهيرة للذكاء الاصطناعي هي "شات جي بي تي" (ChatGPT)، "جي بي تي-4" (GPT-4)، "ساغ" (Sage)، "كلود+" (Claude+) فحذرتنا، وقدمت لنا تصوراتها عن أسوأ سيناريوهات الذكاء الاصطناعي، وأكد أحدها أنه "من المهم ملاحظة أن هذه السيناريوهات ليست تنبؤات، بل هي مخاطر محتملة يجب أن نكون على دراية بها ونعمل على التخفيف منها".
اتخاذ القرارات الحاسمة بناء على معلومات مزيفة
هناك مخاوف من إمكانية استخدام الذكاء الاصطناعي لتوليد صور أو مقاطع فيديو أو صوت أو نصوص مزيفة (التزييف العميق) باستخدام أدوات التعلم الآلي المتقدمة، مما يؤدي إلى انتشار المعلومات المضللة على نطاقات ضخمة عبر الإنترنت، وهذا يمكن أن يقوض سلامة المعلومات ويقوض الثقة في مصادر الأخبار وفي نزاهة المؤسسات الديمقراطية.
وفي سيناريو مرعب، قد يدفع ظهور التزييف العميق صناع القرار في مجال الأمن القومي في يوم من الأيام إلى اتخاذ إجراءات فعلية بناء على معلومات خاطئة، مما قد يؤدي إلى أزمة كبيرة، أو أسوأ من ذلك: الحرب.
سباق التسلح بالذكاء الاصطناعي
عندما يتعلق الأمر بالذكاء الاصطناعي والأمن القومي، فإن السرعة هي النقطة المهمة، لكنها أيضا المشكلة. ولأن أنظمة الذكاء الاصطناعي تمنح مستخدميها مزايا سرعة أكبر فإن الدول التي تطور أولا تطبيقات عسكرية تكتسب ميزة إستراتيجية، لكن في المقابل قد يكون بهذا الأمر خطورة بالغة قد يتسبب بها أصغر عيب في النظام والذي يمكن للمخترقين استغلاله.
ففي مثل هذا السيناريو، قد تؤدي الحاجة الملحة للفوز بسباق التسلح بالذكاء الاصطناعي إلى عدم كفاية تدابير السلامة، مما يزيد من احتمالية إنشاء أنظمة ذكاء اصطناعي ذات عواقب غير مقصودة وربما كارثية.
على سبيل المثال، قد يميل قادة الأمن القومي إلى تفويض قرارات القيادة والتحكم للذكاء الاصطناعي ويلغون الإشراف البشري على نماذج التعلم الآلي التي لا نفهمها تماما، من أجل الحصول على ميزة السرعة. وفي مثل هذا السيناريو، حتى الإطلاق الآلي لأنظمة الدفاع الصاروخي التي تبدأ دون إذن بشري يمكن أن يؤدي إلى تصعيد غير مقصود وربما يؤدي إلى حرب نووية.
كما يمكن في سيناريو آخر، من خلال استغلال بعض العيوب أو الثغرات في أنظمة الذكاء الاصطناعي، شن هجمات إلكترونية تؤدي إلى تعطيل البنية التحتية الحيوية للدول المتقدمة، أو سرقة البيانات الحساسة لها، أو نشر معلومات مضللة بين السكان بهدف إحداث بلبلة واضطراب شعبي، أو حتى تضليل أصحاب القرار بمعلومات مزيفة، كما ذكرنا بالنقطة الأولى.
نهاية الخصوصية والإرادة الحرة
مع كل إجراء رقمي نتخذه فإننا ننتج بيانات جديدة: رسائل البريد الإلكتروني، النصوص، ما نُحَمِّلُه من الإنترنت، المشتريات، المنشورات، صور السلفي، مواقع "جي بي إس". ومن خلال السماح للشركات والحكومات بالوصول غير المقيد إلى هذه البيانات، فإننا نسلمها أدوات المراقبة والتحكم.
ومع إضافة التعرف على الوجه، القياسات الحيوية، البيانات الجينية، التحليل التنبئي المدعوم بالذكاء الاصطناعي، فإننا ندخل منطقة خطرة ومجهولة مع تنامي المراقبة والتتبع من خلال البيانات دون أي فهم تقريبا للآثار المحتملة.
وتمتد قوة البيانات، بمجرد جمعها وتحليلها، إلى ما هو أبعد من وظائف المراقبة. فاليوم، تتنبأ الأنظمة التي تدعم الذكاء الاصطناعي بالمنتجات التي سنشتريها، الترفيه الذي سنشاهده، الروابط التي سننقر عليها. فعندما تعرفنا هذه المنصات بشكل أفضل مما نعرف أنفسنا، فقد لا نلاحظ الزحف البطيء الذي يسلبنا إرادتنا الحرة ويخضعنا لسيطرة القوى الخارجية.
فقدان السيطرة على الذكاء الاصطناعي الخارق
ولعل هذا السيناريو هو الأكثر تشاؤما بينها جميعها. ويشير الذكاء الاصطناعي الخارق إلى النظام الذي يتجاوز الذكاء البشري في كل جانب تقريبا. فإذا فشلنا في مواءمة أهداف مثل هذا الذكاء الاصطناعي مع أهدافنا، فقد يؤدي ذلك إلى عواقب سلبية غير مقصودة، ويمكن لهذا أن يحدث إذا تم تصميم أنظمة الذكاء الاصطناعي بحيث تمتلك القدرة على التحسين الذاتي وأن تصبح أكثر ذكاء من تلقاء نفسها.
ويحذر بعض الخبراء من أن الذكاء الاصطناعي يمكن أن يصبح -في نهاية المطاف- متقدما لدرجة أنه قد يتفوق على البشر ويتخذ قرارات تشكل تهديدا وجوديا للبشرية سواء عن قصد أو عن غير قصد، في حال إذا لم نعد نستطيع التحكم فيه بشكل صحيح.
فأنظمة الذكاء الاصطناعي مصممة للتعلم من البيانات واتخاذ القرارات بناء عليها، وكلما أصبحت تلك الأنظمة أكثر تقدما، أمكنها تطوير أهدافها وقيمها الخاصة التي قد لا تتوافق مع أهداف وقيم البشر، وبالتالي قد تتخذ قرارات ضارة بهم أو ربما تصبح مستقلة بحيث يصعب أو يستحيل على البشر التحكم فيها أو إغلاقها.
وفي مثل هذا السيناريو المرعب قد لا يكون البشر قادرين على التنبؤ أو فهم تصرفات هذه الأنظمة الذكية، مما قد يؤدي إلى عواقب غير مقصودة.
على سبيل المثال، قد يقرر نظام الذكاء الاصطناعي المصمم لتحسين تدفق حركة المرور إعادة توجيه جميع المركبات إلى مكان واحد، مما يتسبب في حدوث ازدحام وفوضى هائلة، أو قد يقرر نظام الذكاء الاصطناعي المصمم لتحسين تخصيص الموارد أن القضاء على البشر هو الطريقة الأكثر فعالية لتحقيق هذا الهدف.
الأسلحة الفتاكة ذاتية التشغيل
يمكن استخدام الذكاء الاصطناعي لتشغيل أسلحة فتاكة ذاتية التشغيل مثل الطائرات بدون طيار، أو إنشاء أسلحة مستقلة يمكنها اتخاذ قرارات بشأن من يُقتل دون تدخل بشري، وقد يؤدي هذا إلى سيناريوهات خطيرة حيث تخرج هذه الأسلحة عن السيطرة أو يتم اختراقها للاستخدام الضار.
فمثل هذه النوعية من الأسلحة قد تكون عرضة للحوادث أو اختراق القراصنة أو أي شكل آخر من الهجمات الإلكترونية، وفي حال تمكن المهاجمون من السيطرة على هذه الأنظمة، فيمكنهم، على سبيل المثال، استخدامها لإحداث ضرر واسع النطاق.
ووقع أوضح مثال على خطورة الأسلحة ذاتية التشغيل في تجربة حديثة لسلاح الجو الأميركي بتاريخ 2 يونيو/حزيران 2023، حيث قررت طائرة مسيرة (درون) تعمل بالذكاء الاصطناعي، خلال اختبار محاكاة بالولايات المتحدة، قتل مشغلها (الافتراضي) الذي كان يُفترض أن يقول "نعم" للموافقة على الهجوم على الأهداف المحددة (الوهمية) لأنها رأت أن مشغلها يمنعها من تحقيق هدفها ويتدخل في جهودها لإكمال مهمتها.
سوء الاستخدام من قبل الأنظمة الاستبدادية
بات معروفا حاليا أنه يمكن استخدام الذكاء الاصطناعي للمراقبة الجماعية (أنظمة التعرف على الوجوه على سبيل المثال) وتمكين الحكومات أو الكيانات الأخرى من مراقبة مواطنيها والسيطرة عليهم على نطاق غير مسبوق. وقد يؤدي ذلك إلى فقدان الخصوصية، فضلا عن إساءة استخدام السلطة من قبل أولئك الذين يتحكمون في تقنيات المراقبة هذه وربما استخدامها لانتهاك حقوق الإنسان وغيرها من أشكال القمع.
وخير مثال على ذلك ما تتبعه سلطات الاحتلال الإسرائيلي مع الفلسطينيين في مدينة الخليل حيث تنشر كاميرات ترصد حركة ووجوه الفلسطينيين وتحفظ بياناتهم وتتعرف عليهم، فيتخذ الذكاء الاصطناعي قرارا بالسماح بمرورهم أو رفضه عند نقاط التفتيش المختلفة، أو حتى تصفية المشتبه فيهم، من دون تدخل بشري.
سكاي نيوز
الجزيرة
مواضيع مهمة
علاج الحمى في الطب النبوي مشكلة مص الإصبع التفاح الأخضر .. فوائد
الضغط في العمل كيف نتناول الكزبرة؟ ميكب خدود البشرة الداكنة

انقر هنا لقراءة الخبر من مصدره.