سودارس : الذكاء الاصطناعي: هل يمكن أن تعلمنا أفلام الخيال العلمي شيئا عن تهديداته المحتملة؟

إبراهيم شقلاوي يكتب: بين الفوضى وإعادة التأسيس الكهرباء في السودان تعلن عن قطوعات وتوضّح الهلال يهزم سانت لوبوبو ويتأهل متصدراً مجموعته الهلال السوداني إلى الدور ربع النهائي من بطولة دوري أبطال إفريقيا شاهد بالصورة والفيديو.. الفنانة إنصاف مدني تفاجئ الجميع وتقتحم عالم التمثيل بالمشاركة في عمل درامي خلال شهر رمضان شاهد بالصورة والفيديو.. الفنانة إنصاف مدني تفاجئ الجميع وتقتحم عالم التمثيل بالمشاركة في عمل درامي خلال شهر رمضان شاهد بالصورة.. فنانة تشكيلية تعرض لوحة للفنان الراحل محمود عبد العزيز للبيع بمبلغ 5 مليار جنيه وساخرون: (إلا يشتريها مأمون لزوجته حنين) ليفربول يحسم أمره ويقرر عرض محمد صلاح للبيع وزير الصحة يؤكد دعم غرب كردفان واستمرار الخدمات الصحية رغم التحديات بنك الخرطوم يصدر توضيحا مهما السلطانة هدى عربي توجه رسالة لخصومها بصور ملفتة: (اصلوا ما تحاولوا تشوهوا صورتنا لي ناس الدنيا ضيقة) تفاصيل بشأن خطة تأهيل جسري شمبات والحلفايا إطلاق سراح 100 من نزلاء السجون الغارمين بكسلا تبادل إطلاق نار في الخرطوم "Jackpotting".. كيف يستولي قراصنة على الصراف الآلي وأين بدأت هذه الهجمات؟ 3 ميزات متوقعة في آيفون 18 برو بفضل شريحة " C2″ الجديدة "ميتا" تعزز فيسبوك بميزة الصور الشخصية المتحركة الأردني التعمري يقود رين إلى هزيمة باريس سان جيرمان بثلاثية د. سلمى سجلت نقطة لصالحها، إن تم قبول استقالتها ستخرج وقد رفعت الحرج عن نفسها الشرطة في الخرطوم تنهي مغامرة متهم المستشفيات الخطير الأمم المتحدة تطلق التحذير تجاه أزمة السودان (سبتكم أخضر ياأسياد) الهلال يصارع لوبوبو لخطف بطاقة ربع النهائي من سلوى عثمان لهند صبري .. مشادات "اللوكيشن" تهدد دراما رمضان نصائح صحية للاستعداد المبكر لرمضان "الصحة العالمية": اعتماد لقاح فموي جديد لشلل الأطفال علم النفس يوضح.. هكذا يتخذ أصحاب التفكير المفرط قراراتهم موسيفيني يصدر توجيهًا لجهاز المخابرات بشأن السيارات السودانية الهلال السوداني يخوض مواجهة مصيرية في أبطال إفريقيا أئمة يدعون إلى النار إتحاد جبل أولياء يكون اللجان العدلية في مباراة مثيرة شهدت ضربتي جزاء وحالة طرد الأهلي يخسر أمام مويس بثنائية نظيفة في دوري شندي ترتيبات لإعادة تشغيل مصنع ألبان بركات وإنشاء مزرعة لتربية الماشية إبراهيم شقلاوي يكتب: مسرح ما بعد الحرب لدى يوسف عيدابي وزارة المالية توقع إتفاق مع بنك التضامن الإسلامي لتقديم خدمة إيصالي شاهد بالفيديو.. فتاة سودانية تبهر راغب علامة وأنغام بعد ترديدها أغنية هدى عربي في برنامج مسابقات والسلطانة تدعمها وتحتفي بها ارتفاع في اسعار محصول الذرة واستقرار سعر السمسم بالقضارف أمس انطلاق دورة متخصصة لتطوير الأداء الرقمي برعاية وزير الشباب والرياضة الإدارة العامة لشرطة تأمين التعدين تنفذ حملة منعية وكشفية لمكافحة التعدين العشوائي بولاية البحرالاحمر الإدارة العامة لشرطة تأمين التعدين تنفذ حملة منعية وكشفية لمكافحة التعدين العشوائي بولاية البحرالاحمر هيئة مياه الخرطوم: تحصيل فاتورة المياه لا يشمل القطاع السكني حتى الآن ارتفاع طفيف لأرباح زين السعودية إلى 604 ملايين في 2025 أفراد من الشرطة يلقون القبض على السائق الخاص بالقائد الميداني لمليشيا الدعم السريع "جلحة" داخل "ركشة" بحي بري هلال كوستي يدشن برامجه الثقافية بليلة ثقافية كبرى وتكريم رموز النادي والمجتمع شاهد بالفيديو.. سرقة محل مجوهرات بشارع الوادي بأم درمان وقيمة المسروقات تقدر ب(ترليون) جنيه محاولة أوكرانية جديدة لإفشال مفاوضات السلام بعيداً عن ارض المعركة رفض الزوج شراء سجائر لها فقتلته.. جريمة زوجة مصرية تثير الجدل حريق كبير في سوق شرق تشاد ترامب يحذر إيران: الوقت ينفد والهجوم القادم سيكون أشد تلفزيون السودان يستأنف البث المباشر من مقرّه الرئيسي وزير الصحة: التبغ عدو الحاضر والمستقبل و فاتورته الصحية تفوق عائداته الضريبية هل قتل السحر الأسود الإسرائيلي عبد الناصر؟.. كتاب جديد يكشف خفايا خطيرة في مصر سباق اختراق الضاحية باكورة بطولات الاتحاد العربي لألعاب القوى شركة اتصالات في السودان تعلن عن توقف خدمات "مَا حَرَّمَ إِسْرَائِيلُ عَلَى نَفْسِهِ"! أحمد الشاكر: انا أعجز عن شكر جميع الإخوة الأشقاء في المملكة العربية السعودية السودان..حصيلة صادمة بمرض شهير في ولايتين إسحق أحمد فضل الله يكتب: (حديث نفس...)

شكرا على الإبلاغ!

سيتم حجب هذه الصورة تلقائيا عندما يتم الإبلاغ عنها من طرف عدة أشخاص.

الذكاء الاصطناعي: هل يمكن أن تعلمنا أفلام الخيال العلمي شيئا عن تهديداته المحتملة؟
الذكاء الاصطناعي: هل يمكن أن تعلمنا أفلام الخيال العلمي شيئا عن تهديداته المحتملة؟

الراكوبة نشر في الراكوبة يوم 05 - 06 - 2023

الذكاء الاصطناعي: هل يمكن أن تعلمنا أفلام الخيال العلمي شيئا عن تهديداته المحتملة؟
قبل ساعة واحدة
صدر الصورة، Alamy
التعليق على الصورة،
سمانثا مورتون (يسار) وتوم كروز في فيلم الخيال العلمي "تقرير الأقلية" الذي عرض في عام 2002
خلال الأسبوع المنصرم، حذر بعض من أشهر الباحثين في مجال الذكاء الاصطناعي من أخطاره المحتملة، مستشهدين بقصة فيلم مشهور كأحد "السيناريوهات الكارثية" التي ستؤدي إلى تحوله إلى تهديد لوجود البشرية بأسرها.
وقد أعرب اثنان من الثلاثة الذين يوصفون بأنهم"الآباء الروحيون للذكاء الاصطناعي" عن قلقهما، في حين قال الثالث إنه يختلف تماما مع وجهة نظرهما وإن "نبؤات فناء البشرية" ما هي إلا محض هراء.
وفي محاولة لاستيعاب تلك التحذيرات، قال مذيع بأحد القنوات التلفزيونية البريطانية خلال إجرائه مقابلة مع أحد الباحثين الذين حذروا من أن الذكاء الاصطناعي يمثل تهديدا وجوديا: "بوصفي شخصا ليس لديه أي خبرة في هذا المجال..يتبادر إلى ذهني فيلم The Terminator (ذا ترميناتور) ونظام Skynet (سكاينت)، يتبادر إلى ذهني ما شاهدته من أفلام".
هذا المذيع ليس وحده من خطرت بباله تلك الأفلام. فقد استخدم مركز أمان الذكاء الاصطناعي (Centre for AI Safety) الذي أصدر بيانا تحذيريا في هذا الشأن فيلم WALL-E (وال-إي) من إنتاج شركة بيكسار كمثال على مخاطر الذكاء الاصطناعي.
لطالما كانت قصص الخيال العلمي وسيلة لمحاولة التكهن بما يحمله لنا المستقبل. وفي مرات نادرة للغاية، صدقت تنبؤاتها.
تخطى قصص مقترحة وواصل القراءة
قصص مقترحة
* * * *
قصص مقترحة نهاية
بالنظر إلى قائمة المخاطر والتهديدات المحتملة للذكاء الاصطناعي التي يسوقها المركز، هل هناك ما تخبرنا به أفلام هوليوود الشهيرة في هذا الشأن؟
"إضعاف البشر"
وال-إي وتقرير الأقلية (Minority Report)
تخطى البودكاست وواصل القراءة
البودكاست
بي بي سي إكسترا
بودكاست أسبوعي يقدم قصصا إنسانية عن العالم العربي وشبابه.
الحلقات
البودكاست نهاية
يقول مركز أمان الذكاء الاصطناعي إن "إضعاف البشر" يعني أن البشرية "ستصبح معتمدة اعتمادا كاملا على الآلة، وهو سيناريو شبيه بقصة فيلم وال-إي".
يصور الفيلم البشر على أنهم حيوانات سعيدة لا تقوم بأي عمل على الإطلاق، وتستطيع بالكاد الوقوف على القدمين بدون مساعدة، في حين أن الروبوتات تنفذ كل المهام والأعمال التي يحتاجونها.
تخمين ما إذا كان ذلك الأمر ممكنا بالنسبة للجنس البشري بأكمله لا يعدو كونه تنجيما.
لكننا أصبحنا أكثر قربا إلى شكل آخر أكثر خطورة من أشكال الاعتماد على الآلة. يتمثل ذلك في إعطاء صلاحيات لتقنية قد لا نفهمها تماما، كما تقول الدكتورة ستيفاني هير، الباحثة في مجال أخلاقيات الذكاء الاصطناعي ومؤلفة كتاب Technology Is Not Neutral (التكنولوجيا ليست محايدة).
خذ فيلم Minority Report ("تقرير الأقلية") على سبيل المثال. في هذا الفيلم، يُتهم ضابط الشرطة المحترم جون أندرتون (الذي يلعب دوره توم كروز) في جريمة لم يرتكبها لأن نظم الذكاء الاصطناعي المصممة للتنبؤ بالجرائم قبل وقوعها تصر على أنه سوف يرتكب تلك الجريمة.
تقول الدكتورة هير: "الأنشطة الشرطية التنبؤية موجودة بالفعل – وتستخدمها شرطة لندن على سبيل المثال".
في الفيلم، تدمَر حياة توم كروز بفعل نظام "غير قابل للجدل" لا يفهمه تماما.
ما الذي يمكن أن يحدث إذن عندما يتخذ الذكاء الاصطناعي قرارا يؤدي إلى تغيير حياة شخص ما – كأن يرفض إعطاءه رهنا عقاريا أو إطلاق سراحه المشروط من السجن؟
في الوقت الحالي، من الممكن أن يشرح لك إنسان سبب عدم استيفائك للمعايير المطلوبة. لكن نظم الذكاء الاصطناعي مبهمة، وحتى الباحثون الذين يصممونها لا يفهمون في كثير من الأحيان آلية اتخاذها للقرارات.
تقول الدكتورة هير: "نحن فقط نغذي [نظم الذكاء الاصطناعي] بالبيانات، ثم يفعل الحاسب الآلي شيئا ما..ويحدث شيء سحري، ثم تأتي النتيجة".
وتضيف أن التقنية ربما تكون فعالة، لكن استخدامها في سيناريوهات حساسة مثل الأنشطة الشرطية أو الرعاية الصحية أو حتى الحرب هو أمر محل جدل. "إذا كانوا لا يستطيعون شرحها بدقة، فإن ذلك أمر غير مقبول".
"تحول الذكاء الاصطناعي إلى سلاح"
ذا ترميناتور
الشرير الحقيقي في سلسلة أفلام ذا ترميناتور ليس الروبوت القاتل الذي يلعب دوره أرنولد شوارتسنيغر، إنه "سكاينت" (Skynet)، نظام الذكاء الاصطناعي المصمم للدفاع عن البشر وحمايتهم. في يوم من الأيام، يخرج النظام عن الطريقة التي تمت برمجته بها ويقرر أن البشر هم الخطر الأعظم الذي يجب القضاء عليه – وهي فكرة شاع استخدامها في الأفلام السينمائية.
نحن بالطبع بعيدون كثيرا عن وجود نظام مثل سكاينت. لكن البعض يرى أننا سوف نقوم في نهاية المطاف بتصميم ذكاء اصطناعي عام سيكون بإمكانه فعل أي شيء يستطيع البشر أن يفعلوه ولكن بشكل أفضل، بل وربما سيصبح لديه وعي بالذات.
بالنسبة لنايثان بينايش، مؤسس شركة Air Street Capital (أير ستريت كابيتال) اللندنية المتخصصة في الاستثمار في مجال الذكاء الاصطناعي، يُعتبر ذلك احتمالا بعيدا.
يقول بينايش: "ما نتعلمه من قصص الخيال العلمي عن مؤلفيها وعن ثقافتنا أكثر بكثير مما نتعلمه منها عن التكنولوجيا"، مضيفا أنه نادرا ما تتحقق تنبؤاتنا بشأن المستقبل.
"في بدايات القرن العشرين، تخيل الناس عالما من السيارات الطائرة يتواصل فيه الناس مع بعضهم بعضا بالهواتف الأرضية – في حين أننا نتنقل ونسافر حاليا بنفس الطريقة تقريبا لكننا نتواصل بوسائل مختلفة تماما".
ما لدينا الآن في طريقه لأن يصبح أشبه بنظام الذكاء الاصطناعي المستخدم في مسلسل ستار ترك (Star Trek) أكثر من أن يصبح أشبه بنظام سكاينت. فقد تخاطبه قائلا: "أعرض علي قائمة لكافة أفراد الطاقم"، ونظم الذكاء الاصطناعي الموجودة حاليا بإمكانها إعطاؤك تلك القائمة، فضلا عن الإجابة على أي أسئلة حولها بلغة سهلة.
بيد أنها لا تستطيع أن تحل محل أفراد الطاقم، أو أن تطلق قذائف طوربيد.
القلق المثار حول تسليح الذكاء الاصطناعي يرتكز حول إدماجه في الأنظمة العسكرية – وهو شيء مطروح على الطاولة في الوقت الحالي – وحول ما إذا كان بإمكاننا الوثوق في تلك التقنية عندما يتعلق الأمر باتخاذ قرارات مصيرية.
كما أن المعترضون يشعرون بالقلق كذلك من احتمال أن يتحول نظام ذكاء اصطناعي مصمم لصنع الأدوية إلى أداة لصنع أسلحة كيميائية، أو ما شابه ذلك من المخاطر.
"أهداف مختلفة/خداع"
2001: أوديسا الفضاء
من بين الأفكار الأخرى الشائعة في أفلام الخيال العلمي هي أن الذكاء الاصطناعي ليس شريرا، ولكنه مضلَل.
في فيلم "2001: أدويسا الفضاء" (2001: Space Odyssey) الذي أخرجه ستنالي كوبريك، نتعرف على الحاسب الآلي الخارق هال-9000 الذي يتحكم في غالبية وظائف سفينة الفضاء ديسكفري، ما يسهل من مهمة رواد الفضاء – إلى أن يحدث به عطل.
يقرر رواد الفضاء إيقاف هال وتشغيل السفينة بأنفسهم. لكن هال – الذي يعلم أمورا لا يعلمها رواد الفضاء – يقرر أن ذلك سيعرض البعثة الفضائية إلى الخطر. يتمكن هال من خداع رواد الفضاء وقتل غالبيتهم.
على العكس من سكاينت الذي لديه وعي بالذات، يمكنك القول إن هال كان ينفذ التعليمات التي أعطيت له، ولكن ليس بالطريقة المتوقعة منه.
بلغة الذكاء الاصطناعي الحديثة، النظم التي تخطئ التصرف توصف بأنها "تعاني من اختلال في الأهداف"، أي أن أهدافها لا تبدوا متسقة مع الأهداف التي وضعها لها البشر.
في بعض الأحيان، يحدث ذلك لأن التعليمات لم تكن واضحة بما يكفي، وفي بعض الأحيان يكون السبب هو أن مهارة الذكاء الاصطناعي مكنته من إيجاد طريق مختصر.
على سبيل المثال، إذا كانت مهمة الذكاء الاصطناعي هي "التأكد من اتساق الإجابة مع هذه الوثيقة النصية"، فإنه ربما يقرر أن الطريقة المثلى هي تغيير الوثيقة النصية إلى إجابة أسهل. وهذا بالطبع ليس ما أراده البشر منه، لكنه لا غبار عليه من الناحية الفنية.
ومن ثم فإنه رغم كون فيلم أوديسا الفضاء بعيد عن الواقع، فإنه يعكس مشكلة فعلية موجودة في نظم الذكاء الاصطناعي الحالية.
"معلومات زائفة"
ذا مايتريكس (The Matrix)
"كيف يمكنك التفريق بين عالم الواقع وعالم الأحلام؟"، هكذا يسأل مورفيوس شخصية كيانو ريفز في فيلم ذا مايتريكس الذي أنتج عام 1999.
تدور القصة حول بشر يعيشون حياتهم بشكل طبيعي بدون أن يدركوا أن عالمهم هو عالم رقمي مزيف، وهي رمز جيد للانفجار الحالي للمعلومات الزائفة التي ينتجها الذكاء الاصطناعي.
تقول الدكتورة هير إن قصة الفيلم تعطيها نقطة بدء مفيدة عند إجراء "حوارات حول المعلومات الزائفة والمعلومات المضللة والتزييف العميق" مع عملائها.
"أستطيع أن أتحدث معهم عن ذلك متخذة فيلم ذا مايتريكس نموذجا..ثم أناقش معهم ماذا سيعني ذلك للانتخابات؟ ماذا سيعني للتلاعب بأسواق المال؟ …ماذا سيعني للحقوق المدنية، للإنتاج الأدبي البشري أو الحريات المدنية وحقوق الإنسان؟"
"تشات جي بي تي" ونظم إنتاج الصور تقوم بالفعل في الوقت الراهن بإنتاج محتوى ثقافي غزير يبدو حقيقيا ولكنه قد يكون زائفا تماما.
كما أن هناك جانبا مظلما لذلك، مثل إنتاج أعمال إباحية باستخدام تقنية التزييف العميق والتي يكون من الصعب للغاية على ضحاياها إثبات أنها غير حقيقية.
ما الذي يمكن أن يحدث بالفعل؟
ماذا إذن عن هذا التحذير من قبل خبراء الذكاء الاصطناعي بأن خطره يعادل خطر حرب نووية؟
تقول الدكتورة هير: "أعتقد أنه استهتار كبير. إذا كانوا يؤمنون بذلك فعلا، فليكفوا عن تصميم [نظم الذكاء الاصطناعي]".
وتضيف أن ما ينبغي أن يشعرنا بالقلق ليس الروبوتات القاتلة، ولكن وقوع حادث غير مقصود.
"سوف تكون هناك إجراءات أمنية مشددة في قطاع الصرافة وفي قطاع صنع الأسلحة. لذا قد يقوم المهاجمون بإطلاق [نظام ذكاء اصطناعي] ربما أملا في ربح بعض المال، أو من قبيل استعراض القوة..ثم قد لا يستطيعون السيطرة عليه".
"فقط تخيل كافة مشكلات الأمن السيبراني التي مررنا بها، ولكن بمليار ضعف، لأنها ستحدث بشكل أسرع".
ويأبى نايثان بينايش أن يتكهن بأي مشكلات محتملة.
"أظن أن الذكاء الاصطناعي سيغير الكثير من القطاعات بشكل جذري، لكننا بحاجة إلى توخي الحذر إزاء اتخاذ إجراءات متسرعة استنادا إلى قصص محمومة وغريبة تفترض حدوث قفزات ضخمة بدون تخيل كيف ستبدو المرحلة الانتقالية".

انقر هنا لقراءة الخبر من مصدره.