سودارس : الذكاء الاصطناعي: هل يمكن أن تعلمنا أفلام الخيال العلمي شيئا عن تهديداته المحتملة؟

البرهان يؤكد حرص السودان على الاحتفاظ بعلاقات وثيقة مع برنامج الغذاء العالمي عطل في الخط الناقل مروي عطبرة تسبب بانقطاع التيار الكهربائي بولايتين ميسي: لا أريد أن أكون عبئا على الأرجنتين.. وأشتاق للعودة إلى برشلونة رئيس مجلس السيادة يؤكد عمق العلاقات السودانية المصرية رونالدو: أنا سعودي وأحب وجودي هنا مسؤول مصري يحط رحاله في بورتسودان (25) دولة تدين بشدة الفظائع وانتهاكات القانون الإنساني الدولي في السودان على يد ميليشيا الدعم السريع "فينيسيوس جونيور خط أحمر".. ريال مدريد يُحذر تشابي ألونسو الهلال يدشن انطلاقته المؤجلة في الدوري الرواندي أمام أي سي كيغالي كُتّاب في "الشارقة للكتاب": الطيب صالح يحتاج إلى قراءة جديدة مستشار رئيس الوزراء السوداني يفجّر المفاجأة الكبرى عثمان ميرغني يكتب: إيقاف الحرب.. الآن.. مان سيتي يجتاز ليفربول التحرير الشنداوي يواصل إعداده المكثف للموسم الجديد دار العوضة والكفاح يتعادلان سلبيا في دوري الاولي بارقو كلهم حلا و أبولولو..!! السودان لا يركع .. والعدالة قادمة شاهد.. إبراهيم الميرغني ينشر صورة لزوجته تسابيح خاطر من زيارتها للفاشر ويتغزل فيها:(إمرأة قوية وصادقة ومصادمة ولوحدها هزمت كل جيوشهم) لقاء بين البرهان والمراجع العام والكشف عن مراجعة 18 بنكا السودان الافتراضي ... كلنا بيادق .. وعبد الوهاب وردي شاهد بالصورة والفيديو.. ضابطة الدعم السريع "شيراز" تعبر عن إنبهارها بمقابلة المذيعة تسابيح خاطر بالفاشر وتخاطبها (منورة بلدنا) والأخيرة ترد عليها: (بلدنا نحنا ذاتنا معاكم) جمهور مواقع التواصل بالسودان يسخر من المذيعة تسابيح خاطر بعد زيارتها للفاشر ويلقبها بأنجلينا جولي المليشيا.. تعرف على أشهر التعليقات الساخرة وزير الطاقة يتفقد المستودعات الاستراتيجية الجديدة بشركة النيل للبترول المالية توقع عقد خدمة إيصالي مع مصرف التنمية الصناعية أردوغان: لا يمكننا الاكتفاء بمتابعة ما يجري في السودان أردوغان يفجرّها داوية بشأن السودان وزير سوداني يكشف عن مؤشر خطير شاهد بالصورة والفيديو.. "البرهان" يظهر متأثراً ويحبس دموعه لحظة مواساته سيدة بأحد معسكرات النازحين بالشمالية والجمهور: (لقطة تجسّد هيبة القائد وحنوّ الأب، وصلابة الجندي ودمعة الوطن التي تأبى السقوط) إحباط محاولة تهريب عدد 200 قطعة سلاح في مدينة عطبرة السعودية : ضبط أكثر من 21 ألف مخالف خلال أسبوع.. و26 متهماً في جرائم التستر والإيواء الترتيب الجديد لأفضل 10 هدافين للدوري السعودي محمد رمضان يودع والده لمثواه الأخير وسط أجواء من الحزن والانكسار وفي بدايات توافد المتظاهرين، هتف ثلاثة قحاتة ضد المظاهرة وتبنوا خطابات "لا للحرب" مركزي السودان يصدر ورقة نقدية جديدة "واتساب" يطلق تطبيقه المنتظر لساعات "أبل" بقرار من رئيس الوزراء: السودان يؤسس ثلاث هيئات وطنية للتحول الرقمي والأمن السيبراني وحوكمة البيانات ما الحكم الشرعى فى زوجة قالت لزوجها: "من اليوم أنا حرام عليك"؟ غبَاء (الذكاء الاصطناعي) مخبأة في باطن الأرض..حادثة غريبة في الخرطوم صفعة البرهان حرب الأكاذيب في الفاشر: حين فضح التحقيق أكاذيب الكيزان دائرة مرور ولاية الخرطوم تدشن برنامج الدفع الإلكتروني للمعاملات المرورية بمركز ترخيص شهداء معركة الكرامة السودان.. افتتاح غرفة النجدة بشرطة ولاية الخرطوم 5 مليارات دولار.. فساد في صادر الذهب حسين خوجلي: (إن أردت أن تنظر لرجل من أهل النار فأنظر لعبد الرحيم دقلو) حسين خوجلي يكتب: عبد الرجيم دقلو.. إن أردت أن تنظر لرجل من أهل النار!! السجن 15 عام لمستنفر مع التمرد بالكلاكلة عملية دقيقة تقود السلطات في السودان للقبض على متّهمة خطيرة وزير الصحة يوجه بتفعيل غرفة طوارئ دارفور بصورة عاجلة الجنيه السوداني يتعثر مع تضرر صادرات الذهب بفعل حظر طيران الإمارات تركيا.. اكتشاف خبز عمره 1300 عام منقوش عليه صورة يسوع وهو يزرع الحبوب (مبروك النجاح لرونق كريمة الاعلامي الراحل دأود) المباحث الجنائية المركزية بولاية نهر النيل تنهي مغامرات شبكة إجرامية متخصصة في تزوير الأختام والمستندات الرسمية حسين خوجلي يكتب: التنقيب عن المدهشات في أزمنة الرتابة دراسة تربط مياه العبوات البلاستيكية بزيادة خطر السرطان والي البحر الأحمر ووزير الصحة يتفقدان مستشفى إيلا لعلاج أمراض القلب والقسطرة شكوك حول استخدام مواد كيميائية في هجوم بمسيّرات على مناطق مدنية بالفاشر السجائر الإلكترونية قد تزيد خطر الإصابة بالسكري

شكرا على الإبلاغ!

سيتم حجب هذه الصورة تلقائيا عندما يتم الإبلاغ عنها من طرف عدة أشخاص.

الذكاء الاصطناعي: هل يمكن أن تعلمنا أفلام الخيال العلمي شيئا عن تهديداته المحتملة؟
الذكاء الاصطناعي: هل يمكن أن تعلمنا أفلام الخيال العلمي شيئا عن تهديداته المحتملة؟

الراكوبة نشر في الراكوبة يوم 05 - 06 - 2023

الذكاء الاصطناعي: هل يمكن أن تعلمنا أفلام الخيال العلمي شيئا عن تهديداته المحتملة؟
قبل ساعة واحدة
صدر الصورة، Alamy
التعليق على الصورة،
سمانثا مورتون (يسار) وتوم كروز في فيلم الخيال العلمي "تقرير الأقلية" الذي عرض في عام 2002
خلال الأسبوع المنصرم، حذر بعض من أشهر الباحثين في مجال الذكاء الاصطناعي من أخطاره المحتملة، مستشهدين بقصة فيلم مشهور كأحد "السيناريوهات الكارثية" التي ستؤدي إلى تحوله إلى تهديد لوجود البشرية بأسرها.
وقد أعرب اثنان من الثلاثة الذين يوصفون بأنهم"الآباء الروحيون للذكاء الاصطناعي" عن قلقهما، في حين قال الثالث إنه يختلف تماما مع وجهة نظرهما وإن "نبؤات فناء البشرية" ما هي إلا محض هراء.
وفي محاولة لاستيعاب تلك التحذيرات، قال مذيع بأحد القنوات التلفزيونية البريطانية خلال إجرائه مقابلة مع أحد الباحثين الذين حذروا من أن الذكاء الاصطناعي يمثل تهديدا وجوديا: "بوصفي شخصا ليس لديه أي خبرة في هذا المجال..يتبادر إلى ذهني فيلم The Terminator (ذا ترميناتور) ونظام Skynet (سكاينت)، يتبادر إلى ذهني ما شاهدته من أفلام".
هذا المذيع ليس وحده من خطرت بباله تلك الأفلام. فقد استخدم مركز أمان الذكاء الاصطناعي (Centre for AI Safety) الذي أصدر بيانا تحذيريا في هذا الشأن فيلم WALL-E (وال-إي) من إنتاج شركة بيكسار كمثال على مخاطر الذكاء الاصطناعي.
لطالما كانت قصص الخيال العلمي وسيلة لمحاولة التكهن بما يحمله لنا المستقبل. وفي مرات نادرة للغاية، صدقت تنبؤاتها.
تخطى قصص مقترحة وواصل القراءة
قصص مقترحة
* * * *
قصص مقترحة نهاية
بالنظر إلى قائمة المخاطر والتهديدات المحتملة للذكاء الاصطناعي التي يسوقها المركز، هل هناك ما تخبرنا به أفلام هوليوود الشهيرة في هذا الشأن؟
"إضعاف البشر"
وال-إي وتقرير الأقلية (Minority Report)
تخطى البودكاست وواصل القراءة
البودكاست
بي بي سي إكسترا
بودكاست أسبوعي يقدم قصصا إنسانية عن العالم العربي وشبابه.
الحلقات
البودكاست نهاية
يقول مركز أمان الذكاء الاصطناعي إن "إضعاف البشر" يعني أن البشرية "ستصبح معتمدة اعتمادا كاملا على الآلة، وهو سيناريو شبيه بقصة فيلم وال-إي".
يصور الفيلم البشر على أنهم حيوانات سعيدة لا تقوم بأي عمل على الإطلاق، وتستطيع بالكاد الوقوف على القدمين بدون مساعدة، في حين أن الروبوتات تنفذ كل المهام والأعمال التي يحتاجونها.
تخمين ما إذا كان ذلك الأمر ممكنا بالنسبة للجنس البشري بأكمله لا يعدو كونه تنجيما.
لكننا أصبحنا أكثر قربا إلى شكل آخر أكثر خطورة من أشكال الاعتماد على الآلة. يتمثل ذلك في إعطاء صلاحيات لتقنية قد لا نفهمها تماما، كما تقول الدكتورة ستيفاني هير، الباحثة في مجال أخلاقيات الذكاء الاصطناعي ومؤلفة كتاب Technology Is Not Neutral (التكنولوجيا ليست محايدة).
خذ فيلم Minority Report ("تقرير الأقلية") على سبيل المثال. في هذا الفيلم، يُتهم ضابط الشرطة المحترم جون أندرتون (الذي يلعب دوره توم كروز) في جريمة لم يرتكبها لأن نظم الذكاء الاصطناعي المصممة للتنبؤ بالجرائم قبل وقوعها تصر على أنه سوف يرتكب تلك الجريمة.
تقول الدكتورة هير: "الأنشطة الشرطية التنبؤية موجودة بالفعل – وتستخدمها شرطة لندن على سبيل المثال".
في الفيلم، تدمَر حياة توم كروز بفعل نظام "غير قابل للجدل" لا يفهمه تماما.
ما الذي يمكن أن يحدث إذن عندما يتخذ الذكاء الاصطناعي قرارا يؤدي إلى تغيير حياة شخص ما – كأن يرفض إعطاءه رهنا عقاريا أو إطلاق سراحه المشروط من السجن؟
في الوقت الحالي، من الممكن أن يشرح لك إنسان سبب عدم استيفائك للمعايير المطلوبة. لكن نظم الذكاء الاصطناعي مبهمة، وحتى الباحثون الذين يصممونها لا يفهمون في كثير من الأحيان آلية اتخاذها للقرارات.
تقول الدكتورة هير: "نحن فقط نغذي [نظم الذكاء الاصطناعي] بالبيانات، ثم يفعل الحاسب الآلي شيئا ما..ويحدث شيء سحري، ثم تأتي النتيجة".
وتضيف أن التقنية ربما تكون فعالة، لكن استخدامها في سيناريوهات حساسة مثل الأنشطة الشرطية أو الرعاية الصحية أو حتى الحرب هو أمر محل جدل. "إذا كانوا لا يستطيعون شرحها بدقة، فإن ذلك أمر غير مقبول".
"تحول الذكاء الاصطناعي إلى سلاح"
ذا ترميناتور
الشرير الحقيقي في سلسلة أفلام ذا ترميناتور ليس الروبوت القاتل الذي يلعب دوره أرنولد شوارتسنيغر، إنه "سكاينت" (Skynet)، نظام الذكاء الاصطناعي المصمم للدفاع عن البشر وحمايتهم. في يوم من الأيام، يخرج النظام عن الطريقة التي تمت برمجته بها ويقرر أن البشر هم الخطر الأعظم الذي يجب القضاء عليه – وهي فكرة شاع استخدامها في الأفلام السينمائية.
نحن بالطبع بعيدون كثيرا عن وجود نظام مثل سكاينت. لكن البعض يرى أننا سوف نقوم في نهاية المطاف بتصميم ذكاء اصطناعي عام سيكون بإمكانه فعل أي شيء يستطيع البشر أن يفعلوه ولكن بشكل أفضل، بل وربما سيصبح لديه وعي بالذات.
بالنسبة لنايثان بينايش، مؤسس شركة Air Street Capital (أير ستريت كابيتال) اللندنية المتخصصة في الاستثمار في مجال الذكاء الاصطناعي، يُعتبر ذلك احتمالا بعيدا.
يقول بينايش: "ما نتعلمه من قصص الخيال العلمي عن مؤلفيها وعن ثقافتنا أكثر بكثير مما نتعلمه منها عن التكنولوجيا"، مضيفا أنه نادرا ما تتحقق تنبؤاتنا بشأن المستقبل.
"في بدايات القرن العشرين، تخيل الناس عالما من السيارات الطائرة يتواصل فيه الناس مع بعضهم بعضا بالهواتف الأرضية – في حين أننا نتنقل ونسافر حاليا بنفس الطريقة تقريبا لكننا نتواصل بوسائل مختلفة تماما".
ما لدينا الآن في طريقه لأن يصبح أشبه بنظام الذكاء الاصطناعي المستخدم في مسلسل ستار ترك (Star Trek) أكثر من أن يصبح أشبه بنظام سكاينت. فقد تخاطبه قائلا: "أعرض علي قائمة لكافة أفراد الطاقم"، ونظم الذكاء الاصطناعي الموجودة حاليا بإمكانها إعطاؤك تلك القائمة، فضلا عن الإجابة على أي أسئلة حولها بلغة سهلة.
بيد أنها لا تستطيع أن تحل محل أفراد الطاقم، أو أن تطلق قذائف طوربيد.
القلق المثار حول تسليح الذكاء الاصطناعي يرتكز حول إدماجه في الأنظمة العسكرية – وهو شيء مطروح على الطاولة في الوقت الحالي – وحول ما إذا كان بإمكاننا الوثوق في تلك التقنية عندما يتعلق الأمر باتخاذ قرارات مصيرية.
كما أن المعترضون يشعرون بالقلق كذلك من احتمال أن يتحول نظام ذكاء اصطناعي مصمم لصنع الأدوية إلى أداة لصنع أسلحة كيميائية، أو ما شابه ذلك من المخاطر.
"أهداف مختلفة/خداع"
2001: أوديسا الفضاء
من بين الأفكار الأخرى الشائعة في أفلام الخيال العلمي هي أن الذكاء الاصطناعي ليس شريرا، ولكنه مضلَل.
في فيلم "2001: أدويسا الفضاء" (2001: Space Odyssey) الذي أخرجه ستنالي كوبريك، نتعرف على الحاسب الآلي الخارق هال-9000 الذي يتحكم في غالبية وظائف سفينة الفضاء ديسكفري، ما يسهل من مهمة رواد الفضاء – إلى أن يحدث به عطل.
يقرر رواد الفضاء إيقاف هال وتشغيل السفينة بأنفسهم. لكن هال – الذي يعلم أمورا لا يعلمها رواد الفضاء – يقرر أن ذلك سيعرض البعثة الفضائية إلى الخطر. يتمكن هال من خداع رواد الفضاء وقتل غالبيتهم.
على العكس من سكاينت الذي لديه وعي بالذات، يمكنك القول إن هال كان ينفذ التعليمات التي أعطيت له، ولكن ليس بالطريقة المتوقعة منه.
بلغة الذكاء الاصطناعي الحديثة، النظم التي تخطئ التصرف توصف بأنها "تعاني من اختلال في الأهداف"، أي أن أهدافها لا تبدوا متسقة مع الأهداف التي وضعها لها البشر.
في بعض الأحيان، يحدث ذلك لأن التعليمات لم تكن واضحة بما يكفي، وفي بعض الأحيان يكون السبب هو أن مهارة الذكاء الاصطناعي مكنته من إيجاد طريق مختصر.
على سبيل المثال، إذا كانت مهمة الذكاء الاصطناعي هي "التأكد من اتساق الإجابة مع هذه الوثيقة النصية"، فإنه ربما يقرر أن الطريقة المثلى هي تغيير الوثيقة النصية إلى إجابة أسهل. وهذا بالطبع ليس ما أراده البشر منه، لكنه لا غبار عليه من الناحية الفنية.
ومن ثم فإنه رغم كون فيلم أوديسا الفضاء بعيد عن الواقع، فإنه يعكس مشكلة فعلية موجودة في نظم الذكاء الاصطناعي الحالية.
"معلومات زائفة"
ذا مايتريكس (The Matrix)
"كيف يمكنك التفريق بين عالم الواقع وعالم الأحلام؟"، هكذا يسأل مورفيوس شخصية كيانو ريفز في فيلم ذا مايتريكس الذي أنتج عام 1999.
تدور القصة حول بشر يعيشون حياتهم بشكل طبيعي بدون أن يدركوا أن عالمهم هو عالم رقمي مزيف، وهي رمز جيد للانفجار الحالي للمعلومات الزائفة التي ينتجها الذكاء الاصطناعي.
تقول الدكتورة هير إن قصة الفيلم تعطيها نقطة بدء مفيدة عند إجراء "حوارات حول المعلومات الزائفة والمعلومات المضللة والتزييف العميق" مع عملائها.
"أستطيع أن أتحدث معهم عن ذلك متخذة فيلم ذا مايتريكس نموذجا..ثم أناقش معهم ماذا سيعني ذلك للانتخابات؟ ماذا سيعني للتلاعب بأسواق المال؟ …ماذا سيعني للحقوق المدنية، للإنتاج الأدبي البشري أو الحريات المدنية وحقوق الإنسان؟"
"تشات جي بي تي" ونظم إنتاج الصور تقوم بالفعل في الوقت الراهن بإنتاج محتوى ثقافي غزير يبدو حقيقيا ولكنه قد يكون زائفا تماما.
كما أن هناك جانبا مظلما لذلك، مثل إنتاج أعمال إباحية باستخدام تقنية التزييف العميق والتي يكون من الصعب للغاية على ضحاياها إثبات أنها غير حقيقية.
ما الذي يمكن أن يحدث بالفعل؟
ماذا إذن عن هذا التحذير من قبل خبراء الذكاء الاصطناعي بأن خطره يعادل خطر حرب نووية؟
تقول الدكتورة هير: "أعتقد أنه استهتار كبير. إذا كانوا يؤمنون بذلك فعلا، فليكفوا عن تصميم [نظم الذكاء الاصطناعي]".
وتضيف أن ما ينبغي أن يشعرنا بالقلق ليس الروبوتات القاتلة، ولكن وقوع حادث غير مقصود.
"سوف تكون هناك إجراءات أمنية مشددة في قطاع الصرافة وفي قطاع صنع الأسلحة. لذا قد يقوم المهاجمون بإطلاق [نظام ذكاء اصطناعي] ربما أملا في ربح بعض المال، أو من قبيل استعراض القوة..ثم قد لا يستطيعون السيطرة عليه".
"فقط تخيل كافة مشكلات الأمن السيبراني التي مررنا بها، ولكن بمليار ضعف، لأنها ستحدث بشكل أسرع".
ويأبى نايثان بينايش أن يتكهن بأي مشكلات محتملة.
"أظن أن الذكاء الاصطناعي سيغير الكثير من القطاعات بشكل جذري، لكننا بحاجة إلى توخي الحذر إزاء اتخاذ إجراءات متسرعة استنادا إلى قصص محمومة وغريبة تفترض حدوث قفزات ضخمة بدون تخيل كيف ستبدو المرحلة الانتقالية".

انقر هنا لقراءة الخبر من مصدره.