سودارس : الذكاء الاصطناعي: هل يمكن أن تعلمنا أفلام الخيال العلمي شيئا عن تهديداته المحتملة؟

قرارات لجنة المسابقات باتحاد الكرة الدامر من الرياض إلى موسكو.. "الثلاثية المرتقبة" بين بيفول وبيتربييف تلوح في الأفق سباق انتخابي محتدم في اتحاد الألعاب المائية بالسودان... الكشف المبدئي يُشعل المنافسة والحسم في 11 أبريل وزير المعادن ونائب المدير العام المفتش العام للشرطة يدشنان مركبات لتعزيز مكافحة تهريب المعادن وتأمين مواقع التعدين البرهان يلتقي سفير دولة الكويت لدى السودان فرض غرامة على شركة تابعة لأبل لانتهاكها قواعد العقوبات المفروضة على روسيا أول إصابة بشرية بإنفلونزا الطيور H9N2 في أوروبا.. هل نبدأ القلق؟ ترامب يمثل أمام المحكمة العليا اليوم بسبب «الولادة».. بولتيكو تكشف التفاصيل استهداف منزل يضم قيادات تحالف تأسيس بينهم التعايشي في غارة مسيّرة بنيالا بالصور.. القيادي السابق بالدعم السريع "بقال" يسخر: (زول عرد من الخرطوم وامدرمان وجغمته مسيرة في نيالا يقول ليك استشهد في الصفوف الأمامية) مزمل أبو القاسم يكتب مقال ساخن: (لم نرصد لهذه الحكومة إنجازاً واحداً حتى اللحظة بخلاف جرأتها على المواطنين وتفننها في فرض الجبايات والرسوم عليهم) مواعيد مباريات الجولة الثانية بمجموعة الهبوط بالدوري منتخب غانا محطة رينارد القادمة بعد الرحيل عن تدريب السعودية الحكومة الإسبانية تدين الهتافات العنصرية ضد منتخب مصر معلومات خطيرة حول هلاك قيادي بحكومة "تأسيس".. تم اغتياله بواسطة مسيرة تتبع للمليشيا بتعليمات من يوسف ضبة والسبب منصب الشباب والرياضة!! عيد ميلاد جومانا مراد.. مسيرة نجاح من دمشق إلى القاهرة ريهام عبد الغفور : جمهور الأقصر دافئ وصادق وخريطة رأس السنة يحمل روحا مختلفة ألم العين.. أسباب شائعة وأعراض تستدعى استشارة الطبيب سيلينا جوميز تكشف رحلتها الصعبة لتشخيص اضطراب ثنائي القطب إزاى تحمى نفسك من نزلات البرد فى الجو الممطر؟ "جهلة وعنصريون".. يامال ينفجر غضبًا بعد الهتافات الإسبانية ضد المسلمين أمجد فريد: اعترافات داعمي مليشيا الدعم السريع فضحتهم وشراكتهم في الجرائم السودان.. زيادة مخيفة للإصابة بالضنك في 7 ولايات كيكل يعلّق على تحرّكات الميليشيا السودان.. وزير يشرع في تكوين قوّة عسكرية ضاربة..ماذا هناك؟ شاهد.. المطربة إيمان الشريف تنشر صورة حزينة لها بعد إتهامها بالإساءة للهرم كمال ترباس والفنانة الكبيرة حنان بلوبلو ارتفاع وارد واسعار الذرة والسمسم بسوق القضارف شاهد بالصورة والفيديو.. حسناء سودانية تقتحم المسرح وتدخل في وصلة رقص مثيرة مع المطرب عثمان بشة خلال حفل بالقاهرة شاهد بالصورة والفيديو.. شبيهة هدى عربي تستعرض جمالها على أنغام ندى القلعة وساخرون: (شن جاب الكيكة للويكة وما استخرتي نهائي) بالصورة.. البرنس هيثم مصطفى وزيراً للرياضة في السودان والي الخرطوم يوجه وزارة التخطيط العمراني بتطبيق القوانين وتسريع إجراءات معاملات الأراضي قالت إنّها خرجت من آلية تحديد أسعار الوقود..الطاقة تكشف تفاصيل 20 باخرة في محيط البحر الأحمر عثمان ميرغني يكتب: فساد.. الفساد.. ارتفاع جديد في أسعار الوقود بالخرطوم شراكة استراتيجية بين "الشباب والرياضة" و"الصناعة" لتمكين المبتكرين ودعم الإنتاج الشبابي السيسي للرئيس ترامب: لا أحد يمكنه وقف الحرب في المنطقة إلا أنت مصر.. الدولار يقترب من 54 جنيها لأول مرة وجبة سمك تُنهي حياة 3 سودانيين بالقاهرة وتتسبب في إصابة 4 آخرين بحالة تسمم غذائى حاد رئيس الوزراء يصدر قرارًا بشأن الرسوم الجديدة في المعابر محمد عبد الباسط يكتب: لهذا تحركت باكستان الآن للوساطة بين أمريكا وإيران الخليج الضحية الكبرى: إيران وجهت 83% من هجماتها إليه… و17% فقط إلى إسرائيل مهلة أخيرة للمخالفين: خيارات متعددة لمعالجة أوضاع التأشيرات المنتهية في السعودية ترامب يصدر أوامره ويكشف تطورات مثيرة مع إيران الأمن يداهم مخزن يبيع الوقود المهرب لعصابات التنقيب عن الذهب رئيس الأهلي مدني وابنه يتعرضان لحادث مروع المباحث تنهي مغامرات شبكة إجرامية متخصصة في الإحتيال علي أصحاب المحلات التجارية عن طريق اشعارات تطبيق بنكك المزيفة ضبط 238 كجم من "الآيس" وأسلحة بجانب نحاس بولاية البحر الاحمر ضبط 238 كجم من "الآيس" وأسلحة بجانب نحاس بولاية البحر الاحمر الشيخ بن زومة.. إلى جنة الخلد قيم الهلال المتوارثة يجب أن تبقى أبد الدهر في زمن الضجيج.. القرآن بوصلة المعنى والسكينة د.مزمل أبو القاسم يكتب: دموع الباز.. وزاهر! (2) السودان.. الدفاع المدني يستعين ب"التوك توك" طفح جلدي في رقبة الرئيس ترمب يثير تساؤلات حول صحته صوت لا يغيب.. محمد رفعت ورحلة الآذان الخالد في رمضان أجهزة الأمن السودانية تنهي مغامرات لص الصيدليات في عطبرة شاهد بالفيديو.. الوطن يتعافى ويعود.. تزاحم مئات المصلين في صلاة التراويح بمسجد السيدة سنهوري بالخرطوم السودان.. فكّ طلاسم"تبيدي للمجوهرات" في الخرطوم والتحقيقيات تفجّر مفاجأة

شكرا على الإبلاغ!

سيتم حجب هذه الصورة تلقائيا عندما يتم الإبلاغ عنها من طرف عدة أشخاص.

الذكاء الاصطناعي: هل يمكن أن تعلمنا أفلام الخيال العلمي شيئا عن تهديداته المحتملة؟
الذكاء الاصطناعي: هل يمكن أن تعلمنا أفلام الخيال العلمي شيئا عن تهديداته المحتملة؟

الراكوبة نشر في الراكوبة يوم 05 - 06 - 2023

الذكاء الاصطناعي: هل يمكن أن تعلمنا أفلام الخيال العلمي شيئا عن تهديداته المحتملة؟
قبل ساعة واحدة
صدر الصورة، Alamy
التعليق على الصورة،
سمانثا مورتون (يسار) وتوم كروز في فيلم الخيال العلمي "تقرير الأقلية" الذي عرض في عام 2002
خلال الأسبوع المنصرم، حذر بعض من أشهر الباحثين في مجال الذكاء الاصطناعي من أخطاره المحتملة، مستشهدين بقصة فيلم مشهور كأحد "السيناريوهات الكارثية" التي ستؤدي إلى تحوله إلى تهديد لوجود البشرية بأسرها.
وقد أعرب اثنان من الثلاثة الذين يوصفون بأنهم"الآباء الروحيون للذكاء الاصطناعي" عن قلقهما، في حين قال الثالث إنه يختلف تماما مع وجهة نظرهما وإن "نبؤات فناء البشرية" ما هي إلا محض هراء.
وفي محاولة لاستيعاب تلك التحذيرات، قال مذيع بأحد القنوات التلفزيونية البريطانية خلال إجرائه مقابلة مع أحد الباحثين الذين حذروا من أن الذكاء الاصطناعي يمثل تهديدا وجوديا: "بوصفي شخصا ليس لديه أي خبرة في هذا المجال..يتبادر إلى ذهني فيلم The Terminator (ذا ترميناتور) ونظام Skynet (سكاينت)، يتبادر إلى ذهني ما شاهدته من أفلام".
هذا المذيع ليس وحده من خطرت بباله تلك الأفلام. فقد استخدم مركز أمان الذكاء الاصطناعي (Centre for AI Safety) الذي أصدر بيانا تحذيريا في هذا الشأن فيلم WALL-E (وال-إي) من إنتاج شركة بيكسار كمثال على مخاطر الذكاء الاصطناعي.
لطالما كانت قصص الخيال العلمي وسيلة لمحاولة التكهن بما يحمله لنا المستقبل. وفي مرات نادرة للغاية، صدقت تنبؤاتها.
تخطى قصص مقترحة وواصل القراءة
قصص مقترحة
* * * *
قصص مقترحة نهاية
بالنظر إلى قائمة المخاطر والتهديدات المحتملة للذكاء الاصطناعي التي يسوقها المركز، هل هناك ما تخبرنا به أفلام هوليوود الشهيرة في هذا الشأن؟
"إضعاف البشر"
وال-إي وتقرير الأقلية (Minority Report)
تخطى البودكاست وواصل القراءة
البودكاست
بي بي سي إكسترا
بودكاست أسبوعي يقدم قصصا إنسانية عن العالم العربي وشبابه.
الحلقات
البودكاست نهاية
يقول مركز أمان الذكاء الاصطناعي إن "إضعاف البشر" يعني أن البشرية "ستصبح معتمدة اعتمادا كاملا على الآلة، وهو سيناريو شبيه بقصة فيلم وال-إي".
يصور الفيلم البشر على أنهم حيوانات سعيدة لا تقوم بأي عمل على الإطلاق، وتستطيع بالكاد الوقوف على القدمين بدون مساعدة، في حين أن الروبوتات تنفذ كل المهام والأعمال التي يحتاجونها.
تخمين ما إذا كان ذلك الأمر ممكنا بالنسبة للجنس البشري بأكمله لا يعدو كونه تنجيما.
لكننا أصبحنا أكثر قربا إلى شكل آخر أكثر خطورة من أشكال الاعتماد على الآلة. يتمثل ذلك في إعطاء صلاحيات لتقنية قد لا نفهمها تماما، كما تقول الدكتورة ستيفاني هير، الباحثة في مجال أخلاقيات الذكاء الاصطناعي ومؤلفة كتاب Technology Is Not Neutral (التكنولوجيا ليست محايدة).
خذ فيلم Minority Report ("تقرير الأقلية") على سبيل المثال. في هذا الفيلم، يُتهم ضابط الشرطة المحترم جون أندرتون (الذي يلعب دوره توم كروز) في جريمة لم يرتكبها لأن نظم الذكاء الاصطناعي المصممة للتنبؤ بالجرائم قبل وقوعها تصر على أنه سوف يرتكب تلك الجريمة.
تقول الدكتورة هير: "الأنشطة الشرطية التنبؤية موجودة بالفعل – وتستخدمها شرطة لندن على سبيل المثال".
في الفيلم، تدمَر حياة توم كروز بفعل نظام "غير قابل للجدل" لا يفهمه تماما.
ما الذي يمكن أن يحدث إذن عندما يتخذ الذكاء الاصطناعي قرارا يؤدي إلى تغيير حياة شخص ما – كأن يرفض إعطاءه رهنا عقاريا أو إطلاق سراحه المشروط من السجن؟
في الوقت الحالي، من الممكن أن يشرح لك إنسان سبب عدم استيفائك للمعايير المطلوبة. لكن نظم الذكاء الاصطناعي مبهمة، وحتى الباحثون الذين يصممونها لا يفهمون في كثير من الأحيان آلية اتخاذها للقرارات.
تقول الدكتورة هير: "نحن فقط نغذي [نظم الذكاء الاصطناعي] بالبيانات، ثم يفعل الحاسب الآلي شيئا ما..ويحدث شيء سحري، ثم تأتي النتيجة".
وتضيف أن التقنية ربما تكون فعالة، لكن استخدامها في سيناريوهات حساسة مثل الأنشطة الشرطية أو الرعاية الصحية أو حتى الحرب هو أمر محل جدل. "إذا كانوا لا يستطيعون شرحها بدقة، فإن ذلك أمر غير مقبول".
"تحول الذكاء الاصطناعي إلى سلاح"
ذا ترميناتور
الشرير الحقيقي في سلسلة أفلام ذا ترميناتور ليس الروبوت القاتل الذي يلعب دوره أرنولد شوارتسنيغر، إنه "سكاينت" (Skynet)، نظام الذكاء الاصطناعي المصمم للدفاع عن البشر وحمايتهم. في يوم من الأيام، يخرج النظام عن الطريقة التي تمت برمجته بها ويقرر أن البشر هم الخطر الأعظم الذي يجب القضاء عليه – وهي فكرة شاع استخدامها في الأفلام السينمائية.
نحن بالطبع بعيدون كثيرا عن وجود نظام مثل سكاينت. لكن البعض يرى أننا سوف نقوم في نهاية المطاف بتصميم ذكاء اصطناعي عام سيكون بإمكانه فعل أي شيء يستطيع البشر أن يفعلوه ولكن بشكل أفضل، بل وربما سيصبح لديه وعي بالذات.
بالنسبة لنايثان بينايش، مؤسس شركة Air Street Capital (أير ستريت كابيتال) اللندنية المتخصصة في الاستثمار في مجال الذكاء الاصطناعي، يُعتبر ذلك احتمالا بعيدا.
يقول بينايش: "ما نتعلمه من قصص الخيال العلمي عن مؤلفيها وعن ثقافتنا أكثر بكثير مما نتعلمه منها عن التكنولوجيا"، مضيفا أنه نادرا ما تتحقق تنبؤاتنا بشأن المستقبل.
"في بدايات القرن العشرين، تخيل الناس عالما من السيارات الطائرة يتواصل فيه الناس مع بعضهم بعضا بالهواتف الأرضية – في حين أننا نتنقل ونسافر حاليا بنفس الطريقة تقريبا لكننا نتواصل بوسائل مختلفة تماما".
ما لدينا الآن في طريقه لأن يصبح أشبه بنظام الذكاء الاصطناعي المستخدم في مسلسل ستار ترك (Star Trek) أكثر من أن يصبح أشبه بنظام سكاينت. فقد تخاطبه قائلا: "أعرض علي قائمة لكافة أفراد الطاقم"، ونظم الذكاء الاصطناعي الموجودة حاليا بإمكانها إعطاؤك تلك القائمة، فضلا عن الإجابة على أي أسئلة حولها بلغة سهلة.
بيد أنها لا تستطيع أن تحل محل أفراد الطاقم، أو أن تطلق قذائف طوربيد.
القلق المثار حول تسليح الذكاء الاصطناعي يرتكز حول إدماجه في الأنظمة العسكرية – وهو شيء مطروح على الطاولة في الوقت الحالي – وحول ما إذا كان بإمكاننا الوثوق في تلك التقنية عندما يتعلق الأمر باتخاذ قرارات مصيرية.
كما أن المعترضون يشعرون بالقلق كذلك من احتمال أن يتحول نظام ذكاء اصطناعي مصمم لصنع الأدوية إلى أداة لصنع أسلحة كيميائية، أو ما شابه ذلك من المخاطر.
"أهداف مختلفة/خداع"
2001: أوديسا الفضاء
من بين الأفكار الأخرى الشائعة في أفلام الخيال العلمي هي أن الذكاء الاصطناعي ليس شريرا، ولكنه مضلَل.
في فيلم "2001: أدويسا الفضاء" (2001: Space Odyssey) الذي أخرجه ستنالي كوبريك، نتعرف على الحاسب الآلي الخارق هال-9000 الذي يتحكم في غالبية وظائف سفينة الفضاء ديسكفري، ما يسهل من مهمة رواد الفضاء – إلى أن يحدث به عطل.
يقرر رواد الفضاء إيقاف هال وتشغيل السفينة بأنفسهم. لكن هال – الذي يعلم أمورا لا يعلمها رواد الفضاء – يقرر أن ذلك سيعرض البعثة الفضائية إلى الخطر. يتمكن هال من خداع رواد الفضاء وقتل غالبيتهم.
على العكس من سكاينت الذي لديه وعي بالذات، يمكنك القول إن هال كان ينفذ التعليمات التي أعطيت له، ولكن ليس بالطريقة المتوقعة منه.
بلغة الذكاء الاصطناعي الحديثة، النظم التي تخطئ التصرف توصف بأنها "تعاني من اختلال في الأهداف"، أي أن أهدافها لا تبدوا متسقة مع الأهداف التي وضعها لها البشر.
في بعض الأحيان، يحدث ذلك لأن التعليمات لم تكن واضحة بما يكفي، وفي بعض الأحيان يكون السبب هو أن مهارة الذكاء الاصطناعي مكنته من إيجاد طريق مختصر.
على سبيل المثال، إذا كانت مهمة الذكاء الاصطناعي هي "التأكد من اتساق الإجابة مع هذه الوثيقة النصية"، فإنه ربما يقرر أن الطريقة المثلى هي تغيير الوثيقة النصية إلى إجابة أسهل. وهذا بالطبع ليس ما أراده البشر منه، لكنه لا غبار عليه من الناحية الفنية.
ومن ثم فإنه رغم كون فيلم أوديسا الفضاء بعيد عن الواقع، فإنه يعكس مشكلة فعلية موجودة في نظم الذكاء الاصطناعي الحالية.
"معلومات زائفة"
ذا مايتريكس (The Matrix)
"كيف يمكنك التفريق بين عالم الواقع وعالم الأحلام؟"، هكذا يسأل مورفيوس شخصية كيانو ريفز في فيلم ذا مايتريكس الذي أنتج عام 1999.
تدور القصة حول بشر يعيشون حياتهم بشكل طبيعي بدون أن يدركوا أن عالمهم هو عالم رقمي مزيف، وهي رمز جيد للانفجار الحالي للمعلومات الزائفة التي ينتجها الذكاء الاصطناعي.
تقول الدكتورة هير إن قصة الفيلم تعطيها نقطة بدء مفيدة عند إجراء "حوارات حول المعلومات الزائفة والمعلومات المضللة والتزييف العميق" مع عملائها.
"أستطيع أن أتحدث معهم عن ذلك متخذة فيلم ذا مايتريكس نموذجا..ثم أناقش معهم ماذا سيعني ذلك للانتخابات؟ ماذا سيعني للتلاعب بأسواق المال؟ …ماذا سيعني للحقوق المدنية، للإنتاج الأدبي البشري أو الحريات المدنية وحقوق الإنسان؟"
"تشات جي بي تي" ونظم إنتاج الصور تقوم بالفعل في الوقت الراهن بإنتاج محتوى ثقافي غزير يبدو حقيقيا ولكنه قد يكون زائفا تماما.
كما أن هناك جانبا مظلما لذلك، مثل إنتاج أعمال إباحية باستخدام تقنية التزييف العميق والتي يكون من الصعب للغاية على ضحاياها إثبات أنها غير حقيقية.
ما الذي يمكن أن يحدث بالفعل؟
ماذا إذن عن هذا التحذير من قبل خبراء الذكاء الاصطناعي بأن خطره يعادل خطر حرب نووية؟
تقول الدكتورة هير: "أعتقد أنه استهتار كبير. إذا كانوا يؤمنون بذلك فعلا، فليكفوا عن تصميم [نظم الذكاء الاصطناعي]".
وتضيف أن ما ينبغي أن يشعرنا بالقلق ليس الروبوتات القاتلة، ولكن وقوع حادث غير مقصود.
"سوف تكون هناك إجراءات أمنية مشددة في قطاع الصرافة وفي قطاع صنع الأسلحة. لذا قد يقوم المهاجمون بإطلاق [نظام ذكاء اصطناعي] ربما أملا في ربح بعض المال، أو من قبيل استعراض القوة..ثم قد لا يستطيعون السيطرة عليه".
"فقط تخيل كافة مشكلات الأمن السيبراني التي مررنا بها، ولكن بمليار ضعف، لأنها ستحدث بشكل أسرع".
ويأبى نايثان بينايش أن يتكهن بأي مشكلات محتملة.
"أظن أن الذكاء الاصطناعي سيغير الكثير من القطاعات بشكل جذري، لكننا بحاجة إلى توخي الحذر إزاء اتخاذ إجراءات متسرعة استنادا إلى قصص محمومة وغريبة تفترض حدوث قفزات ضخمة بدون تخيل كيف ستبدو المرحلة الانتقالية".

انقر هنا لقراءة الخبر من مصدره.