الدعم السريع يعلن السيطرة على النهود    وزير التربية والتعليم بالشمالية يقدم التهنئة للطالبة اسراء اول الشهادة السودانية بمنطقة تنقاسي    سقطت مدينة النهود .. استباحتها مليشيات وعصابات التمرد    عقار: بعض العاملين مع الوزراء في بورتسودان اشتروا شقق في القاهرة وتركيا    عقوبة في نواكشوط… وصفعات في الداخل!    الهلال يواجه اسنيم في لقاء مؤجل    تكوين روابط محبي ومشجعي هلال كوستي بالخارج    عثمان ميرغني يكتب: هل رئيس الوزراء "كوز"؟    كم تبلغ ثروة لامين جمال؟    شاهد بالصورة والفيديو.. حسناء الشاشة نورهان نجيب تحتفل بزفافها على أنغام الفنان عثمان بشة وتدخل في وصلة رقص مؤثرة مع والدها    سلسلة تقارير .. جامعة ابن سينا .. حينما يتحول التعليم إلى سلعة للسمسرة    حين يُجيد العازف التطبيل... ينكسر اللحن    شاهد بالفيديو.. في مشهد نال إعجاب الجمهور والمتابعون.. شباب سعوديون يقفون لحظة رفع العلم السوداني بإحدى الفعاليات    أبوعركي البخيت الفَنان الذي يَحتفظ بشبابه في (حنجرته)    من رئاسة المحلية.. الناطق الرسمي باسم قوات الدعم السريع يعلن تحرير النهود (فيديو)    شاهد بالصور والفيديو.. بوصلة رقص مثيرة.. الفنانة هدى عربي تشعل حفل غنائي بالدوحة    تتسلل إلى الكبد.. "الملاريا الحبشية" ترعب السودانيين    إعلان نتيجة الشهادة السودانية الدفعة المؤجلة 2023 بنسبة نجاح عامة 69%    والد لامين يامال: لم تشاهدوا 10% من قدراته    الحسم يتأجل.. 6 أهداف ترسم قمة مجنونة بين برشلونة وإنتر    استئناف العمل بمحطة مياه سوبا وتحسين إمدادات المياه في الخرطوم    هيئة مياه الخرطوم تعلن عن خطوة مهمة    هل أصبح أنشيلوتي قريباً من الهلال السعودي؟    جديد الإيجارات في مصر.. خبراء يكشفون مصير المستأجرين    باكستان تعلن إسقاط مسيَّرة هنديَّة خلال ليلة خامسة من المناوشات    ترامب: بوتين تخلى عن حلمه ويريد السلام    إيقاف مدافع ريال مدريد روديغر 6 مباريات    تجدد شكاوى المواطنين من سحب مبالغ مالية من تطبيق (بنكك)    ما حكم الدعاء بعد القراءة وقبل الركوع في الصلاة؟    عركي وفرفور وطه سليمان.. فنانون سودانيون أمام محكمة السوشيال ميديا    تعاون بين الجزيرة والفاو لإصلاح القطاع الزراعي وإعادة الإعمار    قُلْ: ليتني شمعةٌ في الظلامْ؟!    الكشف عن بشريات بشأن التيار الكهربائي للولاية للشمالية    ترامب: يجب السماح للسفن الأمريكية بالمرور مجاناً عبر قناتي السويس وبنما    كهرباء السودان توضح بشأن قطوعات التيار في ولايتين    تبادل جديد لإطلاق النار بين الهند وباكستان    علي طريقة محمد رمضان طه سليمان يثير الجدل في اغنيته الجديده "سوداني كياني"    دراسة: البروتين النباتي سر الحياة الطويلة    خبير الزلازل الهولندي يعلّق على زلزال تركيا    في حضرة الجراح: إستعادة التوازن الممكن    التحقيقات تكشف تفاصيل صادمة في قضية الإعلامية سارة خليفة    الجيش يشن غارات جوية على «بارا» وسقوط عشرات الضحايا    وزير المالية يرأس وفد السودان المشارك في إجتماعات الربيع بواشنطن    حملة لمكافحة الجريمة وإزالة الظواهر السالبة في مدينة بورتسودان    ارتفاع التضخم في السودان    شندي تحتاج لعمل كبير… بطلوا ثرثرة فوق النيل!!!!!    انتشار مرض "الغدة الدرقية" في دارفور يثير المخاوف    مستشفى الكدرو بالخرطوم بحري يستعد لاستقبال المرضى قريبًا    "مثلث الموت".. عادة يومية بريئة قد تنتهي بك في المستشفى    وفاة اللاعب أرون بوبيندزا في حادثة مأساوية    5 وفيات و19 مصابا في حريق "برج النهدة" بالشارقة    عضو وفد الحكومة السودانية يكشف ل "المحقق" ما دار في الكواليس: بيان محكمة العدل الدولية لم يصدر    ضبط عربة بوكس مستوبيشي بالحاج يوسف وعدد 3 مركبات ZY مسروقة وتوقف متهمين    الدفاع المدني ولاية الجزيرة يسيطر علي حريق باحدي المخازن الملحقة بنادي الاتحاد والمباني المجاورة    حسين خوجلي يكتب: نتنياهو وترامب يفعلان هذا اتعرفون لماذا؟    من حكمته تعالي أن جعل اختلاف ألسنتهم وألوانهم آيةً من آياته الباهرة    بعد سؤال الفنان حمزة العليلي .. الإفتاء: المسافر من السعودية إلى مصر غدا لا يجب عليه الصيام    بيان مجمع الفقه الإسلامي حول القدر الواجب إخراجه في زكاة الفطر    







شكرا على الإبلاغ!
سيتم حجب هذه الصورة تلقائيا عندما يتم الإبلاغ عنها من طرف عدة أشخاص.



هل يمكن الوثوق بالذكاء الاصطناعي؟.. بحث يكشف قدرات مقلقة في الخداع
النيلين نشر في النيلين يوم 11 - 05 - 2024

يمكن لأنظمة الذكاء الاصطناعي التفوق على البشر في ألعاب الطاولة، وفك تركيب بنية البروتينات، وإجراء محادثة مقبولة، ولكن مع تزايد تطور هذه الأنظمة، ازدادت قدرتها أيضا على الخداع، حسبما جاء في تحذيرات جديدة من باحثين في المجال.
وحدد تحليل أجراه باحثون في معهد ماساتشوستس للتكنولوجيا، حالات واسعة النطاق لأنظمة الذكاء الاصطناعي التي تقوم بخداع خصومها، والمراوغة، والتظاهر بأنها بشر. وفي حالة مثيرة للقلق، غيّر أحد هذه الأنظمة سلوكه أثناء اختبارات سلامة وهمية، مما يوحي إلى إمكانية تضليل المدققين وإعطائهم انطباعا خاطئا بأن النظام آمن، وفقا لصحيفة "الغارديان".
وقال بيتر بارك، الباحث في السلامة الوجودية للذكاء الاصطناعي في معهد ماساتشوستس، ومؤلف البحث: "مع تقدم قدرات الخداع لدى أنظمة الذكاء الاصطناعي، ستزداد حدة المخاطر التي تشكلها على المجتمع".
وأجرى بارك البحث الجديد بعد أن طورت شركة ميتا، التي تمتلك فيسبوك، برنامجا يسمى "شيشرون" أدى أداء بأفضل من 10 بالمئة من اللاعبين البشر في لعبة استراتيجية بشأن غزو العالم تسمى "الدبلوماسية".
وعلى الرغم من أن ميتا قالت، إنها دربت برنامجها "شيشرون" ليكون صادقا ومفيدا إلى حد كبير، وألا يخون حلفاءه البشر عمدا أبدا أثناء لعب لعبة استراتيجية تسمى "الدبلوماسية"، إلا أن الباحثين وجدوا أمثلة متعددة على قيام شيشرون بالكذب المتعمد والتآمر ضد اللاعبين الآخرين في اللعبة.
وعلق بيتر بارك، على تصريحات ميتا المتفائلة بشأن برنامجها شيشرون، معتبرا أنها "وردية للغاية"، أي أنها كانت تصور الأمور بشكل إيجابي مبالغ فيه. وأوضح بارك أن هذا الوصف المتفائل كان مشبوها لأن الطعن في الظهر والخيانة تعتبر من المفاهيم الأساسية والمهمة في اللعبة المذكورة.
وتصفح بارك وزملاؤه البيانات المتاحة للجمهور وحددوا حالات متعددة قام فيها شيشرون بالكذب المتعمد، والتواطئ لجذب لاعبين آخرين إلى مؤامرات، وفي إحدى المناسبات، برر غيابه بعد إعادة تشغيله بقوله للاعب آخر: "أنا أتحدث مع صديقتي في الهاتف".
وقال بارك: "لقد وجدنا أن الذكاء الاصطناعي في ميتا قد تعلم أن يكون سيّدا للخداع"، في إشارة إلى المستوى الذي وصل إليه البرنامج.
ووجد فريق البحث مشاكل مماثلة في أنظمة أخرى، بما في ذلك برنامج بوكر "تكساس هولد إم" الذي يمكنه الخداع ضد اللاعبين البشر المحترفين، ونظام آخر للمفاوضات الاقتصادية الذي قدم تفضيلاته بشكل خاطئ من أجل اكتساب ميزة.
وأظهرت إحدى الدراسات كيف تمكنت كائنات الذكاء الاصطناعي في محاكاة رقمية من خداع اختبارات السلامة عن طريق "التظاهر بالموت" مؤقتا أثناء الاختبار، ثم استئناف نشاطها المكثف بمجرد انتهائه.
وبحسب الغارديان، تسلط هذه التجارب الضوء على التحدي التقني لضمان أن الأنظمة ليس لديها سلوكيات غير مقصودة وغير متوقعة.
وقال بارك: "هذا أمر مقلق للغاية، فمجرد اعتبار نظام الذكاء الاصطناعي آمنا في بيئة الاختبار لا يعني أنه آمن في الواقع. فقد يكون فقط يتظاهر بالأمان في الاختبار".
وتدعو المراجعة، المنشورة في مجلة "Patterns"، الحكومات إلى تصميم قوانين سلامة الذكاء الاصطناعي التي تتناول احتمالية خداع الذكاء الاصطناعي.
وتشمل المخاطر الناجمة عن أنظمة الذكاء الاصطناعي غير الصادقة الاحتيال، والتلاعب بالانتخابات، و"التضليل" حيث يتم إعطاء المستخدمين المختلفين ردودا مختلفة. وفي نهاية المطاف، إذا كانت هذه الأنظمة قادرة على صقل قدرتها المقلقة على الخداع، فقد يفقد البشر السيطرة عليها، كما تشير الورقة البحثية.
وقال الأستاذ أنتوني كون، أستاذ الاستدلال الآلي في جامعة ليدز ومعهد آلان تورينغ، إن الدراسة جاءت "في الوقت المناسب ومرحب بها"، مضيفا أن هناك تحديا كبيرا في كيفية تحديد السلوكيات المرغوبة وغير المرغوب فيها لأنظمة الذكاء الاصطناعي.
وقال: "الصفات المرغوبة لنظام الذكاء الاصطناعي غالبا ما يشار إليها على أنها الصدق، والمساعدة، وعدم الإيذاء، ولكن كما لوحظ بالفعل في الأدبيات، يمكن لهذه الصفات أن تكون متعارضة مع بعضها البعض: فالصدق قد يؤذي مشاعر شخص ما، أو أن تكون المساعدة مفيدة في الرد على سؤال حول كيفية صنع قنبلة قد يسبب ضررا. لذلك، يمكن أن يكون الخداع في بعض الأحيان خاصية مرغوبة لنظام الذكاء الاصطناعي.
ويدعو المؤلفون إلى إجراء مزيد من البحث حول كيفية التحكم في الصدق، والذي، على الرغم من صعوبته، سيكون خطوة نحو الحد من آثارها الضارة المحتملة"، وفقا للصحيفة.
وقال متحدث باسم ميتا: "كان عملنا شيشرون مشروع بحثيا بحتا وتم تدريب النماذج التي بناها باحثونا فقط للعب لعبة الدبلوماسية.. تشارك ميتا بانتظام نتائج أبحاثنا للتحقق منها وتمكين الآخرين من البناء بمسؤولية استنادا إلى تقدمنا. ليس لدينا أي خطط لاستخدام هذا البحث أو ما تعلمناه في منتجاتنا".
الحرة
مواضيع مهمة
ركوب الخيل لا يناسب الجميع؟ أيهما أصعب تربية الأولاد أم البنات؟ جسر الأسنان
هل تعقيم اليدين مفيد؟ الكركم والالتهابات أفضل زيوت ترطيب البشرة

انقر هنا لقراءة الخبر من مصدره.