«تزوجت شقيقها للحصول على الجنسية»..ترامب يهاجم إلهان عمر ويدعو إلى عزلها    صحة الخرطوم تطمئن على صحة الفنان الكوميدي عبدالله عبدالسلام (فضيل)    بيان من وزارة الثقافة والإعلام والسياحة حول إيقاف "لينا يعقوب" مديرة مكتب قناتي "العربية" و"الحدث" في السودان    يرافقه وزير الصحة.. إبراهيم جابر يشهد احتفالات جامعة العلوم الصحية بعودة الدراسة واستقبال الطلاب الجدد    المريخ يكسب تجربة البوليس بثلاثية و يتعاقد مع الملغاشي نيكولاس    البرهان يصدر قراراً بتعيين مساعد أول للنائب العام لجمهورية السودان    حسين خوجلي يكتب: السفاح حميدتي يدشن رسالة الدكتوراة بمذبحة مسجد الفاشر    راشفورد يهدي الفوز لبرشلونة    ((سانت لوبوبو وذكريات التمهيدي يامريخاب))    وزير الزراعة والري في ختام زيارته للجزيرة: تعافي الجزيرة دحض لدعاوى المجاعة بالسودان    بدء حملة إعادة تهيئة قصر الشباب والأطفال بأم درمان    نوارة أبو محمد تقف على الأوضاع الأمنية بولاية سنار وتزور جامعة سنار    لجنة أمن ولاية الخرطوم: ضبطيات تتعلق بالسرقات وتوقيف أعداد كبيرة من المتعاونين    قبائل وأحزاب سياسية خسرت بإتباع مشروع آل دقلو    ما حقيقة وصول الميليشيا محيط القيادة العامة بالفاشر؟..مصدر عسكري يوضّح    "المصباح" يكشف عن تطوّر مثير بشأن قيادات الميليشيا    هجوم الدوحة والعقيدة الإسرائيلية الجديدة.. «رب ضارة نافعة»    هل سيؤدي إغلاق المدارس إلى التخفيف من حدة الوباء؟!    الخلافات تشتعل بين مدرب الهلال ومساعده عقب خسارة "سيكافا".. الروماني يتهم خالد بخيت بتسريب ما يجري في المعسكر للإعلام ويصرح: (إما أنا أو بخيت)    شاهد بالصورة والفيديو.. بأزياء مثيرة.. تيكتوكر سودانية تخرج وترد على سخرية بعض الفتيات: (أنا ما بتاجر بأعضائي عشان أكل وأشرب وتستاهلن الشتات عبرة وعظة)    تعاون مصري سوداني في مجال الكهرباء    شاهد بالصورة والفيديو.. حصلت على أموال طائلة من النقطة.. الفنانة فهيمة عبد الله تغني و"صراف آلي" من المال تحتها على الأرض وساخرون: (مغارز لطليقها)    شاهد بالفيديو.. شيخ الأمين: (في دعامي بدلعو؟ لهذا السبب استقبلت الدعامة.. أملك منزل في لندن ورغم ذلك فضلت البقاء في أصعب أوقات الحرب.. كنت تحت حراسة الاستخبارات وخرجت من السودان بطائرة عسكرية)    ترامب : بوتين خذلني.. وسننهي حرب غزة    أول دولة تهدد بالانسحاب من كأس العالم 2026 في حال مشاركة إسرائيل    900 دولار في الساعة... الوظيفة التي قلبت موازين الرواتب حول العالم!    "نهاية مأساوية" لطفل خسر أموال والده في لعبة على الإنترنت    شاهد بالصورة والفيديو.. خلال حفل خاص حضره جمهور غفير من الشباب.. فتاة سودانية تدخل في وصلة رقص مثيرة بمؤخرتها وتغمر الفنانة بأموال النقطة وساخرون: (شكلها مشت للدكتور المصري)    محمد صلاح يكتب التاريخ ب"6 دقائق" ويسجل سابقة لفرق إنجلترا    السعودية وباكستان توقعان اتفاقية دفاع مشترك    المالية تؤكد دعم توطين العلاج داخل البلاد    غادر المستشفى بعد أن تعافي رئيس الوزراء من وعكة صحية في الرياض    دوري الأبطال.. مبابي يقود ريال مدريد لفوز صعب على مارسيليا    شاهد بالفيديو.. نجم السوشيال ميديا ود القضارف يسخر من الشاب السوداني الذي زعم أنه المهدي المنتظر: (اسمك يدل على أنك بتاع مرور والمهدي ما نازح في مصر وما عامل "آي لاينر" زيك)    الجزيرة: ضبط أدوية مهربة وغير مسجلة بالمناقل    ماذا تريد حكومة الأمل من السعودية؟    الشرطة تضع حداً لعصابة النشل والخطف بصينية جسر الحلفايا    إنت ليه بتشرب سجاير؟! والله يا عمو بدخن مجاملة لأصحابي ديل!    في أزمنة الحرب.. "زولو" فنان يلتزم بالغناء للسلام والمحبة    إيد على إيد تجدع من النيل    حسين خوجلي يكتب: الأمة العربية بين وزن الفارس ووزن الفأر..!    ضياء الدين بلال يكتب: (معليش.. اكتشاف متأخر)!    في الجزيرة نزرع أسفنا    مباحث شرطة القضارف تسترد مصوغات ذهبية مسروقة تقدر قيمتها ب (69) مليون جنيه    من هم قادة حماس الذين استهدفتهم إسرائيل في الدوحة؟    في عملية نوعية.. مقتل قائد الأمن العسكري و 6 ضباط آخرين وعشرات الجنود    الخرطوم: سعر جنوني لجالون الوقود    السجن المؤبّد لمتهم تعاون مع الميليشيا في تجاريًا    وصية النبي عند خسوف القمر.. اتبع سنة سيدنا المصطفى    عثمان ميرغني يكتب: "اللعب مع الكبار"..    جنازة الخوف    حكاية من جامع الحارة    حسين خوجلي يكتب: حكاية من جامع الحارة    تخصيص مستشفى الأطفال أمدرمان كمركز عزل لعلاج حمى الضنك    مشكلة التساهل مع عمليات النهب المسلح في الخرطوم "نهب وليس 9 طويلة"    وسط حراسة مشددة.. التحقيق مع الإعلامية سارة خليفة بتهمة غسيل الأموال    نفسية وعصبية.. تعرف على أبرز أسباب صرير الأسنان عند النوم    بعد خطوة مثيرة لمركز طبي.."زلفو" يصدر بيانًا تحذيريًا لمرضى الكلى    







شكرا على الإبلاغ!
سيتم حجب هذه الصورة تلقائيا عندما يتم الإبلاغ عنها من طرف عدة أشخاص.



هل يمكن الوثوق بالذكاء الاصطناعي؟.. بحث يكشف قدرات مقلقة في الخداع
النيلين نشر في النيلين يوم 11 - 05 - 2024

يمكن لأنظمة الذكاء الاصطناعي التفوق على البشر في ألعاب الطاولة، وفك تركيب بنية البروتينات، وإجراء محادثة مقبولة، ولكن مع تزايد تطور هذه الأنظمة، ازدادت قدرتها أيضا على الخداع، حسبما جاء في تحذيرات جديدة من باحثين في المجال.
وحدد تحليل أجراه باحثون في معهد ماساتشوستس للتكنولوجيا، حالات واسعة النطاق لأنظمة الذكاء الاصطناعي التي تقوم بخداع خصومها، والمراوغة، والتظاهر بأنها بشر. وفي حالة مثيرة للقلق، غيّر أحد هذه الأنظمة سلوكه أثناء اختبارات سلامة وهمية، مما يوحي إلى إمكانية تضليل المدققين وإعطائهم انطباعا خاطئا بأن النظام آمن، وفقا لصحيفة "الغارديان".
وقال بيتر بارك، الباحث في السلامة الوجودية للذكاء الاصطناعي في معهد ماساتشوستس، ومؤلف البحث: "مع تقدم قدرات الخداع لدى أنظمة الذكاء الاصطناعي، ستزداد حدة المخاطر التي تشكلها على المجتمع".
وأجرى بارك البحث الجديد بعد أن طورت شركة ميتا، التي تمتلك فيسبوك، برنامجا يسمى "شيشرون" أدى أداء بأفضل من 10 بالمئة من اللاعبين البشر في لعبة استراتيجية بشأن غزو العالم تسمى "الدبلوماسية".
وعلى الرغم من أن ميتا قالت، إنها دربت برنامجها "شيشرون" ليكون صادقا ومفيدا إلى حد كبير، وألا يخون حلفاءه البشر عمدا أبدا أثناء لعب لعبة استراتيجية تسمى "الدبلوماسية"، إلا أن الباحثين وجدوا أمثلة متعددة على قيام شيشرون بالكذب المتعمد والتآمر ضد اللاعبين الآخرين في اللعبة.
وعلق بيتر بارك، على تصريحات ميتا المتفائلة بشأن برنامجها شيشرون، معتبرا أنها "وردية للغاية"، أي أنها كانت تصور الأمور بشكل إيجابي مبالغ فيه. وأوضح بارك أن هذا الوصف المتفائل كان مشبوها لأن الطعن في الظهر والخيانة تعتبر من المفاهيم الأساسية والمهمة في اللعبة المذكورة.
وتصفح بارك وزملاؤه البيانات المتاحة للجمهور وحددوا حالات متعددة قام فيها شيشرون بالكذب المتعمد، والتواطئ لجذب لاعبين آخرين إلى مؤامرات، وفي إحدى المناسبات، برر غيابه بعد إعادة تشغيله بقوله للاعب آخر: "أنا أتحدث مع صديقتي في الهاتف".
وقال بارك: "لقد وجدنا أن الذكاء الاصطناعي في ميتا قد تعلم أن يكون سيّدا للخداع"، في إشارة إلى المستوى الذي وصل إليه البرنامج.
ووجد فريق البحث مشاكل مماثلة في أنظمة أخرى، بما في ذلك برنامج بوكر "تكساس هولد إم" الذي يمكنه الخداع ضد اللاعبين البشر المحترفين، ونظام آخر للمفاوضات الاقتصادية الذي قدم تفضيلاته بشكل خاطئ من أجل اكتساب ميزة.
وأظهرت إحدى الدراسات كيف تمكنت كائنات الذكاء الاصطناعي في محاكاة رقمية من خداع اختبارات السلامة عن طريق "التظاهر بالموت" مؤقتا أثناء الاختبار، ثم استئناف نشاطها المكثف بمجرد انتهائه.
وبحسب الغارديان، تسلط هذه التجارب الضوء على التحدي التقني لضمان أن الأنظمة ليس لديها سلوكيات غير مقصودة وغير متوقعة.
وقال بارك: "هذا أمر مقلق للغاية، فمجرد اعتبار نظام الذكاء الاصطناعي آمنا في بيئة الاختبار لا يعني أنه آمن في الواقع. فقد يكون فقط يتظاهر بالأمان في الاختبار".
وتدعو المراجعة، المنشورة في مجلة "Patterns"، الحكومات إلى تصميم قوانين سلامة الذكاء الاصطناعي التي تتناول احتمالية خداع الذكاء الاصطناعي.
وتشمل المخاطر الناجمة عن أنظمة الذكاء الاصطناعي غير الصادقة الاحتيال، والتلاعب بالانتخابات، و"التضليل" حيث يتم إعطاء المستخدمين المختلفين ردودا مختلفة. وفي نهاية المطاف، إذا كانت هذه الأنظمة قادرة على صقل قدرتها المقلقة على الخداع، فقد يفقد البشر السيطرة عليها، كما تشير الورقة البحثية.
وقال الأستاذ أنتوني كون، أستاذ الاستدلال الآلي في جامعة ليدز ومعهد آلان تورينغ، إن الدراسة جاءت "في الوقت المناسب ومرحب بها"، مضيفا أن هناك تحديا كبيرا في كيفية تحديد السلوكيات المرغوبة وغير المرغوب فيها لأنظمة الذكاء الاصطناعي.
وقال: "الصفات المرغوبة لنظام الذكاء الاصطناعي غالبا ما يشار إليها على أنها الصدق، والمساعدة، وعدم الإيذاء، ولكن كما لوحظ بالفعل في الأدبيات، يمكن لهذه الصفات أن تكون متعارضة مع بعضها البعض: فالصدق قد يؤذي مشاعر شخص ما، أو أن تكون المساعدة مفيدة في الرد على سؤال حول كيفية صنع قنبلة قد يسبب ضررا. لذلك، يمكن أن يكون الخداع في بعض الأحيان خاصية مرغوبة لنظام الذكاء الاصطناعي.
ويدعو المؤلفون إلى إجراء مزيد من البحث حول كيفية التحكم في الصدق، والذي، على الرغم من صعوبته، سيكون خطوة نحو الحد من آثارها الضارة المحتملة"، وفقا للصحيفة.
وقال متحدث باسم ميتا: "كان عملنا شيشرون مشروع بحثيا بحتا وتم تدريب النماذج التي بناها باحثونا فقط للعب لعبة الدبلوماسية.. تشارك ميتا بانتظام نتائج أبحاثنا للتحقق منها وتمكين الآخرين من البناء بمسؤولية استنادا إلى تقدمنا. ليس لدينا أي خطط لاستخدام هذا البحث أو ما تعلمناه في منتجاتنا".
الحرة
مواضيع مهمة
ركوب الخيل لا يناسب الجميع؟ أيهما أصعب تربية الأولاد أم البنات؟ جسر الأسنان
هل تعقيم اليدين مفيد؟ الكركم والالتهابات أفضل زيوت ترطيب البشرة

انقر هنا لقراءة الخبر من مصدره.