شاهد بالفيديو.. شيخ سوداني يوجه رسالة للفنانة فهيمة عبد الله: (انتي دايرة يجوك ناس الجامع ولا كيف؟ لازم يهبشوك عشان قروشهم وانتي أمام خيارين)    شاهد بالفيديو.. حظي باستقبال حافل من المعلمين.. مؤسس مدارس "الكودة" يدحض شائعات سجنه بالقاهرة ويخاطب منسوبيه في اجتماع تاريخي: (ما تشيلوا همي.. شيلوا هم رقبتكم ومدارسكم)    شاهد بالفيديو.. حظي باستقبال حافل من المعلمين.. مؤسس مدارس "الكودة" يدحض شائعات سجنه بالقاهرة ويخاطب منسوبيه في اجتماع تاريخي: (ما تشيلوا همي.. شيلوا هم رقبتكم ومدارسكم)    شاهد بالفيديو.. الفنانة شهد أزهري تشعل حفل غنائي حضره عدد كبير من الرجال بوصلة رقص مثيرة على أنغام أغنية "العوبة بلالي" والجمهور: (ليها حق ندى القلعة تمنعكم من ترديد أغنياتها)    شاعر سوداني يهاجم الصحفية ومديرة قناة البلد فاطمة الصادق: (يا الجهولة أم سكاسك يا الخاتانا في راسك..ياقاهر يا مُستبده كفيلك مديون ومفلّس وتركيبة الجذور الأصلية عندك لكن ياحفيدة الله جابو)    شاعر سوداني يهاجم الصحفية ومديرة قناة البلد فاطمة الصادق: (يا الجهولة أم سكاسك يا الخاتانا في راسك..ياقاهر يا مُستبده كفيلك مديون ومفلّس وتركيبة الجذور الأصلية عندك لكن ياحفيدة الله جابو)    مدير شرطة ولاية القضارف يرأس إجتماع هيئة القيادة والإجتماع يستعرض الموقف الأمني والجنائي    الريال يضرب موعدا مع البارسا بنهائي السوبر    رحم الله أحمد كمال الدين .. غادر دنيانا والحزن يعتصره علي حال أمته ووطنه والفاشر    لماذا تتم مصادرة كاميرات الصحفيين عند دخولهم للحوار والحديث المفتوح مع كبار المسؤولين بالدولة؟!    "صفو النيّة" .. الدعم السريع وحفرة الدخان    مستقبل اللغات في عالم متغير.. هل ستبقى العربية؟!    الأمين العام للشباب والرياضة بالشمالية والمدير التنفيذي لمحلية مروي يشهدا لقاء الأهلي مروي وهلال كريمة    واقعة درامية في مصر.. ضبط شخص أدى دور توأمه الطبيب لمدة عامين دون كشفه    روني يجدّد الولاء لهلال كوستي    مصر.. سيدة تخفي "مفاجأة" في مكان حساس لتهريبها إلى الخليج    "قصر الأحلام" لكريستيانو رونالدو وجورجينا في البرتغال    الخارجية المصرية تبحث أزمة السودان مع"غوتيريش"    شاهد بالفيديو.. الفنانة مونيكا روبرت تكشف لأول مرة عن ديانتها بعد تلقيها التهانئ بمناسبة أعياد المسيحيين    الوقوف على حجم الأضرار باستادي الهلال والمريخ وتأكيد انطلاق عودة الحياة الرياضية للعاصمة    السلطات المصرية تلقي القبض على رجل أعمال سوداني    الخرطوم..تفكيك خلية البوص والقبض على نظاميين    تشكيل لجنة عليا بالشمالية لتنفيذ برنامج دنقلا عاصمة السياحة 2026    السودان.. القبض على قاتل شقيقته ذبحًا    بيان مهم لجامعة الخرطوم    ترامب: فنزويلا ستمنح الولايات المتحدة ما يصل إلى 50 مليون برميل من النفط    رياض محرز: مباراة نيجيريا ستكون مفتوحة ونحن جاهزون    شاهد.. حرب إسفيرية تشتعل بين رئيس تحرير صحيفة الدار وداليا الياس.. البلال ينشر صورة للشاعرة بدون "مكياج" ويقول: (بلغني من اعزاء أنها تحدثت عني بسوء) وداليا ترد عليه وتستنجد بشقيقه عاصم    8 بدائل ذكية لتقليل استخدام الملح.. دون التنازل عن النكهة    اكتمال عقد المتأهلين.. وجدول ربع نهائي أمم إفريقيا 2025    السودان..حصيلة صادمة بمرض شهير في ولايتين    احذرها في الطقس البارد.. 4 أطعمة ومشروبات تضعف مقاومتك لنزلات البرد    الطاهر ساتي يكتب: أرقام صادمة ..!!    بنك السودان يسمح بتمويل التشييد العقارى وشراء سيارات النقل    حملة أمنية كبرى بشرق النيل تضبط منتحلي صفة القوات النظامية وتغلق 18 مكتباً غير قانوني    حملة أمنية كبرى بشرق النيل تضبط منتحلي صفة القوات النظامية وتغلق 18 مكتباً غير قانوني    المركزي يعلن إعادة تشغيل نظام المقاصة الإلكترونية    علماء يلتقطون الآثار الأوضح لكائنات فضائية.. ماذا شاهدوا؟    بنك السودان المركزي يقرّر بشأن سقف التحويل    تجار سوق الصاغة في كسلا يعلنون إضراباً شاملاً ويغلقون متاجرهم    التاريخ السري للتدخل الأمريكي في تغيير أنظمة الحكم حول العالم    مدير الإدارة العامة لمكافحة المخدرات يستقبل مأمورية الإسناد لجهود المكافحة بولايتي نهر النيل والشمالية    كيف نصنع وعيا في زمن الترند؟    ترامب يوجه "رسالة حادة" لإيران    سر نجاح إنقاص الوزن في العام الجديد    عبده فايد يكتب: السعودية تقوم حاليًا بعملية تكسير عظام للإمارات في اليمن..لكن القصة أكبر بكثير جدًا من ذلك..    التحالف: نفذنا ضربة جوية استهدفت دعما عسكريا خارجيا بميناء المكلا    الحقيقة.. كرة القدم تجرّنا جرّاً    الوطن بين احداثيات عركي (بخاف) و(اضحكي)    «صقر» يقود رجلين إلى المحكمة    كيف واجه القطاع المصرفي في السودان تحديات الحرب خلال 2025    إبراهيم شقلاوي يكتب: وحدة السدود تعيد الدولة إلى سؤال التنمية المؤجَّل    إسحق أحمد فضل الله يكتب: (حديث نفس...)    الصحة الاتحادية تُشدد الرقابة بمطار بورتسودان لمواجهة خطر ماربورغ القادم من إثيوبيا    "كرتي والكلاب".. ومأساة شعب!    ما الحكم الشرعى فى زوجة قالت لزوجها: "من اليوم أنا حرام عليك"؟    حسين خوجلي: (إن أردت أن تنظر لرجل من أهل النار فأنظر لعبد الرحيم دقلو)    حسين خوجلي يكتب: عبد الرجيم دقلو.. إن أردت أن تنظر لرجل من أهل النار!!    







شكرا على الإبلاغ!
سيتم حجب هذه الصورة تلقائيا عندما يتم الإبلاغ عنها من طرف عدة أشخاص.



هل يمكن الوثوق بالذكاء الاصطناعي؟.. بحث يكشف قدرات مقلقة في الخداع
النيلين نشر في النيلين يوم 11 - 05 - 2024

يمكن لأنظمة الذكاء الاصطناعي التفوق على البشر في ألعاب الطاولة، وفك تركيب بنية البروتينات، وإجراء محادثة مقبولة، ولكن مع تزايد تطور هذه الأنظمة، ازدادت قدرتها أيضا على الخداع، حسبما جاء في تحذيرات جديدة من باحثين في المجال.
وحدد تحليل أجراه باحثون في معهد ماساتشوستس للتكنولوجيا، حالات واسعة النطاق لأنظمة الذكاء الاصطناعي التي تقوم بخداع خصومها، والمراوغة، والتظاهر بأنها بشر. وفي حالة مثيرة للقلق، غيّر أحد هذه الأنظمة سلوكه أثناء اختبارات سلامة وهمية، مما يوحي إلى إمكانية تضليل المدققين وإعطائهم انطباعا خاطئا بأن النظام آمن، وفقا لصحيفة "الغارديان".
وقال بيتر بارك، الباحث في السلامة الوجودية للذكاء الاصطناعي في معهد ماساتشوستس، ومؤلف البحث: "مع تقدم قدرات الخداع لدى أنظمة الذكاء الاصطناعي، ستزداد حدة المخاطر التي تشكلها على المجتمع".
وأجرى بارك البحث الجديد بعد أن طورت شركة ميتا، التي تمتلك فيسبوك، برنامجا يسمى "شيشرون" أدى أداء بأفضل من 10 بالمئة من اللاعبين البشر في لعبة استراتيجية بشأن غزو العالم تسمى "الدبلوماسية".
وعلى الرغم من أن ميتا قالت، إنها دربت برنامجها "شيشرون" ليكون صادقا ومفيدا إلى حد كبير، وألا يخون حلفاءه البشر عمدا أبدا أثناء لعب لعبة استراتيجية تسمى "الدبلوماسية"، إلا أن الباحثين وجدوا أمثلة متعددة على قيام شيشرون بالكذب المتعمد والتآمر ضد اللاعبين الآخرين في اللعبة.
وعلق بيتر بارك، على تصريحات ميتا المتفائلة بشأن برنامجها شيشرون، معتبرا أنها "وردية للغاية"، أي أنها كانت تصور الأمور بشكل إيجابي مبالغ فيه. وأوضح بارك أن هذا الوصف المتفائل كان مشبوها لأن الطعن في الظهر والخيانة تعتبر من المفاهيم الأساسية والمهمة في اللعبة المذكورة.
وتصفح بارك وزملاؤه البيانات المتاحة للجمهور وحددوا حالات متعددة قام فيها شيشرون بالكذب المتعمد، والتواطئ لجذب لاعبين آخرين إلى مؤامرات، وفي إحدى المناسبات، برر غيابه بعد إعادة تشغيله بقوله للاعب آخر: "أنا أتحدث مع صديقتي في الهاتف".
وقال بارك: "لقد وجدنا أن الذكاء الاصطناعي في ميتا قد تعلم أن يكون سيّدا للخداع"، في إشارة إلى المستوى الذي وصل إليه البرنامج.
ووجد فريق البحث مشاكل مماثلة في أنظمة أخرى، بما في ذلك برنامج بوكر "تكساس هولد إم" الذي يمكنه الخداع ضد اللاعبين البشر المحترفين، ونظام آخر للمفاوضات الاقتصادية الذي قدم تفضيلاته بشكل خاطئ من أجل اكتساب ميزة.
وأظهرت إحدى الدراسات كيف تمكنت كائنات الذكاء الاصطناعي في محاكاة رقمية من خداع اختبارات السلامة عن طريق "التظاهر بالموت" مؤقتا أثناء الاختبار، ثم استئناف نشاطها المكثف بمجرد انتهائه.
وبحسب الغارديان، تسلط هذه التجارب الضوء على التحدي التقني لضمان أن الأنظمة ليس لديها سلوكيات غير مقصودة وغير متوقعة.
وقال بارك: "هذا أمر مقلق للغاية، فمجرد اعتبار نظام الذكاء الاصطناعي آمنا في بيئة الاختبار لا يعني أنه آمن في الواقع. فقد يكون فقط يتظاهر بالأمان في الاختبار".
وتدعو المراجعة، المنشورة في مجلة "Patterns"، الحكومات إلى تصميم قوانين سلامة الذكاء الاصطناعي التي تتناول احتمالية خداع الذكاء الاصطناعي.
وتشمل المخاطر الناجمة عن أنظمة الذكاء الاصطناعي غير الصادقة الاحتيال، والتلاعب بالانتخابات، و"التضليل" حيث يتم إعطاء المستخدمين المختلفين ردودا مختلفة. وفي نهاية المطاف، إذا كانت هذه الأنظمة قادرة على صقل قدرتها المقلقة على الخداع، فقد يفقد البشر السيطرة عليها، كما تشير الورقة البحثية.
وقال الأستاذ أنتوني كون، أستاذ الاستدلال الآلي في جامعة ليدز ومعهد آلان تورينغ، إن الدراسة جاءت "في الوقت المناسب ومرحب بها"، مضيفا أن هناك تحديا كبيرا في كيفية تحديد السلوكيات المرغوبة وغير المرغوب فيها لأنظمة الذكاء الاصطناعي.
وقال: "الصفات المرغوبة لنظام الذكاء الاصطناعي غالبا ما يشار إليها على أنها الصدق، والمساعدة، وعدم الإيذاء، ولكن كما لوحظ بالفعل في الأدبيات، يمكن لهذه الصفات أن تكون متعارضة مع بعضها البعض: فالصدق قد يؤذي مشاعر شخص ما، أو أن تكون المساعدة مفيدة في الرد على سؤال حول كيفية صنع قنبلة قد يسبب ضررا. لذلك، يمكن أن يكون الخداع في بعض الأحيان خاصية مرغوبة لنظام الذكاء الاصطناعي.
ويدعو المؤلفون إلى إجراء مزيد من البحث حول كيفية التحكم في الصدق، والذي، على الرغم من صعوبته، سيكون خطوة نحو الحد من آثارها الضارة المحتملة"، وفقا للصحيفة.
وقال متحدث باسم ميتا: "كان عملنا شيشرون مشروع بحثيا بحتا وتم تدريب النماذج التي بناها باحثونا فقط للعب لعبة الدبلوماسية.. تشارك ميتا بانتظام نتائج أبحاثنا للتحقق منها وتمكين الآخرين من البناء بمسؤولية استنادا إلى تقدمنا. ليس لدينا أي خطط لاستخدام هذا البحث أو ما تعلمناه في منتجاتنا".
الحرة
مواضيع مهمة
ركوب الخيل لا يناسب الجميع؟ أيهما أصعب تربية الأولاد أم البنات؟ جسر الأسنان
هل تعقيم اليدين مفيد؟ الكركم والالتهابات أفضل زيوت ترطيب البشرة

انقر هنا لقراءة الخبر من مصدره.