وفاء لفقيد الرياضة اليمنية ورياضة ألعاب القوى اليمنية عبيد عليان .. نادي شباب رخمة ينظم سباق الضاحية للفئات البراعم والناشئين والاشبال..    ضربة جزاء.. تعادل قاتل لنهضة بركان المغربي أمام الهلال السوداني في ذهاب ربع نهائي دوري الأبطال    ترامب يرفض جهود الوساطة.. وإيران "لن نفاوض تحت النار"    شاهد بالصور والفيديو.. جلسة صلح جديدة للفنان المشاكس.. الفنان شريف الفحيل يعتذر للشاعرة داليا الياس ويُقبل رأسها    بالصورة.. السلطانة هدى عربي ترد على "خبث" أعدائها: (دايرني يعني ادخل في مشاكل؟ مساكين والله والكوبلي دا إهداء لروحي العاجباني)    بعد أن اتهمها بالتقرب إلى لجنة إزالة التمكين وشراء "توسان".. الصحفية عائشة الماجدي ترد على أحد النشطاء: (أنا أرجل منك)    البرهان يؤدي واجب العزاء في شهداء قرية شكيري: لا تعايش مع المتمردين    شاهد بالصورة والفيديو.. خلال برنامج على الهواء مباشرة.. شيخ سوداني يغادر الأستوديو غاضباً بعد سماعه مداخلة من إحدى لاعبات كرة القدم    قيم الهلال المتوارثة يجب أن تبقى أبد الدهر    (ما بحترمك وما بتشرف تكون ولدي وما عافية ليك ليوم الدين) خلاف بين الصحفية داليا الياس وبين شاعر وناشط على مواقع التواصل    بنك السودان المركزي يصدر توجيهًا للمصارف    ختام الدورة الرياضية للمؤسسات بولاية كسلا    إيران تهدد بضرب موانئ الإمارات بعد غارات أمريكية على جزيرة خرج النفطية    أوكرانيا.. من ضحية حرب إلى أداة مرتزقة في خدمة الأجندات الغربية    لجنة الأسواق المتضررة من الحرب بالخرطوم تشرع في إعادة تنظيم الأسواق داخل الأحياء السكنية    الجيش يستهدف رتلاً عسكريًا للميليشيا ومقتل قائد كبير    اكتمال عملية إجلاء لطلاب سودانيين من إيران    "ندمانة إني اشتغلت فيه".. فنانة مصرية تهاجم مسلسلها الجديد    آيفون القابل للطي سيقدم تجربة تعدد مهام بواجهة تشبه الآيباد    النعاس المستمر يرتبط بمشكلات صحية خطيرة    تقرير: إدارة ترامب على وشك جني 10 مليارات دولار من صفقة تيك توك    جريدة سعودية : هل يبدأ البرهان معركة كسر العظم؟ تصنيف الإسلاميين ينذر بسيناريوهات معقدة    بعد ظهورها مع رامز جلال.. شيماء سيف تعود إلى زوجها    بينها تعزيز جهاز المناعة.. فوائد صحية لن تتوقعها للابتسامة    الهلال في اختبار التحدي أمام نهضة بركان الليلة    فريد زكريا: إيران فخ إمبراطوري وقعت فيه أمريكا    عبده فايد يكتب: ضربة إيرانية مزدوجة لأمريكا والسعودية    باريس يقطع شوطا في حسم التأهل    عضو مجلس السيادة د. نوارة تدعو لوحدة أهل الشرق وتؤكد سعي الحكومة لحل مشكلة المياه بالبحر الأحمر    المريخ يتوج بطلاً للدورة الرمضانية للجالية السودانية في مقديشو بعد فوزه على الهلال    عطل مفاجئ.. وكهرباء السودان تعلن عن برمجة بولايتين    عاجل.. ترامب: أعتقد أن مجتبى خامنئي لا يزال على قيد الحياة    رئيس الوزراء السوداني يصدر قرارًا بإعفاء مسؤولين    مباحث بحري تُحبط سرقة بملايين الجنيهات من "دال" للمواد الغذائية    إيران تضع شرطا واحدا للمشاركة في كأس العالم 2026    مَن يقل وزنه عن 50 كيلو "ممنوع" من التبرع بالدم    دراسة تكشف أسبابًا وراثية للصرع لدى الأطفال    الزراعة ما بعد اقتصاد الحرب    الطاقة والنفط في السودان: توجد ناقلتان من البنزين في عرض البحر    إبراهيم شقلاوي يكتب: الزراعة ما بعد اقتصاد الحرب    توضيح من وزارة الطاقة بشأن ترتيبات استيراد الوقود    سؤال إلى الأمن الاقتصادي بجهاز المخابرات العامة    في زمن الضجيج.. القرآن بوصلة المعنى والسكينة    السودان.. الدفاع المدني يستعين ب"التوك توك"    د.مزمل أبو القاسم يكتب: دموع الباز.. وزاهر! (2)    تحركات ملحوظة في سعر الريال السعودي    طفح جلدي في رقبة الرئيس ترمب يثير تساؤلات حول صحته    وزير الصحة يشيد بجهود الصليب الأحمر في دعم الخدمات الطبية بالسودان    فرق الإنقاذ البري بقوات الدفاع المدني ولاية الجزيرة تنتشل جثماناً من بئر بمستشفى الكلي في أبو عشر بعد عملية دقيقة معقدة    ملتقي التحصين للعام 2025 ينعقد بحضور التحالف العالمي للقاحات والشركاء    صوت لا يغيب.. محمد رفعت ورحلة الآذان الخالد في رمضان    أجهزة الأمن السودانية تنهي مغامرات لص الصيدليات في عطبرة    شاهد بالفيديو.. الوطن يتعافى ويعود.. تزاحم مئات المصلين في صلاة التراويح بمسجد السيدة سنهوري بالخرطوم    شاهد بالفيديو.. الوطن يتعافى ويعود.. تزاحم مئات المصلين في صلاة التراويح بمسجد السيدة سنهوري بالخرطوم    السودان.. فكّ طلاسم"تبيدي للمجوهرات" في الخرطوم والتحقيقيات تفجّر مفاجأة    السودان.. مباحث مكافحة سرقة السيارات تطلق تحذيرًا    جديد واقعة بدلة الرقص في مصر.. أقوال الفتاة وإحالة المتهمين للجنايات    بالصورة.. الفنان مأمون سوار الدهب يكتب عن علاقته بشيخ الأمين ويتحدث عن الصورة المثيرة لشيخه مع المطربة هدى عربي    







شكرا على الإبلاغ!
سيتم حجب هذه الصورة تلقائيا عندما يتم الإبلاغ عنها من طرف عدة أشخاص.



هل يمكن الوثوق بالذكاء الاصطناعي؟.. بحث يكشف قدرات مقلقة في الخداع
النيلين نشر في النيلين يوم 11 - 05 - 2024

يمكن لأنظمة الذكاء الاصطناعي التفوق على البشر في ألعاب الطاولة، وفك تركيب بنية البروتينات، وإجراء محادثة مقبولة، ولكن مع تزايد تطور هذه الأنظمة، ازدادت قدرتها أيضا على الخداع، حسبما جاء في تحذيرات جديدة من باحثين في المجال.
وحدد تحليل أجراه باحثون في معهد ماساتشوستس للتكنولوجيا، حالات واسعة النطاق لأنظمة الذكاء الاصطناعي التي تقوم بخداع خصومها، والمراوغة، والتظاهر بأنها بشر. وفي حالة مثيرة للقلق، غيّر أحد هذه الأنظمة سلوكه أثناء اختبارات سلامة وهمية، مما يوحي إلى إمكانية تضليل المدققين وإعطائهم انطباعا خاطئا بأن النظام آمن، وفقا لصحيفة "الغارديان".
وقال بيتر بارك، الباحث في السلامة الوجودية للذكاء الاصطناعي في معهد ماساتشوستس، ومؤلف البحث: "مع تقدم قدرات الخداع لدى أنظمة الذكاء الاصطناعي، ستزداد حدة المخاطر التي تشكلها على المجتمع".
وأجرى بارك البحث الجديد بعد أن طورت شركة ميتا، التي تمتلك فيسبوك، برنامجا يسمى "شيشرون" أدى أداء بأفضل من 10 بالمئة من اللاعبين البشر في لعبة استراتيجية بشأن غزو العالم تسمى "الدبلوماسية".
وعلى الرغم من أن ميتا قالت، إنها دربت برنامجها "شيشرون" ليكون صادقا ومفيدا إلى حد كبير، وألا يخون حلفاءه البشر عمدا أبدا أثناء لعب لعبة استراتيجية تسمى "الدبلوماسية"، إلا أن الباحثين وجدوا أمثلة متعددة على قيام شيشرون بالكذب المتعمد والتآمر ضد اللاعبين الآخرين في اللعبة.
وعلق بيتر بارك، على تصريحات ميتا المتفائلة بشأن برنامجها شيشرون، معتبرا أنها "وردية للغاية"، أي أنها كانت تصور الأمور بشكل إيجابي مبالغ فيه. وأوضح بارك أن هذا الوصف المتفائل كان مشبوها لأن الطعن في الظهر والخيانة تعتبر من المفاهيم الأساسية والمهمة في اللعبة المذكورة.
وتصفح بارك وزملاؤه البيانات المتاحة للجمهور وحددوا حالات متعددة قام فيها شيشرون بالكذب المتعمد، والتواطئ لجذب لاعبين آخرين إلى مؤامرات، وفي إحدى المناسبات، برر غيابه بعد إعادة تشغيله بقوله للاعب آخر: "أنا أتحدث مع صديقتي في الهاتف".
وقال بارك: "لقد وجدنا أن الذكاء الاصطناعي في ميتا قد تعلم أن يكون سيّدا للخداع"، في إشارة إلى المستوى الذي وصل إليه البرنامج.
ووجد فريق البحث مشاكل مماثلة في أنظمة أخرى، بما في ذلك برنامج بوكر "تكساس هولد إم" الذي يمكنه الخداع ضد اللاعبين البشر المحترفين، ونظام آخر للمفاوضات الاقتصادية الذي قدم تفضيلاته بشكل خاطئ من أجل اكتساب ميزة.
وأظهرت إحدى الدراسات كيف تمكنت كائنات الذكاء الاصطناعي في محاكاة رقمية من خداع اختبارات السلامة عن طريق "التظاهر بالموت" مؤقتا أثناء الاختبار، ثم استئناف نشاطها المكثف بمجرد انتهائه.
وبحسب الغارديان، تسلط هذه التجارب الضوء على التحدي التقني لضمان أن الأنظمة ليس لديها سلوكيات غير مقصودة وغير متوقعة.
وقال بارك: "هذا أمر مقلق للغاية، فمجرد اعتبار نظام الذكاء الاصطناعي آمنا في بيئة الاختبار لا يعني أنه آمن في الواقع. فقد يكون فقط يتظاهر بالأمان في الاختبار".
وتدعو المراجعة، المنشورة في مجلة "Patterns"، الحكومات إلى تصميم قوانين سلامة الذكاء الاصطناعي التي تتناول احتمالية خداع الذكاء الاصطناعي.
وتشمل المخاطر الناجمة عن أنظمة الذكاء الاصطناعي غير الصادقة الاحتيال، والتلاعب بالانتخابات، و"التضليل" حيث يتم إعطاء المستخدمين المختلفين ردودا مختلفة. وفي نهاية المطاف، إذا كانت هذه الأنظمة قادرة على صقل قدرتها المقلقة على الخداع، فقد يفقد البشر السيطرة عليها، كما تشير الورقة البحثية.
وقال الأستاذ أنتوني كون، أستاذ الاستدلال الآلي في جامعة ليدز ومعهد آلان تورينغ، إن الدراسة جاءت "في الوقت المناسب ومرحب بها"، مضيفا أن هناك تحديا كبيرا في كيفية تحديد السلوكيات المرغوبة وغير المرغوب فيها لأنظمة الذكاء الاصطناعي.
وقال: "الصفات المرغوبة لنظام الذكاء الاصطناعي غالبا ما يشار إليها على أنها الصدق، والمساعدة، وعدم الإيذاء، ولكن كما لوحظ بالفعل في الأدبيات، يمكن لهذه الصفات أن تكون متعارضة مع بعضها البعض: فالصدق قد يؤذي مشاعر شخص ما، أو أن تكون المساعدة مفيدة في الرد على سؤال حول كيفية صنع قنبلة قد يسبب ضررا. لذلك، يمكن أن يكون الخداع في بعض الأحيان خاصية مرغوبة لنظام الذكاء الاصطناعي.
ويدعو المؤلفون إلى إجراء مزيد من البحث حول كيفية التحكم في الصدق، والذي، على الرغم من صعوبته، سيكون خطوة نحو الحد من آثارها الضارة المحتملة"، وفقا للصحيفة.
وقال متحدث باسم ميتا: "كان عملنا شيشرون مشروع بحثيا بحتا وتم تدريب النماذج التي بناها باحثونا فقط للعب لعبة الدبلوماسية.. تشارك ميتا بانتظام نتائج أبحاثنا للتحقق منها وتمكين الآخرين من البناء بمسؤولية استنادا إلى تقدمنا. ليس لدينا أي خطط لاستخدام هذا البحث أو ما تعلمناه في منتجاتنا".
الحرة
مواضيع مهمة
ركوب الخيل لا يناسب الجميع؟ أيهما أصعب تربية الأولاد أم البنات؟ جسر الأسنان
هل تعقيم اليدين مفيد؟ الكركم والالتهابات أفضل زيوت ترطيب البشرة

انقر هنا لقراءة الخبر من مصدره.