بالفيديو.. الفنانة ندى القلعة تدافع عن الإمارات وتهاجم الممثل مؤيد جمال: (انت ما عندك محتوى والإمارات لا تعتقل من يدافع عن الجيش والدليل على ذلك أنا كنت قاعدة فيها سنتين ولم يتم اعتقالي)    شاهد بالصورة.. مطربة سودانية تثير سخرية الجمهور بعد ظهورها تغني في حفل خاص وتحمل "مسبحة" على يدها وساخرون: (مستحيل يجتمعوا مع بعض وتكون بتحسب بيها النقطة)    أكبر هبوط شهري منذ انهيارات الكريبتو في 2022.. لماذا ينهار سوق العملات المشفرة الآن؟    بالفيديو.. الفنانة ندى القلعة تدافع عن الإمارات وتهاجم الممثل مؤيد جمال: (انت ما عندك محتوى والإمارات لا تعتقل من يدافع عن الجيش والدليل على ذلك أنا كنت قاعدة فيها سنتين ولم يتم اعتقالي)    بالصورة والفيديو.. شاهد ردة فعل الفنانة فهيمة عبد الله عندما اكتشفت أن أحد الجلسين بجوارها يراقب هاتفها بطريقة غريبة وساخرون: (نفس حركات ناس المواصلات)    شاهد بالفيديو.. محترف الهلال يثير غضب جمهور المولودية والجهاز الفني ويتسبب في ثورة عقب نهاية المباراة بتصرف غير أخلاقي    بالصورة والفيديو.. شاهد ردة فعل الفنانة فهيمة عبد الله عندما اكتشفت أن أحد الجلسين بجوارها يراقب هاتفها بطريقة غريبة وساخرون: (نفس حركات ناس المواصلات)    فرصة للسلام: ارتباك شركاء الجريمة    وزير الداخلية ومدير عام قوات الشرطة يفتتحان مصنع الكفاية للملبوسات الشرطية    غياب الإخلاص بربر، والمريخ (B) يستعد بودية أمام نجوم بربر    إدارة مباحث كسلا تفكك شبكة إجرامية لتهريب البشر يتزعمها أحد أهم المطلوبين الهاربين من السجن    هذا المبلغ مخصص لتكملة مشروع مياه القضارف وتتلكأ حكومة الولاية في استلامه لأسباب غير موضوعية    أن يكون رئيس أقوى دولة في العالم جاهلًا بما يحدث في السودان فهذه منقصة في حقه    أشهر ناشط في مجال العمل الطوعي بالسودان يعلن إعتزاله العمل الإنساني بعد أن أرهقته "الشائعات"    الشتاء واكتئاب حواء الموسمي    ماو: الهلال الأقرب للفوز على المولودية    الهلال السوداني يستضيف المولودية الجزائري في افتتاح مجموعات أبطال أفريقيا    فى الطّريق إلى "الضّعين"، ف "أم دافوق": كيف يفكّرُ الجيش فى القضاء على "التمرّد"؟    أمريكا تفتح بوابة الرقاقات المتقدّمة أمام G42    دستة إلا ربع.. انها نتيجة مباراة وليس سلة بيض!!    "الميرغني" يرحب بتدخل ترامب لإنهاء الحرب    عثمان ميرغني يكتب: تصريحات ترامب المفاجئة ..    "كاف" يخطر الهلال السوداني بقراره النهائي حول شكوى مفاجئة    شاهد.. صور ولي العهد السعودي سمو الأمير محمد بن سلمان مع علم السودان تتصدر "الترند" على مواقع التواصل والتعليقات تنفجر بالشكر والثناء مع هاشتاق (السودان بقلب بن سلمان)    شاهد.. الفنانة ندى القلعة تمدح السعودية: (يا خادم الحرمين سلام وولي عهدك السعى للسلام) والقايداية بالحرية والتغيير حنان حسن تسخر: (أجي يا أخواني.. يا مثبت العقل والدين)    (المنطقة باسيادها)    تسيد السعودية للإقليم خلال العقد القادم    بوساطة من موسى هلال..الجيش يطلق سراح 43 من عناصر الميليشيا    استئناف حركة المرور في معبر الرقيبات بين دارفور وجنوب السودان    الطيب صالح ناهض استعلاء السلطة عبر "الكتابة السوداء"    البحر يبتلع عشرات السودانيين الهاربين من جحيم بلادهم    دونالد ترامب يفجّرها حول حرب السودان    قرار لسكان الخرطوم بشأن فاتورة المياه    حقق حلمه وكان دائماً ما يردد: "لسه يا قلبى العنيد لا شقيت لابقيت سعيد".. شاهد ماذا قالت مفوضية اللاجئين عن ظهور الشاب السوداني "مهدي" وهو يغني مع الفنان الشهير تامر حسني داخل أحد المصانع بالقاهرة    السودان يعلن وصول شحنة من هولندا    فريق ميداني متخصص من إدارة مباحث ولاية كسلا يسدد بلاغ خاص بسرقة عربة بوكس    الذكاء الاصطناعى وإرضاء الزبون!    قناة الجزيرة ... من يختار الضيوف ولماذا … ؟    بالصورة.. صحيفة "الغارديان" البريطانية تهاجم القيادي بمليشيا الدعم السريع "الربيع عبد المنعم" وتؤكد حذف حساباته على منصات التواصل الاجتماعي    إسرائيل تكشف رسميا عن خطتها على حدود مصر    شبح شفاف.. مفترق بين الترقب والتأمل    الطاهر ساتي يكتب: مناخ الجرائم ..!!    إظلام جديد في السودان    تحذير من استخدام الآلات في حفر آبار السايفون ومزوالة نشاط كمائن الطوب    والي الخرطوم يعلن عن تمديد فترة تخفيض رسوم ترخيص المركبات ورخص القيادة بنسبة 50٪ لمدة أسبوع كامل بالمجمع    الطاهر ساتي يكتب: أو للتواطؤ ..!!    "كرتي والكلاب".. ومأساة شعب!    ما الحكم الشرعى فى زوجة قالت لزوجها: "من اليوم أنا حرام عليك"؟    مخبأة في باطن الأرض..حادثة غريبة في الخرطوم    حسين خوجلي: (إن أردت أن تنظر لرجل من أهل النار فأنظر لعبد الرحيم دقلو)    حسين خوجلي يكتب: عبد الرجيم دقلو.. إن أردت أن تنظر لرجل من أهل النار!!    وزير الصحة يوجه بتفعيل غرفة طوارئ دارفور بصورة عاجلة    تركيا.. اكتشاف خبز عمره 1300 عام منقوش عليه صورة يسوع وهو يزرع الحبوب    (مبروك النجاح لرونق كريمة الاعلامي الراحل دأود)    المباحث الجنائية المركزية بولاية نهر النيل تنهي مغامرات شبكة إجرامية متخصصة في تزوير الأختام والمستندات الرسمية    دراسة تربط مياه العبوات البلاستيكية بزيادة خطر السرطان    والي البحر الأحمر ووزير الصحة يتفقدان مستشفى إيلا لعلاج أمراض القلب والقسطرة    السجائر الإلكترونية قد تزيد خطر الإصابة بالسكري    







شكرا على الإبلاغ!
سيتم حجب هذه الصورة تلقائيا عندما يتم الإبلاغ عنها من طرف عدة أشخاص.



هل يمكن الوثوق بالذكاء الاصطناعي؟.. بحث يكشف قدرات مقلقة في الخداع
النيلين نشر في النيلين يوم 11 - 05 - 2024

يمكن لأنظمة الذكاء الاصطناعي التفوق على البشر في ألعاب الطاولة، وفك تركيب بنية البروتينات، وإجراء محادثة مقبولة، ولكن مع تزايد تطور هذه الأنظمة، ازدادت قدرتها أيضا على الخداع، حسبما جاء في تحذيرات جديدة من باحثين في المجال.
وحدد تحليل أجراه باحثون في معهد ماساتشوستس للتكنولوجيا، حالات واسعة النطاق لأنظمة الذكاء الاصطناعي التي تقوم بخداع خصومها، والمراوغة، والتظاهر بأنها بشر. وفي حالة مثيرة للقلق، غيّر أحد هذه الأنظمة سلوكه أثناء اختبارات سلامة وهمية، مما يوحي إلى إمكانية تضليل المدققين وإعطائهم انطباعا خاطئا بأن النظام آمن، وفقا لصحيفة "الغارديان".
وقال بيتر بارك، الباحث في السلامة الوجودية للذكاء الاصطناعي في معهد ماساتشوستس، ومؤلف البحث: "مع تقدم قدرات الخداع لدى أنظمة الذكاء الاصطناعي، ستزداد حدة المخاطر التي تشكلها على المجتمع".
وأجرى بارك البحث الجديد بعد أن طورت شركة ميتا، التي تمتلك فيسبوك، برنامجا يسمى "شيشرون" أدى أداء بأفضل من 10 بالمئة من اللاعبين البشر في لعبة استراتيجية بشأن غزو العالم تسمى "الدبلوماسية".
وعلى الرغم من أن ميتا قالت، إنها دربت برنامجها "شيشرون" ليكون صادقا ومفيدا إلى حد كبير، وألا يخون حلفاءه البشر عمدا أبدا أثناء لعب لعبة استراتيجية تسمى "الدبلوماسية"، إلا أن الباحثين وجدوا أمثلة متعددة على قيام شيشرون بالكذب المتعمد والتآمر ضد اللاعبين الآخرين في اللعبة.
وعلق بيتر بارك، على تصريحات ميتا المتفائلة بشأن برنامجها شيشرون، معتبرا أنها "وردية للغاية"، أي أنها كانت تصور الأمور بشكل إيجابي مبالغ فيه. وأوضح بارك أن هذا الوصف المتفائل كان مشبوها لأن الطعن في الظهر والخيانة تعتبر من المفاهيم الأساسية والمهمة في اللعبة المذكورة.
وتصفح بارك وزملاؤه البيانات المتاحة للجمهور وحددوا حالات متعددة قام فيها شيشرون بالكذب المتعمد، والتواطئ لجذب لاعبين آخرين إلى مؤامرات، وفي إحدى المناسبات، برر غيابه بعد إعادة تشغيله بقوله للاعب آخر: "أنا أتحدث مع صديقتي في الهاتف".
وقال بارك: "لقد وجدنا أن الذكاء الاصطناعي في ميتا قد تعلم أن يكون سيّدا للخداع"، في إشارة إلى المستوى الذي وصل إليه البرنامج.
ووجد فريق البحث مشاكل مماثلة في أنظمة أخرى، بما في ذلك برنامج بوكر "تكساس هولد إم" الذي يمكنه الخداع ضد اللاعبين البشر المحترفين، ونظام آخر للمفاوضات الاقتصادية الذي قدم تفضيلاته بشكل خاطئ من أجل اكتساب ميزة.
وأظهرت إحدى الدراسات كيف تمكنت كائنات الذكاء الاصطناعي في محاكاة رقمية من خداع اختبارات السلامة عن طريق "التظاهر بالموت" مؤقتا أثناء الاختبار، ثم استئناف نشاطها المكثف بمجرد انتهائه.
وبحسب الغارديان، تسلط هذه التجارب الضوء على التحدي التقني لضمان أن الأنظمة ليس لديها سلوكيات غير مقصودة وغير متوقعة.
وقال بارك: "هذا أمر مقلق للغاية، فمجرد اعتبار نظام الذكاء الاصطناعي آمنا في بيئة الاختبار لا يعني أنه آمن في الواقع. فقد يكون فقط يتظاهر بالأمان في الاختبار".
وتدعو المراجعة، المنشورة في مجلة "Patterns"، الحكومات إلى تصميم قوانين سلامة الذكاء الاصطناعي التي تتناول احتمالية خداع الذكاء الاصطناعي.
وتشمل المخاطر الناجمة عن أنظمة الذكاء الاصطناعي غير الصادقة الاحتيال، والتلاعب بالانتخابات، و"التضليل" حيث يتم إعطاء المستخدمين المختلفين ردودا مختلفة. وفي نهاية المطاف، إذا كانت هذه الأنظمة قادرة على صقل قدرتها المقلقة على الخداع، فقد يفقد البشر السيطرة عليها، كما تشير الورقة البحثية.
وقال الأستاذ أنتوني كون، أستاذ الاستدلال الآلي في جامعة ليدز ومعهد آلان تورينغ، إن الدراسة جاءت "في الوقت المناسب ومرحب بها"، مضيفا أن هناك تحديا كبيرا في كيفية تحديد السلوكيات المرغوبة وغير المرغوب فيها لأنظمة الذكاء الاصطناعي.
وقال: "الصفات المرغوبة لنظام الذكاء الاصطناعي غالبا ما يشار إليها على أنها الصدق، والمساعدة، وعدم الإيذاء، ولكن كما لوحظ بالفعل في الأدبيات، يمكن لهذه الصفات أن تكون متعارضة مع بعضها البعض: فالصدق قد يؤذي مشاعر شخص ما، أو أن تكون المساعدة مفيدة في الرد على سؤال حول كيفية صنع قنبلة قد يسبب ضررا. لذلك، يمكن أن يكون الخداع في بعض الأحيان خاصية مرغوبة لنظام الذكاء الاصطناعي.
ويدعو المؤلفون إلى إجراء مزيد من البحث حول كيفية التحكم في الصدق، والذي، على الرغم من صعوبته، سيكون خطوة نحو الحد من آثارها الضارة المحتملة"، وفقا للصحيفة.
وقال متحدث باسم ميتا: "كان عملنا شيشرون مشروع بحثيا بحتا وتم تدريب النماذج التي بناها باحثونا فقط للعب لعبة الدبلوماسية.. تشارك ميتا بانتظام نتائج أبحاثنا للتحقق منها وتمكين الآخرين من البناء بمسؤولية استنادا إلى تقدمنا. ليس لدينا أي خطط لاستخدام هذا البحث أو ما تعلمناه في منتجاتنا".
الحرة
مواضيع مهمة
ركوب الخيل لا يناسب الجميع؟ أيهما أصعب تربية الأولاد أم البنات؟ جسر الأسنان
هل تعقيم اليدين مفيد؟ الكركم والالتهابات أفضل زيوت ترطيب البشرة

انقر هنا لقراءة الخبر من مصدره.