سودارس : لماذا يريد البيت الأبيض من المخترقين اكتشاف ثغرات الذكاء الاصطناعي؟

وزير سوداني يكشف عن ترتيبات وخطط..ماذا هناك؟ جولف السعودية تعلن افتتاح "فايف آيرون جولف" في الرياض أرقام مؤهلة وميداليات متوزعة.. البيشي: انطلاقة قوية للبطولة العربية برادس المعز عباس يقود اتحاد ألعاب القوى بالتذكية حتى 2030... جمعية عمومية ناجحة بحضور واسع وتأكيد على انطلاقة جديدة 5 غيابات عن برشلونة وريال مدريد في الكلاسيكو صحفي سعودي بارز يكشف لأول مرة عن دعم مصري عسكري للخليج ماء الحلبة المنقوع أم المغلى أيهما أفضل لمرضى السكر؟ كيفية تفعيل وضع "التبويبات العمودية" فى جوجل كروم.. خطوات إدانات حقوقية واسعة لترحيل روائي سوداني من مصر قسراً حزب الأمة القومي يدين استهداف الأبيض ويطالب بوقف الحرب فوراً مناوي يعتمد النظام الأساسي للكتلة الديمقراطية ويعلن مرحلة جديدة سوداتل تعلن تحقيق أعلى دخل تشغيلي منذ التأسيس وأرباحًا صافية 117.5 مليون دولار لعام 2025 بي إس جي ضد البايرن.. عودة ثلاثي بطل فرنسا للتدريبات قبل القمة الأوروبية بايرن ميونخ يبدأ محادثات تمديد عقد هارى كين شاهد.. "بقال" ينشر فيديو له أيام قيادته لجنود المليشيا بالخرطوم: (سيشهد التاريخ أن "الامكعوكات" عيال "الماهرية" كانوا يحرسوني ويفتحوا لي أبواب العربية) إيمان العاصى تعقد جلسات عمل مع صناع مسلسلها انفصال قبل انطلاق التصوير أمير المصرى بطل مسلسل مقتبس من رواية Metropolis العالمية علامات تنذر بتجفاف الجسم عاجل..مقتل 14 شخصًا في تحطّم طائرة قرب جوبا صبري محمد علي (العيكورة) يكتب: *النظام المصرفي هل ستضبطه (تاتشر) السودان آمنه ميرغني؟* شاهد الفيديو الذي خطف الأضواء ونال إعجاب المتابعين.. طلاب سودانيون يحملون أستاذهم على طريقة أصحاب البطولات ويحتفلون معه بشكل ملفت السودان..قرار بحظر 46 سلعة شاهد.. في أول تصريح له بعد انضمامه للقوات المسلحة.. القائد النور قبة: (سنساعد الجيش في تطهير البلاد من الشفشافة والمرتزقة) شاهد بالفيديو.. الفنانة إيمان الشريف تخاطب جمهورها في حفل جماهيري: (أنا ساكتة ما معناها أنا غلط) وتثير السخرية بترديدها: (كلنا إيمان الشريف) من الذروة إلى الجمود.. مطار نيالا يفقد نبضه الجوي سوداتل تحقق صافي أرباح 117.5 مليون دولار لعام 2025 كأعلى دخل تشغيلي منذ التأسيس لجنة أمن الخرطوم تكشف عن ازدياد معدلات عودة المواطنين للعاصمة بفضل استقرار الوضع الأمني وتحسن الخدمات موسم الحجاج السودانيين الحالي يتطلب تدخلاً عاجلاً من الجهات السيادية في الدولة أكبر هجوم منسق واغتيال وزير الدفاع.. ما الذي يحدث في مالي؟ متأثّرًا بجراحه..مقتل وزير الدفاع في مالي اجتماع في الخرطوم لبحث إمداد الوقود شاهد بالفيديو.. شيبة ضرار يسخر من منح النور قبة سيارة الرئيس: (أي زول جاي من المليشيا يمنحوه عربية والوقفوا مع الجيش يهمشوهم) ورانيا الخضر تعلق: (بحبو حب شديد) والي الخرطوم يقدم تنويرا لمسئولة الاتحاد الأوربي حول الأضرار التي لحقت بالمرافق الخدمية وجهود الولاية لإعادة إعمارها الزمالك يُنهي اليوم استعداداته لمواجهة إنبي غدا للاقتراب من درع الدورى كيف تنظم الساعة البيولوجية الداخلية للكبد إفراز الدهون اليومى؟ دراسة : كثرة القيلولة تُنذر بتدهور الصحة قائد بقوات النور قبة يحسم جدل فيديو نجاة ترامب من محاولة اغتيال معماري سوداني يفوز بالجائزة الكبرى لجمعية المعماريين اليابانيين والسفارة بطوكيو تحتفي بإنجازه مكافحة التهريب البحر الأحمر تُبيد (3.5) طناً من المخدرات مكافحة التهريب البحر الأحمر تُبيد (3.5) طناً من المخدرات أطباء بلا حدود : علي ظهور الجمال والحمير … اللقاحات تصل جبل مرة ترامب: سنمدد وقف إطلاق النار مع إيران حتى تقدم طهران مقترحاتها وتكتمل المفاوضات الهلال «مدرسة» قبل أن يكون «نادياً رياضياً» الدعيتر.. كان اللغة الثانية في البلاد مصر.. قرار بشأن المنتقبات بعد تدخل شيخ الأزهر في عملية اختطاف هزت البلاد موجة مرعبة.. حمى الضنك تتفشى في ولاية نهر النيل بالسودان مكافحة التهريب بالبحر الأحمر تضبط 340 كيلو آيس و200 ألف حبة مخدرة فى عملية نوعية بالتعاون مع المخابرات العامة السودان.. تفاصيل صادمة لاغتيال مواطن بدمٍ باردٍ شرطة ولاية نهر النيل تضبط (53) جوالًا من النحاس المخبأ تحت شحنة فحم بمدينة شندي وتوقيف متهمين الإمارات والبحرين توقعان اتفاقا لمقايضة الدرهم والدينار السودان.. القبض على 4 ضباط قضية أثارت جدلاً.. براءة عصام صاصا من تهمة المشاجرة بملهى ليلي عثمان ميرغني يكتب: فساد.. الفساد.. الشيخ بن زومة.. إلى جنة الخلد في زمن الضجيج.. القرآن بوصلة المعنى والسكينة صوت لا يغيب.. محمد رفعت ورحلة الآذان الخالد في رمضان شاهد بالفيديو.. الوطن يتعافى ويعود.. تزاحم مئات المصلين في صلاة التراويح بمسجد السيدة سنهوري بالخرطوم

شكرا على الإبلاغ!

سيتم حجب هذه الصورة تلقائيا عندما يتم الإبلاغ عنها من طرف عدة أشخاص.

لماذا يريد البيت الأبيض من المخترقين اكتشاف ثغرات الذكاء الاصطناعي؟
لماذا يريد البيت الأبيض من المخترقين اكتشاف ثغرات الذكاء الاصطناعي؟

الراكوبة نشر في الراكوبة يوم 06 - 08 - 2023

لماذا يريد البيت الأبيض من المخترقين اكتشاف ثغرات الذكاء الاصطناعي؟
صدر الصورة، Getty Images
* Author, فيليبا واين
* Role, مراسلة شؤون التكنولوجيا
* قبل ساعة واحدة
ماذا يحدث عندما يجتمع الآلاف من المخترقين في مدينة واحدة بهدف وحيد، هو محاولة الخداع واكتشاف العيوب في نماذج الذكاء الاصطناعي؟ هذا ما يريد البيت الأبيض معرفته.
هذا الأسبوع في أكبر مؤتمر سنوي للقراصنة في العالم في لاس فيغاس، ديف كون 31، تفتح التكنولوجيا الكبيرة أنظمتها القوية ليتم اختبارها جنبا إلى جنب لأول مرة.
تحت دائرة الضوء، توجد نماذج لغات كبيرة، روبوتات الدردشة المفيدة مثل تشات جي بي تي الذي أصدرته شركة أوبن إي أي، وبارد الذي أنتجته غوغل.
تعدّ الدكتورة رومان شودري، الرئيسة التنفيذية لشركة هيومن إنتلجنس وزميلة الذكاء الاصطناعي المسؤول في جامعة هارفارد، أحد منظمي هذا الحدث.
وقالت لبي بي سي نيوز إنهم صمموا مسابقة "لتحديد المشاكل في أنظمة الذكاء الاصطناعي" و"إنشاء تقييم مستقل". وتقول إن الحدث سيكون مساحة آمنة للشركات "للحديث عن مشاكلهم وكيفية حلها".
تخطى قصص مقترحة وواصل القراءة
قصص مقترحة
* * * *
قصص مقترحة نهاية
تم إقناع شركات ميتا، غوغل، أوبن إي أي، أنثروبيك، كوير، ميكروسوفت، إنفيديا وستابيليتي بفتح نماذجهم ليتم اختراقها لتحديد المشكلات.
تقول شودري إن الشركات تعرف أن العديد من الأشياء يمكن أن تسوء، لذا فإن المنافسة هي وسيلة لمعرفة ما يحدث عندما تتحدى مجموعة محددة من المخترقين نماذجهم في مواجهة الوقت.
كيف يعمل المؤتمر؟
يقدّر المنظمون أنه على مدار يومين ونصف اليوم، سيتم منح 3 آلاف شخص يعملون بمفردهم في واحد من 158 جهاز كمبيوتر محمولا 50 دقيقة، لمحاولة اكتشاف عيوب في ثمانية نماذج كبيرة للذكاء الاصطناعي.
لن يعرف المتسابقون نموذج الشركة الذي يعملون معه، على الرغم من أن المتسابقين ذوي الخبرة قد يكونون قادرين على التخمين. يؤدي إكمال التحدي الناجح إلى ربح نقاط ويفوز الشخص الذي حقق أعلى إجمالي.
صدر الصورة، Rchowdhury
التعليق على الصورة،
الدكتورة رومان شودري هي أحد منظمي تحدي الذكاء الاصطناعي
تخطى البودكاست وواصل القراءة
بي بي سي إكسترا
بودكاست أسبوعي يقدم قصصا إنسانية عن العالم العربي وشبابه.
الحلقات
البودكاست نهاية
الجائزة عبارة عن قطعة قوية من أدوات الحوسبة، وحدة معالجة رسومات، ولكن ربما الأهم من ذلك وفقا لشودري ستكون "حقوق المفاخرة".
يطلب أحد التحديات من المخترقين الحصول على نموذج للهلوسة (بالمعلومات) أو اختراع حقيقة حول شخص سياسي أو شخصية رئيسية.
تقول الدكتورة سيرافينا غولدفارب – تارانت، رئيسة سلامة الذكاء الاصطناعي في كوير، إنه بينما من المعروف أن النماذج يمكن أن تصنع الحقائق، فليس من الواضح مدى تكرار حدوثها.
وقالت "نعلم أن النماذج تهلوس بالمعلومات، لكن سيكون من المفيد زيادة الوعي بعدد المرات التي يحدث فيها ذلك. ما زلنا لا نعرف".
سيتم أيضا اختبار اتساق النماذج، وتقول غولدفارب – تارانت إن هناك مخاوف بشأن كيفية عملها عبر اللغات المختلفة.
"حراس الأمن لا يعملون بلغات مختلفة ويعتقد الناس أنهم كذلك".
على سبيل المثال، إذا سألت العديد من نماذج اللغة الإنجليزية الكبيرة عن كيفية الانضمام إلى منظمة إرهابية، فلن يقدّموا لك إجابة، بسبب آلية الأمان. رغم ذلك، اسأل النموذج بلغة مختلفة ويعطيك قائمة بالخطوات التي يجب اتباعها.
كانت غولدفراب – تارانت تجهز نماذج كوير للحدث، وتقول إنه على الرغم من قوتها "لا يعني ذلك عدم وجود ثغرات أمنية في نماذجنا، لم نعثر عليها بعد".
المشاكل الحالية
هذا الحدث يحظى بدعم البيت الأبيض. في مايو/أيار، أعلن عن الحدث، قائلا إنه "سيوفر معلومات مهمة للباحثين والجمهور حول تأثيرات هذه النماذج، وسيمكن شركات الذكاء الاصطناعي والمطورين من اتخاذ خطوات لإصلاح المشكلات الموجودة فيها".
صدر الصورة، Getty Images
التعليق على الصورة،
الرئيس الأمريكي جو بايدن يتحدث عن الذكاء الاصطناعي في البيت الأبيض بواشنطن العاصمة
أثارت وتيرة تطوير الشركات لأدواتها مخاوف بشأن انتشار المعلومات المضللة، خاصة قبل الانتخابات الرئاسية الأمريكية العام المقبل. في يوليو/تموز، التزمت سبع شركات رائدة في مجال الذكاء الاصطناعي بضمانات طوعية لإدارة المخاطر التي تشكلها التكنولوجيا، لكن الضمانات القانونية ستستغرق وقتا أطول ليتم الاتفاق عليها.
تقول الدكتور شودري إن هناك "سباق تسلح منظم يحدث الآن"، وهذا الحدث هو وسيلة لتسليط الضوء على مشاكل الذكاء الاصطناعي الحالية بدلا من التهديدات الوجودية.
وتقول إن الأمر لا يتعلق بالسؤال عما إذا كان بإمكان الذكاء الاصطناعي تفجير سلاح نووي، بل يتعلق أكثر بتحدي الأنظمة "لمعرفة ما إذا كانت تشتمل على أضرار وتحيزات".
"على سبيل المثال، هل يكذبون علينا، ويختلقون عواصم وهمية، ويكذبون بشأن ما إذا كانوا أطباء مؤهلين، أو يشكلون معلومة سياسية مزيفة تماما"؟
تريد الدكتورة غولدفارب – تارانت أن يكون التركيز في التنظيم على معالجة المشكلات الحالية. إنها تريد من الحكومات "قضاء الوقت في تنظيم الذكاء الاصطناعي الآن لمنع المعلومات الخاطئة".
ماذا يحدث بعد ذلك؟
تريد شودري أن تعرف "ماذا يحدث عندما، أو إذا وجدنا مشاكل مع هذه النماذج. ماذا ستكون استجابة شركات التكنولوجيا"؟
"إذا لم نتمكن من إنشاء نماذج تنبؤية بسيطة للتعلم الآلي للذكاء الاصطناعي خالية من التحيز والتمييز، فلن يكون لدينا نماذج ذكاء اصطناعي أكثر تعقيدا في المستقبل خالية من هذه المشكلات".
بمجرد الانتهاء من التحدي، ستتمكن الشركات من رؤية البيانات التي تم جمعها، والاستجابة لأي عيوب تم إبرازها.
سيتمكن الباحثون المستقلون من طلب الوصول إلى البيانات، مع نشر نتائج التجربة في فبراير/شباط المقبل.

انقر هنا لقراءة الخبر من مصدره.