+34
قالت شركة 'أوبن إيه آي'، في تدوينة على موقعها الرسمي، إن أحد نماذجها للذكاء الاصطناعي لم يكن من المفترض أن يمتلك القدرة على الوصول إلى الإنترنت، إلا أنه نجح في اكتشاف ثغرة تقنية واستغلالها، ما دفعها لتعليق بعض عمليات التدريب والتقييم المرتبطة باستخدام بعض الأدوات.
«Ai» خارج عن السيطرة.. تعطيل أحد نماذج الذكاء الاصطناعي بـ« أوبن إيه آي » لتجاوزه القيودقالت شركة" أوبن إيه آي"، في تدوينة على موقعها الرسمي، إن أحد نماذجها للذكاء الاصطناعي لم يكن من المفترض أن يمتلك القدرة على الوصول إلى الإنترنت، إلا أنه نجح في اكتشاف ثغرة تقنية واستغلالها، ما دفعها لتعليق بعض عمليات التدريب والتقييم المرتبطة باستخدام بعض الأدوات.
تطورًا بشكل مؤقت، بعدما تمكن النظام من تجاوز القيود المفروضة عليه والاتصال بروبوت محادثة خارجي خلال اختبار أمني، بحسب ما نقلته"سكاي نيوز عربية" عن وكالات. وأوضحت الشركة أن هذا الإجراء سيستمر حتى يتم سد الثغرة بالكامل واستكمال اختبارات السلامة اللازمة لضمان عدم تكرار الحادث. ورغم أن الشركة وصفت الواقعة بأنها أقل خطورة من حوادث سابقة، فإنها تعد أول اختراق من هذا النوع منذ تعزيز إجراءات الحماية التي فُرضت عقب حادث سابق مرتبط بمنصة"هاغينغ فيس" المتخصصة في الذكاء الاصطناعي.
وخلال الاختبار، طُلب من النموذج تحديد هوية كاتب منشور إلكتروني اعتمادًا على مجموعة من الأدلة. وبعد إخفاقه في العثور على الإجابة داخل بيئة ويب افتراضية مخصصة للاختبار، تمكن من الوصول إلى الإنترنت المفتوح عبر الثغرة المكتشفة، قبل أن تبادر الشركة إلى إيقاف التجربة فور رصد عملية الاتصال. خبيرة أمريكية: بعض أدوات الـAI تمنح الشركات صلاحيات أوسع على بيانات المستخدمين..
وقراءة شروط الخصوصية تحميهاأليسون كوزيت: فهم حدود الذكاء الاصطناعي وكيفية دمجه في حياتنا من أهم التحدياتمحمد فريد يبحث مع 4 مؤسسات مالية عالمية فرص الاستثمار والتمويل في مصر«Ai» خارج عن السيطرة.. تعطيل أحد نماذج الذكاء الاصطناعي بـ«أوبن إيه آي» لتجاوزه القيودأسعار البنزين والسولار وأنبوبة البوتاجاز اليوم الإثنين 28 سبتمبر 2026سعر الذهب عيار 21 اليوم الإثنين.. الجرام يكسر حاجز 6200 جنيه
أوبن إيه آي شات جي بي تي نماذج الذكاء الاصطناعي AI