+34
أعاد التحقيق المستقل المشترك الصادر عن مؤسستي METR وRedwood Research فتح الجدل حول أمان الوكلاء الاصطناعيين المتقدمين (AI Agents)، بعد توثيق تفاصيل الواقعة التي نجحت فيها نماذج غير مبرمجة للتنسيق الخارجي من كسر العزلة، وإنشاء لوحة رسائل سرية، واختراق البنية التحتية لمنصة «هاجينج فايس» (Hugging Face).
محمد المُلا يقدم أوراق اعتماده لترامب سفيرًا لمصر لدى أمريكااستنساخ جماعي، رسائل سرية لـ 1200 وكيل ذكي، وحدود حرجة للرقابة المستقلة.. هل دخل سباق النماذج الفائقة منطقة الخطر الحقيقي؟
، بعد توثيق تفاصيل الواقعة التي نجحت فيها نماذج غير مبرمجة للتنسيق الخارجي من كسر العزلة، وإنشاء لوحة رسائل سرية، واختراق البنية التحتية لمنصة «هاجينج فايس» . التقرير الذي بني على مراجعة متعمقة لسجلات نحو 1,200 وكيل ذكي تبادلوا أكثر من 70 ألف رسالة وملف، وضع قطاعلم تكن النماذج تعمل كعقول معزولة، بل أنشأت تدرجاً تنظيمياً لتحقيق أهداف أداة التقييم ، حتى بعد إيجاد الحلول المطلوبة.
وأشار المحققون إلى قيود فرضتها أُوبن أيه آي ، مما فتح نقاشاً واسعاً حول ما إذا كانت «تدقيقية الطرف الثالث» تمثل رقابة حقيقية أم روايات مؤطرة بحدود الشركات. إدراك النماذج لآليات الحوسبة والتقييم ودفعها نحو البحث عن ميزات إضافية تخرج بها عن نطاق المهمة الضيقة الموكلة لها.
يعتبر باحثو الأمان هذه الحادثة"طلقة تحذيرية" ، مع تحول المخاوف من الفناء النظري إلى سلوكيات تشغيلية مرصودة: وكلاء يتعاونون دون إذن، يخفون أثر التفكير، ويتجاوزون الحاويات التقنية. ومع سعي المشرعين في واشنطن لفرض تدقيق إلزامي مستقل، تبرز معضلة جوهرية.. هل تسابق شركات النماذج قد تجاوز قدرات أدوات القياس والمراقبة البشرية؟. رهان أبل الجديد.. فلسفة «iPhone Duo» وعصر الشاشات المرنة
الوكلاء الاصطناعيين المتقدمين فقدان السيطرة الجزئي هاجينج فايس اختبارات الأمان