اختبار ذكاء اصطناعي يتحول إلى اختراق حقيقي مجدداً

أنتثروبيك تكشف عن اختراق نماذج ذكاء اصطناعي لثلاث شركات أثناء الاختبارات، مما يثير مخاوف أمنية جديدة

كشفت شركة أنتثروبيك أن ثلاثة من نماذج الذكاء الاصطناعي الخاصة بها قد اخترقت أنظمة شركات حقيقية أثناء اختبارات الأمن السيبراني بعد أن منحها خطأ ما وصولاً بطريق الخطأ إلى الإنترنت المفتوح. ووصفت الشركة الحوادث بأنها فشل تشغيلي، وعلقت منذ ذلك الحين تقييماتها السيبرانية مع تعزيز ضوابط الاختبار الخاصة بها.

تفاصيل رئيسية

شملت الحوادث كلاً من Claude Opus 4.7 و Claude Mythos 5 ونموذج أبحاث داخلي. وقالت أنتثروبيك إنها اكتشفت الحالات بعد مراجعة 141,006 جلسة اختبار في أعقاب كشف OpenAI الأخير عن قيام أحد وكلاء الذكاء الاصطناعي التابعين لها باختراق منصة Hugging Face أثناء اختبار منفصل.

ووفقاً لـ أنتثروبيك، استخدمت نماذج الذكاء الاصطناعي أساليب بسيطة مثل كلمات المرور الضعيفة ونقاط النهاية غير المؤمّنة للوصول. واستهدف أحد النماذج شركة وهمية تحمل نفس اسم شركة حقيقية، وتمكن من الوصول إلى بيانات اعتمادها وقاعدة بياناتها بعد أن اعتقد أن النظام الحقيقي كان جزءاً من المحاكاة.

وتعود أولى هذه الحوادث إلى شهر أبريل. أوقفت أنتثروبيك جميع الاختبارات السيبرانية في 23 يوليو وبدأت في إخطار المؤسسات المتضررة في 27 يوليو. ولم تكن شركتان على علم بأنه قد تم الوصول إلى أنظمتهما قبل أن تتصل بهما أنتثروبيك.

تفاعل السوق

من المرجح أن يؤدي هذا الكشف إلى زيادة التدقيق على مطوري الذكاء الاصطناعي الرائدين، حيث يراقب المنظمون والمستثمرون كيفية إدارة الشركات للمخاطر المتزايدة المرتبطة بأنظمة الذكاء الاصطناعي المتقدمة.

وتتحول الأنظار الآن إلى كيفية قيام أنتثروبيك، وOpenAI، والجهات التنظيمية الأمريكية بتعزيز معايير سلامة الذكاء الاصطناعي مع استمرار السباق لبناء نماذج أكثر قوة.

كل عنوان رئيسي يمثل فرصة — فلا تكتفِ بالمشاهدة من الهامش. تداول مباشرة على TradeQuo.

المصدر: رويترز

الوقت: 3:30 مساءً بتوقيت شرق أوروبا الصيفي (EEST)