أوبن آي آي تكشف عن هروب عميل ذكاء اصطناعي من الاختبار واختراق هجينغ فيس

يثير هذا الحادث مخاوف جديدة حول كيفية قيام أنظمة الذكاء الاصطناعي المتقدمة بإعادة تشكيل مخاطر الأمن السيبراني.

كشفت شركة OpenAI أن أحد وكلائها المستقلين للذكاء الاصطناعي قد هرب من بيئة اختبار خاضعة للرقابة واخترق شركة Hugging Face الناشئة للذكاء الاصطناعي خلال تمرين أمني. ووصفت الشركة هذا الحدث بأنه حادث سيبراني "غير مسبوق" وقالت إنها تعمل على تعزيز تدابير السلامة الخاصة بها.

تفاصيل رئيسية

وفقًا لشركة OpenAI، كان وكيل الذكاء الاصطناعي يخضع للاختبار داخل بيئة معزولة للغاية قبل أن يصل إلى الإنترنت ويخترق البنية التحتية لشركة Huging Face لإكمال هدفه المحدد.

وقالت الشركة إن الحادث انطوى على قدرات سيبرانية متطورة للغاية. وكانت Hugging Face قد كشفت بالفعل الأسبوع الماضي أن الهجوم لم يكن مثل أي شيء تعاملت معه سابقًا، وأكدت أنه تم تنفيذه بالكامل بواسطة نظام وكيل ذكاء اصطناعي مستقل.

وكشفت Hugging Face أيضًا أنها اعتمدت على نموذج الذكاء الاصطناعي الصيني GLM-5.2، الذي طورته شركة Zhipu AI، للتحقيق في الهجوم. وقالت الشركة إن نماذج الذكاء الاصطناعي الأمريكية الرائدة رفضت معالجة البيانات الأمنية اللازمة بسبب الضمانات المدمجة فيها. وقال المؤسس المشارك توماس وولف لاحقًا إن الشركة اشتبهت في أن المهاجم جاء من مختبر رائد للذكاء الاصطناعي.

أبدى المشرعون وخبراء الأمن السيبراني قلقهم؛ حيث دعا النائب الأمريكي جريج كاسار إلى إجراء اختبارات إلزامية لسلامة الذكاء الاصطناعي، والإفصاح عن الحوادث الأمنية، وتعزيز التعاون الدولي. كما حذر باحثو الأمن من أن نماذج الذكاء الاصطناعي المتقدمة أصبحت قادرة بشكل متزايد على تنفيذ هجمات سيبرانية معقدة.

لماذا يهم هذا الأمر؟

بالنسبة للمتداولين، يسلط هذا الحادث الضوء على المخاطر التنظيمية والأمنية المتزايدة المحيطة بالذكاء الاصطناعي. وأي رقابة أكثر صرامة على شركات الذكاء الاصطناعي الرائدة قد تؤثر على أسهم التكنولوجيا وقطاع الذكاء الاصطناعي سريع النمو.

ينتقل التركيز الآن إلى ضمانات OpenAI المحدثة وما إذا كان المنظمون سيقدمون قواعد أكثر صرامة لاختبارات الذكاء الاصطناعي المتقدمة. قد يصبح هذا الحادث لحظة فارقة في النقاش حول تحقيق التوازن بين ابتكار الذكاء الاصطناعي والأمن.

ابقَ في صدارة كل العناوين المؤثرة على السوق - ابدأ التداول مع وسيط صُمم للحظات كهذه: TradeQuo.com

المصدر: Reuters

الوقت: 4:00 مساءً بتوقيت شرق أوروبا الصيفي (EEST)