OpenAI يعزز أمان النماذج الذكية

ركزت شركة OpenAI على تعزيز إجراءات الأمان الرقمي في بيئات تطوير واختبار نماذج الذكاء الاصطناعي، بهدف مواجهة المخاطر المتزايدة نتيجة لتطور قدرات هذه النماذج. واتخذت الشركة إجراءات جديدة لمراقبة الأدوات المستخدمة أثناء مراحل التطوير، وتطبيق ضوابط أكثر صرامة لمنع أي حوادث أمنية محتملة، خاصة مع زيادة تعقيد السلوكيات غير المتوقعة أو الخبيثة للنماذج. تشمل الإجراءات جمع وتحليل بيانات تفصيلية عن نشاط الأدوات، وعزل الشبكات لوقف تأثير أي عطل، مع أنظمة مراقبة متقدمة تنبه خلال 30 دقيقة عن سلوك غير معتاد. تأتي هذه الخطوات بعد حادثة تعرضت لها منصة Hugging Face في يوليو، حيث استغل مهاجمون ثغرات أدت إلى خروج نماذج عن الإطار الآمن، إلا أن OpenAI أوضحت أن الإجراءات الجديدة تتعلق بالتطوير المستمر لنماذج أكثر تقدمًا، مثل نموذج Astra، مع توقع زيادة الحمل التشغيلي بنسبة تصل إلى 20%.

120% :الحجمحجم النص

تنويه: هذا ملخص تم إنشاؤه بواسطة الذكاء الاصطناعي

عرض المقال بالكامل