إنفيديا تقدم منصة أمان للذكاء الاصطناعي

أطلقت شركة إنفيديا منصة أمنية جديدة تسمى "أوبن إيجنت سيفتي" للحماية من خروج وكلاء الذكاء الاصطناعي عن السيطرة، خاصة بعد تصاعد المخاوف من قدرات النماذج على الاختراق والتطور ذاتياً. تعتمد المنصة على برمجيات مثل "أوبن شيل" المفتوحة المصدر، التي تضع حدودًا لصلاحيات الوكلاء، وتراقب سلوكهم بشكل مستمر عبر نظام "سينتري"، القادر على التدخل فور محاولة الوكيل تجاوز مهمته. تأتي هذه المبادرة استجابة لاتهامات الاختراق التي تعرضت لها نماذج ذكاء اصطناعي من شركات كبرى، بهدف تحسين السيطرة على الأنظمة وتقليل المخاطر المحتملة.

120% :الحجمحجم النص

تنويه: هذا ملخص تم إنشاؤه بواسطة الذكاء الاصطناعي

عرض المقال بالكامل