إنفيديا تحكم السيطرة على وكلاء الذكاء

أطلقت شركة إنفيديا منصة أمان جديدة تسمى "Open Agent Safety Platform" لمراقبة وضبط الوكلاء الذكاء الاصطناعي بهدف منع تجاوزهم للحدود والوصول إلى أنظمة غير مصرح بها. تأتي هذه الخطوة بعد حوادث سابقة أظهرت أن ضوابط السلامة على مستوى النموذج وحدها غير كافية، وتشمل أدوات مثل "أوبن شيل" و"Sentry" لضبط القدرات والمراقبة. تهدف المنصة، التي ستتوفر جزء منها كمصدر مفتوح، إلى حماية البيانات والأنظمة الحساسة من الاختراقات وتقليل المخاطر الأمنية في تطور نماذج الذكاء الاصطناعي التوليدي.

120% :الحجمحجم النص

تنويه: هذا ملخص تم إنشاؤه بواسطة الذكاء الاصطناعي

عرض المقال بالكامل