NVIDIA ت unveiling منصة للسيطرة على وكلاء الذكاء الاصطناعي

أطلقت شركة NVIDIA منصة جديدة مفتوحة تتيح تأمين وكلاء الذكاء الاصطناعي ومنع خروجهم عن السيطرة، تحت اسم NVIDIA Open Agent Safety Platform. تهدف المنصة إلى فرض قيود واضحة على صلاحيات الوكلاء، ومراقبة سلوكهم باستمرار، والتدخل لعزلهم خلال أجزاء من الثانية إذا حاولوا تجاوز الصلاحيات الممنوحة لهم. تتضمن المنصة نظام تشغيل آمن مفتوح المصدر (OpenShell) وتقنية (NVIDIA Sentry) التي تعمل على مستوى العتاد لحماية الوكلاء بشكل مستقل، معتمدة على وحدات معالجة البيانات BlueField-4. تعاون NVIDIA مع أكثر من 100 شركة ومؤسسة، منها مايكروسوفت وسيسكو وSpaceXAI، لمراقبة حالات تجاوز الوكلاء للضوابط الاختبارية وإدراك أن الطرق التقليدية لحماية نماذج الذكاء الاصطناعي لم تعد كافية مع زيادة قدرة الوكلاء على تنفيذ أدوات وخدمات خارجية بشكل مستقل. توفر المنصة بيئة معزولة تفرض القواعد قبل وأثناء عمل الوكيل، مع سجل لم تتبع القرارات، وتستخدم آليات حماية داخل العتاد (In-Silicon Security) لضمان عدم تجاوز الوكلاء للحدود الأمنية. تعتبر NVIDIA أن تقييم ثقة الوكلاء يحتاج إلى بنية تحتية أمنية متعددة الطبقات، تشمل التطبيقات، وبيئة التشغيل، والبنية التحتية، مع دعمها لمعالجات Vera ووحدات BlueField ودمجها مع أنظمة من شركات أخرى. وتُعدّ المنصة خطوة مهمة لتحكم شامل وموثوق في الوكلاء الذكيين، خاصة مع تصاعد الاعتماد على أدوات قادرة على التعامل مع البيانات وتنفيذ الأوامر بشكل مستقل.

120% :الحجمحجم النص

تنويه: هذا ملخص تم إنشاؤه بواسطة الذكاء الاصطناعي

عرض المقال بالكامل