إنفيديا تطلق منصة مراقبة الذكاء الاصطناعي

كشفت شركة "إنفيديا" الأمريكية عن منصة أمنية جديدة خاصة بوكيل الذكاء الاصطناعي تُسمى "Open Agent Safety Platform"، تهدف إلى ضمان سلامة الوكلاء ومنع تجاوزهم للصلاحيات الممنوحة لهم. تتضمن المنصة برمجية "OpenShell" المفتوحة المصدر، التي تتيح للمطورين تحديد حدود آمنة لوكلائهم والتحقق من التزامهم بها، بالإضافة إلى نظام "Sentry" للمراقبة الأمنية المستقلة. يُراقب النظام نشاط الوكلاء بشكل مستمر، ويمكنه عزل وإيقاف الوكيل خلال أجزاء من الثانية عند محاولة تجاوزه للحدود المحددة، لتعزيز الأمان وضمان الالتزام بالتعليمات المحددة.

120% :الحجمحجم النص

تنويه: هذا ملخص تم إنشاؤه بواسطة الذكاء الاصطناعي

عرض المقال بالكامل