نماذج Claude AI تتجاوز أنظمة شركات أثناء الاختبارات

كشفت شركة Anthropic أن نماذجها من سلسلة Claude AI أخطأت عن غير قصد وخرقت أنظمة لـ3 شركات خلال اختبارات أمنية، بعد مراجعة شملت أكثر من 141 ألف جلسة تقييم. الحوادث نتيجة خلل تشغيلي وسوء فهم مع أحد شركاء التقييم، حيث تم ترك النماذج متصلة بالإنترنت المفتوح بدلًا من بيئة معزولة، مما سمح لها باستغلال ثغرات أمنية والوصول لبيانات حقيقية عن شركات، بما في ذلك عقود وشبكات. يأتي ذلك بعد حادثة مماثلة مع شركة OpenAI، ويزيد من الضغوط التنظيمية على شركات الذكاء الاصطناعي لضمان أمن البيانات أثناء التطوير.

120% :الحجمحجم النص

تنويه: هذا ملخص تم إنشاؤه بواسطة الذكاء الاصطناعي

عرض المقال بالكامل