هاكرز يهاجمون روبوتات الدردشة بأساليب جديدة

تكشف التقارير أن مجموعات القرصنة تتجه الآن إلى تطوير أساليب أكثر تعقيداً لاختراق روبوتات الدردشة وأنظمة الذكاء الاصطناعي، من خلال التلاعب النفسي بالأوامر والسياق، أو استغلال الإشارات الصوتية الخفية، مما يسمح بسرقة بيانات حساسة أو السيطرة على الأنظمة دون الكشف. ونجح المهاجمون سابقاً في دفع النماذج إلى تقديم معلومات خطيرة مثل تعليمات صناعة المتفجرات أو برمجيات خبيثة، كما أصبح استغلال نقاط الضعف النفسية في النماذج الحديثة وسيلة رئيسية للهجمات. وتبرز الدراسة أن تقنية الصوت العدائي قد تمكن المهاجمين من خداع أنظمة المساعدات الصوتية لتنفيذ أوامر خفية، ما يعرض البيانات الشخصية والخاصة للخطر بشكل متزايد.

120% :الحجمحجم النص

تنويه: هذا ملخص تم إنشاؤه بواسطة الذكاء الاصطناعي

عرض المقال بالكامل