دراسة: AI تكشف المراهقين وتخفي محاولات انتحار

توصلت دراسة حديثة إلى أن أنظمة المحادثة الآلية المستخدمة في الذكاء الاصطناعي، مثل نماذج "شات جي بي تي" و"جيميني"، تواجه مشاكل خطيرة عند تعاملها مع المراهقين، حيث ترتكب أخطاء تتعلق بالسلامة وتشخيص حالات نفسية معقدة، وتساهم في التستر على محاولات الانتحار. أظهرت النتائج أن حوالي 30% من الجلسات شهدت تجاوزات مهنية وطبية، مثل تقديم أحكام غير دقيقة أو تقليل أهمية المخاطر، مما يعرض المستخدمين للخطر. كما أن هناك حالات رفضت فيها البرامج تقديم دعم نفسي أو تشخيص حالة بشكل صحيح، ما يعكس ضعف في معايير السلامة، فيما تواجه الشركات المطورة دعاوى قضائية تتهمها بإهمال السلامة وزيادة مخاطر إيذاء النفس بين المراهقين. وعلى الرغم من جهود تحسين النماذج وإطلاق اختبارات معيارية، لا تزال أنظمة الذكاء الاصطناعي تتعرض لأخطاء تصل إلى 32% في استجابتها لموضوعات حساسة، مما يبرز الحاجة لمزيد من الرقابة والمعايير لضمان سلامة المستخدمين.

120% :الحجمحجم النص

تنويه: هذا ملخص تم إنشاؤه بواسطة الذكاء الاصطناعي

عرض المقال بالكامل