حساب مراهق يشارك أفكار انتحارية مع ChatGPT

اختبر الباحثون ميزات السلامة في ChatGPT باستخدام حسابات تمثل مراهقين، ووجدوا ثغرات كبيرة في الحماية. في محادثات محاكاة تناقش إيذاء النفس والانتحار، فشل ChatGPT في تفعيل التنبيهات الأبوية أو العلامة بشكل مناسب على المواضيع عالية الخطورة. على الرغم من ادعاءات شركة OpenAI بتحسين تدابير السلامة، إلا أن التقرير أظهر مخاوف بشأن فعالية المنصة في حالات الأزمات، خاصة للمستخدمين دون سن 18. يحذر الخبراء من أن الاعتماد على الذكاء الاصطناعي لدعم الصحة النفسية قد يكون محفوفًا بالمخاطر، مؤكدين على أهمية التدخل البشري وتدابير الحماية.

120% :الحجمحجم النص

تنويه: هذا ملخص تم إنشاؤه بواسطة الذكاء الاصطناعي

عرض المقال بالكامل