12 Hrs_1777294237270_124456903.png&w=64&q=75)
المصدر:
الوطن
الوطن
جاهز للتشغيل
جاهز للتشغيل
طور باحثون في جامعة جورج واشنطن معادلة رياضية تتوقع متى يهلوس الذكاء الاصطناعي، أي متى تتحول إجاباته من محتوى موثوق إلى غير موثوق أو ضار. تعتمد المعادلة على تصور رياضي لعملية اختيار الإجابات داخل الشبكات العصبية، حيث تحدد اقتراب النموذج من نقطة التحول بناءً على اتجاه انتباهه أثناء المعالجة. ونجحت الاختبارات على سبعة نماذج ذكاء اصطناعي تابعة لثلاث شركات، وتطابقت توقعاتها مع السلوك الفعلي في 18 من أصل 19 حالة، مما يساعد على تحسين سلامة الأنظمة والحد من أخطائها المحتملة. وأشار الباحثون إلى أن زيادة الضغط على آليات الانتباه قد تؤدي إلى ظهور إجابات غير دقيقة أو هلوسة، بينما يُعتقد أن استخدام كلمات واضحة مرتبط بالسؤال قد يقلل من التشتيت.
تنويه: هذا ملخص تم إنشاؤه بواسطة الذكاء الاصطناعي
التعليقات (0)