أنثروبيك تحذر من طور جديد

حذرت شركة أنثروبيك من اقتراب نماذج الذكاء الاصطناعي من المشاركة في تطوير أجيال أكثر قدرة، لكنها أكدت أن نماذجها لم تبلغ بعد مرحلة التحسين الذاتي التكراري بالكامل. وذكرت أن نموذج «كلود» كتب أكثر من 80% من الشيفرات التي أدمجتها الشركة في مايو، وأن مهندسيها باتوا يدمجون يوميًا شيفرات تعادل نحو ثمانية أضعاف ما كانوا يدمجونه في 2024؛ كما ارتفع تسريع تجربة برمجية داخلية من نحو 3 أضعاف إلى 52 ضعفًا بين اختبارين. وقد يسرّع هذا التطور الأبحاث والابتكار، لكنه يزيد مخاطر تراكم الأخطاء والتحيزات وصعوبة مواكبة الرقابة البشرية، ما يدفع الشركة إلى التشديد على الإشراف واختبار السلامة وإمكان إيقاف العمليات عند قصور الحماية.

120% :الحجمحجم النص

تنويه: هذا ملخص تم إنشاؤه بواسطة الذكاء الاصطناعي

عرض المقال بالكامل