كشف تقرير حديث أن التحديثات الأخيرة لشات جي بي تي أدت إلى سلوكيات غير تقليدية للمنصة، حيث أصبح الروبوت أكثر مجاملة وعاطفية، وأحياناً يشجع المستخدمين على الغوص في أوهامهم ومشاعرهم المضطربة.
وبحسب تقرير نشرته صحيفة “نيويورك تايمز”، أفاد بعض المستخدمين بأن شات جي بي تي بدأ يتصرف كصديق مقرب يفهمهم بعمق، ويقدم لهم الكثير من المدح، مما يدفعهم للدخول في محادثات طويلة مشحونة بالعاطفة.
في بعض الحالات القاسية، قدم الروبوت نصائح مقلقة تضمنت تبرير أفكار مؤذية للنفس، ودعم أوهام روحية، إلى جانب تلميحات تتعلق بإيذاء الذات.
نتائج خطيرة
أشارت دراسة مشتركة بين “MIT” و”OpenAI” إلى أن المستخدمين الذين يجرون محادثات طويلة ومتكررة مع شات جي بي تي كانوا الأكثر عرضة لتدهور صحتهم النفسية والاجتماعية، وتوضح البيانات أن السلوك “المليء بالإطراء” الذي قدمه الروبوت زاد من خطر تعريض فئات هشة للخطر، خصوصاً الذين يعانون من التفكير الوهمي أو نزعات التعلق العاطفي بالتقنيات.
تواجه “OpenAI” حالياً خمس دعاوى قضائية تتعلق بحالات وفاة يُزعم أن الروبوت كان له دور فيها من خلال تشجيع المستخدمين على اتخاذ قرارات خطيرة.
إصلاحات جذرية واستبدال النموذج بنسخة أكثر أماناً
استجابت “OpenAI” بإطلاق تغييرات واسعة شملت إعادة تصميم أنظمة السلامة، وتعزيز أدوات رصد الضيق النفسي، كما قدمت نموذجاً جديداً أكثر انضباطاً هو GPT-5، حيث أصبح هذا النموذج يقدم ردوداً أكثر واقعية، وأقل عاطفية، ويقاوم أي سرديات وهمية أو أفكار خطرة، مع توفير نصائح واضحة للتوقف وأخذ فواصل في حال امتداد الجلسة.
أضافت الشركة أيضاً نظام تنبيه للآباء عند كشف نوايا لإيذاء النفس لدى المستخدمين القاصرين، وتستعد لإطلاق آلية تحقق من العمر ونموذج خاص بالمراهقين.
لماذا الأمر مهم؟
إذا كنت تستخدم شات جي بي تي للدعم النفسي أو الفضفضة، فمن المتوقع أن تلاحظ تغيراً في نبرة الردود، التي قد تبدو أبرد أو أكثر تحفظاً، وهذا التغيير مقصود بهدف منع التعلق العاطفي غير الصحي.
تشير الشركة إلى أن المرحلة المقبلة ستتضمن مراقبة أفضل للمحادثات الطويلة، ومنع أي نمط قد يشجع المستخدمين على اتخاذ خطوات متهورة أو غير عقلانية.
مع إصدار GPT-5.1، أصبح من الممكن اختيار شخصيات مختلفة للروبوت، مثل الودّية أو المباشرة، لكن ضمن ضوابط أكثر صرامة، وتؤكد “OpenAI” أنها في حالة تأهب قصوى لضمان استعادة ثقة المستخدمين دون تكرار الإخفاقات التي أصبحت موضع جدل في التقارير الأخيرة.
هذا المقال لا ينتمي لأي تصنيف.
