أطلقت شركة الذكاء الاصطناعي “أوبن أيه آي”، يوم الخميس نموذج “GPT-5.2″، مُشيدةً بأدائه المُحسّن في مجال السلامة النفسية.
تحسينات على استجابة النماذج في المحادثات الحساسة
قالت الشركة، في منشور على مدونتها: “مع هذا الإصدار، واصلنا جهودنا لتعزيز استجابات نماذجنا في المحادثات الحساسة، مع تحسيناتٍ جوهرية في كيفية الرد على الطلبات التي تُشير إلى علامات الانتحار أو إيذاء النفس، أو الضيق النفسي، أو الاعتماد العاطفي على النموذج.”
التحديات القانونية والانتقادات التي تواجه “أوبن أيه آي”
يأتي هذا فيما واجهت “أوبن أيه آي” مؤخرًا انتقادات ودعاوى قضائية تتهم روبوتها للدردشة شات جي بي تي، الذي تشغله نماذج “GPT”، بالمساهمة في بعض حالات الذهان والبارانويا والأوهام لدى بعض المستخدمين، حيث توفي بعض هؤلاء المستخدمين نتيجة الانتحار بعد محادثات طويلة مع روبوت الدردشة، الذي يعاني من مشكلة موثقة في “الإطراء المفرط” أو تملق المستخدم.
رد “أوبن أيه آي” على الاتهامات
وفي ردٍّ على دعوى قضائية تتعلق بالوفاة غير المشروعة لفتى يدعى آدم راين، يبلغ من العمر 16 عامًا، نفت “أوبن أيه آي” مسؤولية روبوتها للدردشة، وادّعت أن “شات جي بي تي” وجّه المراهق لطلب المساعدة بشأن أفكاره الانتحارية، وذكرت أن المراهق “أساء استخدام” المنصة.
تركيز على تحسين استجابة “شات جي بي تي”
في الوقت نفسه، تعهدت “أوبن أيه آي” بتحسين استجابة “شات جي بي تي” عند ظهور علامات تحذيرية لدى المستخدمين بشأن إيذاء النفس أو الأزمات النفسية، ومع تزايد ارتباط المستخدمين عاطفيًا بروبوتات الدردشة المدعومة بالذكاء الاصطناعي، تواجه شركات الذكاء الاصطناعي تدقيقًا متزايدًا بشأن الضمانات التي توفرها لحماية المستخدمين.
تحسينات جديدة في نموذج “GPT-5.2”
والآن، تقول “أوبن أيه آي” إن أحدث نماذج الذكاء الاصطناعي المُشغلة لشات جي بي تي ستقدم “استجابات غير مرغوبة أقل” في المواقف الحساسة، بحسب تقرير لموقع “ماشابل” المتخصص في أخبار التكنولوجيا، اطلعت عليه “العربية Business”.
وفي منشور المدونة الذي كشفت فيه عن” GPT-5.2″، قالت “أوبن أيه آي” إن نموذج “GPT-5.2” يحقق نتائج أفضل في اختبارات السلامة المتعلقة بالصحة النفسية، والاعتماد العاطفي، وإيذاء النفس، مقارنةً بنماذج “GPT-5.1” السابق له.
أساليب السلامة الجديدة
وكانت “أوبن أيه آي” ذكرت سابقًا أنها تستخدم “الإكمال الآمن”، وهو نهج جديد لتدريب النماذج على السلامة يوازن بين الفائدة والسلامة، ومع ذلك، لاحظت الشركة أيضًا أن نموذج “GPT-5.2” يرفض عددًا أقل من الطلبات المتعلقة بالمحتوى المخصص للبالغين، خصوصًا النصوص ذات الطابع الجنسي، لكن يبدو أن هذا لا يؤثر على المستخدمين الذين تعرف “أوبن أيه آي” أنهم قاصرون، إذ تُشير الشركة إلى أن إجراءات السلامة العمرية “تعمل بشكل جيد على ما يبدو”.
حماية إضافية للمحتوى الموجه للقاصرين
وتطبق “أوبن أيه آي” أيضًا حماية إضافية للمحتوى الموجه للقاصرين، بما في ذلك:
– تقليل الوصول إلى المحتوى الذي يحتوي على العنف أو المشاهد الدموية.
– تقليل الوصول إلى التحديات الرائجة.
– تقليل الوصول إلى لعب الأدوار ذات الطابع الجنسي أو الرومانسي أو العنيف.
– تقليل الوصول إلى “معايير الجمال المتطرفة”.
تطوير نموذج لتوقع العمر
وتعمل “أوبن أيه آي” أيضًا على تطوير نموذج لتوقع العمر، والذي سيمكن “شات جي بي تي” من تقدير أعمار مستخدميه للمساعدة في توفير محتوى أكثر ملاءمة لأعمار المستخدمين الأصغر سنًا، وفي وقت سابق من هذا الخريف، قدمت أوبن أيه آي ضوابط أبوية في “شات جي بي تي”، تتضمن مراقبة وتقييد أنواع معينة من الاستخدام.
دعاوى قضائية ضد شركات الذكاء الاصطناعي
ولا تُعد “أوبن أيه آي” الشركة الوحيدة المتهمة بتفاقم مشكلات الصحة النفسية، ففي العام الماضي، قامت أم برفع دعوى قضائية ضد شركة “Character.AI” بعد وفاة ابنها منتحرًا، وتدعي دعوى قضائية أخرى أن الأطفال تضرروا بشدة نتيجة “الشخصيات” على تلك المنصة، وقال خبراء في السلامة على الإنترنت إن “Character.AI” غير آمنة للمراهقين.
