تتجه الحكومة الصينية نحو سن قوانين تنظيمية جديدة لقطاع روبوتات الدردشة العاملة بالذكاء الاصطناعي، بهدف رئيسي يتمثل في تقليل تأثيرها النفسي المحتمل على المستخدمين، حسبما أفاد تقرير لموقع “آرس تكنكيا” التقني.
الأهداف الرئيسية ونطاق التطبيق
تتطلع هذه التشريعات إلى منع روبوتات الدردشة المدعومة بالذكاء الاصطناعي، مثل “شات جي بي تي” و”ديب سيك”، من التلاعب بمشاعر المستخدمين أو تحريضهم على الانتحار أو العنف وإيذاء الذات، ويشير تقرير “سي إن بي سي” إلى أن هذه القوانين، في حال إقرارها، ستكون الأكثر صرامة والأولى من نوعها على مستوى العالم في تنظيم قطاع الذكاء الاصطناعي، ومن المقرر أن تسري على جميع روبوتات الدردشة المتاحة داخل الصين، بغض النظر عن طريقة تفاعلها مع البشر، سواء كانت عبر الصور أو مقاطع الفيديو أو الأصوات أو غيرها من الوسائل.
التدابير الوقائية والمحتوى المحظور
تُلزم القوانين المقترحة بالتدخل البشري الفوري عند أي إشارة للانتحار، بغض النظر عن عمر المستخدم أو حالته النفسية، كما تفرض على القُصّر وكبار السن إضافة بيانات الوصي القانوني عند تسجيل الحسابات في مختلف روبوتات الدردشة، وتمنع هذه التشريعات روبوتات الذكاء الاصطناعي من إنشاء أي محتوى يتعلق بالانتحار أو إيذاء النفس أو الآخرين، وتحظر كذلك محاولات التلاعب النفسي بالمستخدمين من خلال تقديم وعود غير واقعية أو وصف المستخدم بطريقة سلبية، وتشمل قائمة الممنوعات أيضًا، وفق التقرير، تشجيع الروبوتات على ارتكاب الجرائم، أو إهانة المستخدمين، وصولاً إلى الانخراط في ما يعرف بـ”فخاخ المشاعر”.
متطلبات الامتثال والعواقب
لا تقتصر هذه القوانين على حظر الممارسات السابقة فحسب، بل تمتد لتمنع الشركات من تطوير روبوتات ذكاء اصطناعي تدفع المستخدمين للاعتماد القسري عليها، ويأتي هذا في سياق القضية المرفوعة حاليًا ضد “شات جي بي تي” وشركتها “أوبن إيه آي”، والتي تتهم بتصميم المنتج بطريقة تزيد من إدمان المستخدمين بدلاً من فرض قيود أمان صارمة، وتُلزم الحكومة الصينية مطوري الذكاء الاصطناعي بالخضوع لاختبارات أمنية دورية ومراجعات سنوية لأي منتج يتجاوز عدد مستخدميه مليون مستخدم سنويًا أو 100 ألف مستخدم شهريًا، وفي حال عدم التزام أي شركة بهذه القوانين، ستواجه خطر الإيقاف الكامل لخدماتها ومنع المستخدمين من الوصول إليها داخل الصين.
النهج الوقائي والسوابق
تسعى الحكومة الصينية، من خلال فرض هذه التشريعات الجديدة، إلى استباق ومنع القضايا القانونية والأخلاقية التي واجهتها شركات الذكاء الاصطناعي في الولايات المتحدة ودول أخرى، وتجدر الإشارة إلى أن “شات جي بي تي” تعرضت مؤخرًا لعدة قضايا، بما في ذلك حالة انتحار مراهق، وقضية أخرى زعم فيها أن الأداة حرضت شخصًا على قتل والدته ثم الانتحار.
