«عندما يخطئ الذكاء الاصطناعي:» جدل متصاعد حول موجة الاعتقالات الخاطئة بأنظمة المراقبة المدعومة بالذكاء الاصطناعي في المدارس الأميركية

تتصاعد وتيرة استخدام أنظمة المراقبة المعتمدة على الذكاء الاصطناعي بشكل ملحوظ في المدارس الأميركية، بهدف رئيسي هو الكشف عن أي مؤشرات رقمية قد تدل على سلوك عنيف أو تهديد محتمل يصدر عن الطلاب.

ومع ذلك، أضحت تبعات هذه السياسات مصدر قلق متزايد، حيث تُظهر التقارير الحديثة أن هذه الأنظمة غالبًا ما تصدر “إنذارات كاذبة”، مما يفضي إلى اعتقالات واحتجازات لطلاب لا أساس لها من الصحة.

تداعيات مقلقة للإنذارات الكاذبة

في سياق متصل، كشف تقرير لصحيفة Milwaukee Independent عن تسجيل نظام مراقبة يُعرف باسم “Gaggle” لأكثر من 1200 تنبيه خلال عشرة أشهر فقط في إحدى مناطق ولاية كانساس الأميركية، ومع ذلك، لم يشِر ثلثا هذه التنبيهات إلى أي تهديدات فعلية، مما يبرز حجم المشكلة.

قوانين صارمة وعواقب غير متوقعة

على الرغم من ذلك، تفرض بعض الولايات، مثل تينيسي وفلوريدا، قوانين صارمة تلزم المدارس بإبلاغ الشرطة عن أي إشارة محتملة للعنف، حتى لو كانت مجردة من السياق أو لا تشكل خطرًا حقيقيًا.

على سبيل المثال، شهدت منطقة مدارس بولك بولاية فلوريدا اعتقال أو احتجاز ما لا يقل عن 72 طالبًا على مدار أربع سنوات، وذلك بناءً على بلاغات رصدتها تقنيات المراقبة، وتبين أن العديد من هذه الحالات كانت ناجمة عن مزاح بسيط أو تعليقات غير ناضجة شاركها الطلاب عبر الإنترنت.

تجارب صادمة وتأثير نفسي عميق

يؤكد المحامون وخبراء حقوق الطفل أن عددًا كبيرًا من هؤلاء الطلاب قد تعرضوا لتجارب صادمة، شملت الاعتقال والتحقيق، وربما حتى التفتيش الجسدي، وكل ذلك دون إدراكهم أن رسائلهم الإلكترونية ومحادثاتهم كانت تحت المراقبة المشددة، وفي معظم هذه الحالات، لم يكن هناك تهديد حقيقي أو نية للعنف على الإطلاق.

تُعرب ليسلي ماثيس، والدة طالبة في الصف الثامن، عن أسفها الشديد لما حدث لابنتها، التي اعتُقلت وقضت ليلة كاملة في الحجز بسبب مزحة إلكترونية بين الزملاء، واصفة الواقعة بأنها حصيلة مباشرة “لتقنية غير مدروسة تفتقر إلى فهم السياق”.

عواقب طويلة الأمد ودفاع مثير للجدل

تربط دراسات متعددة بين التعرض للاحتجاز في سن المراهقة، حتى ولو لفترات قصيرة، وبين تدهور فرص النمو السليم في المستقبل، سواء تعلق الأمر بفرص العمل أو الصحة النفسية أو حتى احتمالات العودة لارتكاب الجرائم.

وعلى الرغم من هذه النتائج المثيرة للقلق، يواصل بعض مسؤولي المدارس تبرير استمرار الاعتماد على هذه الأنظمة، معتبرين إياها “تضحية لا غنى عنها من أجل الصالح العام”، وذلك على الرغم من الافتقار التام لأي أدلة تثبت أن المراقبة الرقمية تُساهم فعليًا في التقليل من حوادث العنف داخل المدارس.

ذو صلة > شرطة الإنتربول تنقذ 40 مليون دولار من الاحتيال الإلكتروني