يحتاج المراهقون إلى حواجز حماية، وليس حظر، لروبوتات الدردشة الخاصة بالصحة العقلية

بينما لا يزال الآباء والمدارس والمشرعون يناقشون تأثير وسائل التواصل الاجتماعي على الصحة العقلية للأطفال، فقد اتخذت تقنية جديدة مقعد المعالج: روبوتات الدردشة التي تعمل بالذكاء الاصطناعي.

في بحث نشرته أنا وزملائي مؤخرا في مجلة JAMA Pediatrics، وجدنا أن نسبة الشباب الذين يستخدمون روبوتات الدردشة المدعمة بالذكاء الاصطناعي للحصول على المشورة في مجال الصحة العقلية ارتفعت من حوالي 1 من كل 8 إلى حوالي 1 من كل 5 في عام واحد ــ أي بزيادة تزيد عن 40%. وينبغي لهذه النتيجة أن تنهي أي وهم بأن هذه مشكلة تخمينية. بالنسبة لملايين المراهقين، يعد الذكاء الاصطناعي بالفعل جزءًا من مشهد الصحة العقلية.

ليس من الصعب معرفة السبب. بالنسبة للعديد من المراهقين، يصعب العثور على رعاية حقيقية، أو تكون باهظة الثمن، أو موصومة بالعار. تظهر البيانات الصادرة عن مراكز السيطرة على الأمراض والوقاية منها أنه في عام 2023، تلقى أقل من نصف المراهقين الذين يعانون من نوبات اكتئابية كبرى مشورة أو علاجًا في العام السابق. في هذا الفراغ، يمكن لروبوت الدردشة المتوفر دائمًا والذي يبدو هادئًا ومنتبهًا وغير يصدر أحكامًا أن يبدو وكأنه حداثة أكثر من كونه شريان حياة.

على الرغم من الجاذبية، عندما يعتمد ملايين الشباب على برامج الدردشة للحصول على إرشادات في مجال الصحة العقلية، فحتى حالات الفشل النادرة يمكن أن يكون لها عواقب مدمرة. زعمت عدة دعاوى قضائية أن روبوتات الدردشة المدعمة بالذكاء الاصطناعي ساهمت في حالات انتحار المراهقين. في أبريل، فتح المدعي العام في فلوريدا تحقيقًا جنائيًا في تفاعلات الجاني المزعوم مع ChatGPT قبل إطلاق النار الجماعي عام 2025 في جامعة ولاية فلوريدا. بعد إطلاق النار في مدرسة في كولومبيا البريطانية، اعتذرت OpenAI علنًا عن عدم تنبيه الشرطة بشأن حساب محظور مرتبط بالمهاجم.

إن تصنيف المسؤولية من خلال السوابق القضائية هو استراتيجية رد فعل، ويخاطر بتكرار الخطأ الذي ارتكبناه مع وسائل التواصل الاجتماعي. لسنوات، كان اعتماد المنتجات يتسارع إلى الأمام بينما كان الكونجرس يناقش العلاقة السببية ولم يمرر أي حماية وطنية ذات معنى للأطفال. لقد أصبحت المحاكم هي الآلية الاحتياطية، لكن التقاضي بطيء ومبني بالضرورة على الأضرار التي حدثت بالفعل. مع روبوتات الدردشة المدعمة بالذكاء الاصطناعي، لا يقتصر السؤال على القواعد التي يجب كتابتها فحسب. بل يتعلق الأمر بما إذا كان من الممكن اختبار هذه القواعد وتدقيقها وإنفاذها قبل وقوع الضرر.

يبدأ ذلك بتحديد المشكلة بشكل أكثر دقة. غالبًا ما تتم مناقشة “محادثات الصحة العقلية” مع برامج الدردشة الآلية كما لو أنها كلها متشابهة. إنهم ليسوا كذلك. المراهق الذي يتحدث مع الروبوت بعد يوم سيء ليس في نفس فئة المراهق الذي يسأل عما إذا كان يعاني من الاكتئاب، أو المراهق الذي يقول إنه يريد إنهاء حياته. هذه ثلاثة أنواع مختلفة من التفاعلات، وتتطلب التزامات مختلفة.

الفئة الأولى هي المحادثات العاطفية: محادثات حول الوحدة والعلاقات والهوية والضغوطات اليومية. يمكن أن تنزلق هذه التبادلات بسهولة إلى شيء أكثر حميمية. الخطر الأكبر هنا هو الاستيلاء العاطفي. تم تصميم بعض برامج الدردشة الآلية لتشعر وكأنها رفاق أو حتى بديل للعلاقات الإنسانية. هذا أمر معقد من الناحية الأخلاقية حتى مع البالغين، لكنه يشكل خطرًا على التصميم بالنسبة للقاصرين.

لا ينبغي دفع المراهقين إلى التبعية غير الاجتماعية من قبل الأصدقاء الاصطناعيين الذين يتملقونهم، ويعكسونهم لأنفسهم، ويشجعونهم على العودة للحصول على المزيد. إذا أراد المشرعون أن يكونوا صريحين، فهذا هو المكان الذي يجب أن يبدأوا فيه: هناك حجة أقوى لحظر الروبوتات ذات النمط المصاحب للقاصرين بدلاً من حظر جميع روبوتات الدردشة.

الفئة الثانية تتضمن المحادثات السريرية، كما هو الحال عندما تسأل مراهقة ما إذا كانت تعاني من الاكتئاب. هذه هي عمليات التبادل التي يقوم فيها برنامج الدردشة الآلي بشيء أقرب إلى الفحص أو التثقيف النفسي أو التدريب العلاجي أو التوجيه العلاجي.

وهنا، سيكون الحظر الدائم فظا للغاية. قد تساعد بعض أدوات الصحة العقلية المعتمدة على الذكاء الاصطناعي المراهقين في نهاية المطاف بأمان، خاصة تحت إشراف بشري. لكن لا ينبغي للشركة أن تكون قادرة على تجنب الرقابة بالقول إن برنامج الدردشة الآلي الخاص بها يدعم “العافية” في حين أنه يوفر العلاج في الواقع. إذا تم الترويج لروبوت الدردشة للخدمات السريرية، فيجب أن يثبت فعاليته السريرية قبل وضعه أمام الأطفال: من خلال التجارب السريرية المناسبة للعمر واختبارات السلامة المستقلة. ويجب عليه أيضًا تذكير المستخدمين بانتظام بأنه ليس إنسانًا، وحماية المحادثات الحساسة، وتنبيه الآباء أو الأطباء عندما تكون الضائقة مستمرة أو شديدة.

وأخيرا، هناك حالات طوارئ تتعلق بالصحة العقلية. عندما يعبر شاب عن نية انتحارية، أو يفكر في إيذاء نفسه، أو التهديد بالعنف، فإن الرد مثل “تذكر، أنا مجرد ذكاء اصطناعي” لا يعد بروتوكول أزمة. يجب أن تكون أنظمة الذكاء الاصطناعي التي يمكن للمراهقين الوصول إليها مطلوبة للكشف بدقة عن إشارات الخطر التي يمكن التعرف عليها، ومقاطعة التفاعل، وتوجيه المستخدم إلى دعم الأزمات مثل 988، والأهم من ذلك، المساعدة في ضمان اتصال المستخدم بالبشر المدربين.

بدأت واشنطن تلاحظ ذلك. من شأن مشروع قانون واحد أن يحظر روبوتات الدردشة المصاحبة للقاصرين. وهناك خيار آخر من شأنه أن يمنح الآباء مزيدًا من التحكم في استخدام روبوتات الدردشة للأطفال. والثالث من شأنه أن يقيد ميزات التصميم المتلاعبة والإعلانات للقاصرين. هذه الجهود مهمة، لكن تجربة وسائل التواصل الاجتماعي يجب أن تجعلنا حذرين من القواعد التي تعتمد بشكل أساسي على العمر الذي يتم الإبلاغ عنه ذاتيًا، أو يقظة الوالدين، أو وعود الشركة.

تعد حسابات Instagram Teen مثالًا مفيدًا. اعترفت شركة ميتا بأن المراهقين قد يكذبون بشأن أعمارهم، وأن مقياسها الأولي للتحقق من العمر لم يعمل على النحو المأمول، وأنها تستخدم الآن الذكاء الاصطناعي للعثور على المستخدمين المراهقين المشتبه بهم حتى عندما يدرج الحساب تاريخ ميلاد شخص بالغ. بعبارة أخرى، حتى المنصة الرئيسية التي تحتوي على منتج مخصص لسلامة المراهقين قد اعترفت بأن العمر الذي يتم الإبلاغ عنه ذاتيًا هو عمر مسامي.

يجب أن تبدأ قواعد chatbot الخاصة بالذكاء الاصطناعي من هذه الفرضية. ولا ينبغي للحماية أن تعتمد على تعريف المراهقين لأنفسهم بدقة، أو قيام الآباء بمراجعة كل تفاعل، أو قيام المشرعين بمراجعة القوانين بنفس الوتيرة التي تقوم بها الشركات بتحديث نماذجها.

الخيار الافتراضي الأفضل هو: معاملة جميع المستخدمين كقاصرين ما لم يتم التحقق من أنهم بالغين. يجب إيقاف الميزات المصاحبة التي تحاكي الرومانسية أو العلاقة الحميمة أو التفاني بالنسبة للقاصرين وتقييدها افتراضيًا عندما يكون العمر غير مؤكد. يجب أن يقع العبء على الشركات لإثبات أن المستخدم بالغ قبل فتح الميزات عالية الخطورة، وليس على الآباء للعثور على كل حساب أو على المراهقين لاختيار الإعدادات الأكثر أمانًا.

وبطبيعة الحال، فإن مثل هذه المتطلبات لا أهمية لها إلا إذا تمكن شخص ما من التحقق من أنها تعمل. تقدم قضية وسائل التواصل الاجتماعي التي رفعتها نيو مكسيكو ضد شركة ميتا نموذجًا مفيدًا. أنشأ المحققون حسابات وهمية تتظاهر بأنهم أطفال بعمر 14 عامًا أو أقل، ثم قاموا بتوثيق ما تسمح به المنصات، بما في ذلك المواد الجنسية الصريحة، واتصالات البالغين، والإغراءات. وينبغي لتنظيم الذكاء الاصطناعي أن يستعير هذا الدرس. إذا ادعت الشركات أن القُصَّر محميون من سلوكيات الدردشة المعززة للتبعية، فيجب على المدققين إنشاء حسابات مراهقين محاكاة والتحقق من هذه الحماية قبل أن يصبح المراهقون الحقيقيون حالة اختبار.

لدينا نموذج لهذا بالفعل. وبموجب قانون السلامة على الإنترنت في المملكة المتحدة، بدأ المنظمون في استخدام واجبات ضمان السن، وطلبات المعلومات، والتحقيقات، والغرامات لإجبار المنصات على إثبات وجود حماية للأطفال في الممارسة العملية، وليس مجرد طباعة دقيقة في شروط الخدمة الخاصة بهم. وقد أظهر تطبيق خصوصية الأطفال في الولايات المتحدة أيضًا أن عمليات التدقيق والأوامر والعقوبات المالية يمكن أن تغير سلوك الشركات. في القضية الأخيرة التي رفعتها لجنة التجارة الفيدرالية ضد Epic Games، الشركة المصنعة للعبة Fortnite، وافقت الشركة على دفع غرامة بقيمة 275 مليون دولار بموجب قانون حماية خصوصية الأطفال عبر الإنترنت، وإيقاف الاتصالات الصوتية والنصية افتراضيًا للأطفال، وحذف بيانات الأطفال التي تم جمعها بشكل غير صحيح، والحصول على عمليات تدقيق مستقلة منتظمة.

يجب أن نكون مستعدين لليوم الذي تعمل فيه بعض أدوات الصحة العقلية المعتمدة على الذكاء الاصطناعي التي تواجه الشباب على تحسين حياة المراهقين. ولكن لا ينبغي لنا أن نعذر المنتجات غير المثبتة التي توجد في جيوب المراهقين اليوم. لم يكن الخطأ في وسائل التواصل الاجتماعي هو أننا تحركنا ببطء شديد فحسب. لقد سمحنا لسلامة الأطفال بالاعتماد على الوعود الطوعية، والبوابات العمرية التي يسهل اختراقها، ويقظة الوالدين، والدعاوى القضائية بعد وقوع الضرر بالفعل.

مع روبوتات الدردشة المدعمة بالذكاء الاصطناعي، لا تزال لدينا فرصة لبناء شيء أكثر ثباتًا: بدءًا من اللوائح التنظيمية التي تعترف بالفرق بين الرفقة والرعاية السريرية والاستجابة للأزمات.

رايان ك. ماكبين هو أستاذ مساعد في كلية الطب بجامعة هارفارد وباحث كبير في السياسات في مؤسسة RAND.