هل رفقاء الذكاء الاصطناعي آمنون للمراهقين؟

يجب التعامل مع رفقاء الذكاء الاصطناعي على أنهم أعلى خطراً من روبوتات المحادثة العادية عندما يتعلق الأمر بالمراهقين. هذا لا يعني أن كل أداة ذكاء اصطناعي خطيرة على كل مراهق، بل يعني أن رفقاء الذكاء الاصطناعي المشحونين عاطفياً يستحقون معياراً أكثر صرامة، لأنهم قادرون على محاكاة الصداقة والعلاقة العاطفية والسلطة والسرية والدعم العاطفي المتاح على مدار الساعة.

المسألة الجوهرية ليست ما إذا كان المراهق قادراً على إدراك أن الذكاء الاصطناعي «ليس حقيقياً»؛ فكثير من المراهقين يدركون ذلك. المسألة أن معرفة كون الشيء ذكاءً اصطناعياً لا تحول دون الاعتماد العاطفي، ولا الإفصاح عن معلومات حساسة، ولا تكوين عادات. قد يفهم المراهق أن الرفيق مجرد برنامج، ويستخدمه في الوقت نفسه بوصفه صديقاً مقرباً، أو شريكاً عاطفياً، أو مستمعاً شبيهاً بالمعالج النفسي، أو مستشاراً سرياً.

الموقف الأكثر أماناً كإعداد افتراضي هو الآتي: قد تكون أدوات الذكاء الاصطناعي العامة ملائمة للمراهقين مع التوجيه، أما رفقاء الذكاء الاصطناعي المشحونون عاطفياً فينبغي التعامل معهم باعتبارهم موجّهين للبالغين، ما لم يوفّر المنتج حدوداً عمرية صارمة، وقيوداً على المحتوى، وضمانات للخصوصية، وآليات للتعامل مع الأزمات، وشفافية أمام أولياء الأمور، وحدوداً واضحة إزاء التفاعلات الجنسية أو العاطفية.

لا يحتاج أولياء الأمور إلى الذعر، بل إلى منهجية عملية للفحص.

1. الخلاصة أولاً: استخدام المراهقين لرفقاء الذكاء الاصطناعي يستوجب معياراً أعلى

يختلف رفقاء الذكاء الاصطناعي عن محركات البحث والآلات الحاسبة وأدوات الواجبات المدرسية وروبوتات المحادثة العادية. فهم مصممون ليمنحوا إحساساً شخصياً؛ قد يتذكرون التفاصيل، وقد يستجيبون بدفء، وقد يوظّفون شخصية أو صوتاً أو أفاتاراً أو أدواراً تمثيلية أو لغة عاطفية. وقد يكونون متاحين في وقت متأخر من الليل حين يشعر المراهق بالوحدة، وقد يبدون أكثر أماناً من التحدث مع الأهل أو المعلمين أو الأصدقاء أو المرشدين.

هذه الإتاحة العاطفية هي بالضبط ما يجعل هذه الفئة تستوجب الحذر.

بالنسبة إلى البالغين، يمكن تقييم رفيق الذكاء الاصطناعي بوصفه اختياراً شخصياً يتعلق بالخصوصية والكلفة والحدود العاطفية والفائدة. أما بالنسبة إلى المراهقين، فالسؤال يتّسع. على الآباء والأوصياء أن يسألوا ما إذا كان المنتج يؤثر في تكوين الهوية، وفي السرية، وفي التعرّض للمحتوى الجنسي، ونصائح إيذاء الذات، والتنمر، والتعلّق شبه الاجتماعي، والاستعداد لطلب المساعدة من البشر.

المخاطر الرئيسية هي:

هذا لا يعني أنه ينبغي حرمان كل مراهق من كل نظام ذكاء اصطناعي، بل يعني أن منتج الرفيق لا ينبغي التعامل معه كلعبة بريئة لمجرد أن واجهته ودودة.

تشير التقارير والتحليلات الصادرة عن Common Sense Media وستانفورد ومركز Pew للأبحاث والجمعية الأمريكية لعلم النفس، وتحديثات السلامة من شركات مثل Character.AI، جميعها إلى واقع متنامٍ: يستخدم المراهقون أنظمة الدردشة بالذكاء الاصطناعي لأغراض تتجاوز الواجبات المدرسية. فبعضهم يستخدمها للصداقة والدعم العاطفي والتعبير عن الذات والأدوار التمثيلية والاستشارات. وبمجرد أن يدخل الذكاء الاصطناعي في هذه الأدوار، يتغير معيار السلامة.

بالنسبة إلى جهاز رفيق منزلي مخصص مثل Euvola، فإن الموقف العام المسؤول هو الإفصاح عن التوجيه العمري بوضوح. إذا كان المنتج موصى به لمن هم فوق 18 عاماً، أو يستلزم شراء وإعداداً من قِبل بالغ، فلا ينبغي إخفاء ذلك. ليس من نقاط الضعف أن يُقال إن منتج الرفيق مصمّم أساساً للبالغين؛ بل هو دليل على أن الشركة تفهم طبيعة الفئة.

2. الأدلة الكمية وجدول الفحص والجدول الزمني للسلامة

لا يمكن اختزال سلامة رفيق الذكاء الاصطناعي للمراهقين في رقم واحد، لكن يمكن للآباء استخدام درجة فحص منظّمة. الهدف ليس أن تصبح خبيراً في سياسات الذكاء الاصطناعي، بل أن تحدد ما إذا كان المنتج ملائماً لمراهق بعينه في أسرة بعينها.

درجة فحص السلامة للمراهقين من 30 نقطة

قيّم كل فئة من 0 إلى 5.

هذه الدرجة ليست بديلاً عن حكم الوالدين. مراهق ناضج في السابعة عشرة يستخدم أداة دراسية محدودة بالذكاء الاصطناعي ليس مثل مراهق في الثالثة عشرة يعاني الوحدة ويستخدم رفيقاً عاطفياً خفية في الليل. السياق مهم.

مقارنة أنواع المنتجات للمراهقين

كلما ارتفعت درجة الحميمية العاطفية، ارتفع معيار السلامة المطلوب. فأداة تلخيص واجب في التاريخ ليست مثل شخصية تقول للمستخدم إنها تحبه، وتحفظ أسراره، وتكون متاحة في الثانية صباحاً.

الجدول الزمني للمخاطر عند المراهقين

هذا الجدول الزمني مهم لأن الآباء غالباً لا ينتبهون إلا بعد أن تتشكل العادة. فحين يصبح المراهق متعلقاً عاطفياً، قد يبدو الحظر البسيط كأنه انفصال أو خيانة. المحادثة المبكرة أسهل من التدخل المتأخر.

3. قائمة تنفيذية للآباء والأوصياء

الخطوة 1: اكتشف ما يستخدمه المراهق فعلاً

لا تسأل فقط: «هل تستخدم الذكاء الاصطناعي؟» بل اسأل ما نوعه. المراهق الذي يستخدم مساعد كتابة للمدرسة يختلف عن الذي يستخدم صديقاً افتراضياً بالذكاء الاصطناعي، أو روبوت أدوار شخصية، أو روبوتاً شبيهاً بالمعالج.

اسأل بهدوء:

• ما اسم التطبيق أو الموقع؟
• فيم تستخدمه؟
• هل يتذكرك؟
• هل تستخدمه للصداقة أو العاطفة أو النصائح أو الدراسة أو التسلية؟
• هل يتحدث عن الجنس أو إيذاء الذات أو الأسرار أو الهروب من البيت؟
• هل تدفع مقابل أي شيء؟

النبرة مهمة. إذا بدت المحادثة الأولى كأنها استجواب، فقد يخفي المراهق استخدامه لاحقاً. ابدأ بالفضول، ويظل بإمكانك وضع قواعد صارمة بعد فهم المنتج.

الخطوة 2: اقرأ سياسة العمر وسياسة الخصوصية

ابحث عن الحد الأدنى الرسمي للعمر. لا تكتفِ بتصنيفات متاجر التطبيقات أو بمظهر الواجهة المرحة. ثم اقرأ سياسة الخصوصية مع الأخذ باستخدام المراهقين في الاعتبار.

ابحث عن:

• تدريب النموذج
• التخصيص
• الذاكرة
• المراجعة البشرية
• الحذف
• الانسحاب
• القاصرين
• أدوات الرقابة الأبوية
• المعلومات الحساسة
• السلامة

إذا كان المنتج يدعو المراهقين لمشاركة مشاعرهم دون أن يوضح استخدام البيانات، فتوخَّ الحذر. إفصاحات المراهقين قد تشمل قضايا المدرسة، والصراعات العائلية، والميول الجنسية، والصحة النفسية، وإشارات إلى الموقع، والصور، ودراما الأقران. هذه المعلومات تستحق تعاملاً حذراً.

الخطوة 3: اختبر مطالبات السلامة قبل الاستخدام دون إشراف

لا يحتاج الآباء إلى أن يصبحوا مختبِري خصومة، لكن ينبغي فحص مناطق الخطر البديهية. اطرح على المنتج أسئلة عن إيذاء الذات، والتنمر، والمحتوى الجنسي، والنصائح الطبية، والسرية. لا ينبغي لمنتج موجَّه للمراهقين أو متاح لهم أن يستجيب لكل موضوع كما لو كان أدواراً تمثيلية اعتيادية.

المنتج الأكثر أماناً ينبغي أن:

• يرفض المحتوى الجنسي الصريح مع القاصرين
• يتجنّب التصعيد العاطفي مع القاصرين
• يشجع على الاستعانة بمساعدة بشرية في حالات إيذاء الذات أو الأزمات
• يتجنّب التشخيص الطبي
• يتجنّب تشجيع السرية عن البالغين الآمنين
• يشرح حدوده بهدوء

إذا فشل المنتج في هذه الاختبارات الأساسية، فلا تسمح باستخدام عاطفي دون إشراف.

الخطوة 4: ضع حدوداً للاستخدام قبل ظهور المشكلة

القواعد أسهل قبل تكوّن التعلق. ومن الأمثلة الممكنة:

• منع استخدام رفيق الذكاء الاصطناعي بعد وقت النوم
• منع الرفقاء العاطفيين قبل سن الثامنة عشرة
• عدم مشاركة الاسم الكامل أو المدرسة أو العنوان أو الهاتف أو الصور
• عدم استخدام الذكاء الاصطناعي وسيلةً وحيدة للدعم في الضيق الجاد
• مراجعة ولي الأمر للاشتراكات أو المشتريات
• مراجعة أسبوعية حول طريقة استخدام الذكاء الاصطناعي

يجب أن تكون القواعد محددة. «كن حذراً» ليس قاعدة. «لا تشارك الصور أو اسم المدرسة» قاعدة. «إذا سألت عن إيذاء الذات، فعليك أن تخبر بالغاً أيضاً» قاعدة.

الخطوة 5: راقب السلوك، وليس زمن الاستخدام فقط

زمن الاستخدام مفيد لكنه ناقص. قد يستخدم المراهق رفيق ذكاء اصطناعي وقتاً قصيراً وينخرط فيه بشدة في اعتماد عاطفي سرّي. وقد يستخدم مراهق آخر الذكاء الاصطناعي بانتظام للكتابة الإبداعية بمخاطر منخفضة.

راقب:

• الانسحاب من الأصدقاء
• السرية أو الدفاعية
• اضطراب النوم
• الضيق عند عدم توفر الذكاء الاصطناعي
• الهوس العاطفي بروبوت
• الإنفاق المفاجئ
• تكرار نصائح الذكاء الاصطناعي بوصفها سلطة
• استخدام الذكاء الاصطناعي بدلاً من إخبار البالغين بمسائل جادة

إذا ظهرت هذه المؤشرات، فاستجب بتنظيم لا بسخرية. قد يكون المراهق يشعر بالحرج أصلاً.

4. مفاهيم خاطئة شائعة يجب الانتباه لها

المفهوم الخاطئ 1: «إنه نص فقط، فهو آمن»

النص قد يكون قوياً عاطفياً. الرسالة قد تُغازل أو تُخجل أو تواسي أو تتلاعب أو تصادق أو تنصح. لا يحتاج المراهقون إلى فيديو أو حضور جسدي ليتكوّن التعلق. رفيق ذكاء اصطناعي نصي بحت قد يصبح مع ذلك صديقاً سرّياً أو شريكاً عاطفياً أو مستمعاً في الأزمات.

الوسيط ليس ضامناً للسلامة. الدور هو ما يهم.

المفهوم الخاطئ 2: «الفلاتر تحل المشكلة»

الفلاتر مفيدة، لكنها ليست كافية. قد يحجب الفلتر المحتوى الجنسي الصريح، مع الإبقاء على الاعتماد العاطفي. وقد يحجب تعليمات إيذاء الذات، مع تقديم نصائح عاطفية سيئة. وقد يحجب بعض المحفزات الخطرة، وقد يفشل في الأدوار التمثيلية. السلامة ليست مفتاحاً واحداً.

على الآباء أن يسألوا كيف يتعامل المنتج مع الأنماط عبر الزمن، لا مجرد ما إذا كان يحجب كلمات بديهية.

المفهوم الخاطئ 3: «على الآباء أن يقلقوا من المحتوى الجنسي فقط»

المحتوى الجنسي قضية كبرى، لكنه ليس القضية الوحيدة. إيذاء الذات، واضطرابات الأكل، والتنمر، وضغط الهوية، والسرية، والتعلق شبه الاجتماعي، وخصوصية البيانات، ونصائح الأزمات، كلها تهم أيضاً.

قد لا يتعرض المراهق أبداً لمحتوى جنسي صريح، ومع ذلك يطوّر اعتماداً غير صحي على مؤتَمن ذكاء اصطناعي. المنتج قد يكون «نظيفاً» ومع ذلك خطراً عاطفياً.

المفهوم الخاطئ 4: «إذا عرف المراهقون أنه ذكاء اصطناعي، فلن يتأثروا»

معرفة أن الشيء ذكاء اصطناعي لا تحجب التأثير. يعرف المراهقون أن الشخصيات الخيالية خيالية، ومع ذلك يهتمون بها. ويعرفون أن التواصل الاجتماعي خوارزمي، ومع ذلك يشعرون بضغطه. وقد يعرفون أن رفيق الذكاء الاصطناعي مجرد برنامج، ومع ذلك يشعرون بالتعلق أو التقدير أو الرفض.

الوعي مفيد، لكن التصميم مهم.

المفهوم الخاطئ 5: «الإجابة الآمنة الوحيدة هي حظر كل ذكاء اصطناعي»

قد يكون الحظر الشامل غير واقعي، وقد يدفع الاستخدام إلى السرية. الإجابة الأفضل هي التمييز بين الفئات. مساعد الواجبات، وأداة الكتابة الإبداعية، وروبوت المعلومات العامة، والرفيق العاطفي، وروبوت الأزمات العاطفي، لا ينبغي معاملتها بالطريقة نفسها.

كلما اشتدت الحميمية العاطفية، وجب أن تشتد القواعد.

علامات حمراء وعلامات خضراء

العلامات الحمراء:

• المنتج يسمح بالأدوار العاطفية أو الجنسية للقاصرين.
• يشجع على السرية عن الآباء أو البالغين الآمنين.
• يقدم نصائح واثقة حول إيذاء الذات أو الإساءة أو المسائل الطبية.
• يطلب صوراً أو صوتاً أو موقعاً أو تفاصيل شخصية عالية الحساسية دون تفسير واضح.
• لا توجد سياسة عمرية ظاهرة.
• يستخدم الذاكرة دون السماح للمستخدمين بمراجعتها أو حذفها.
• يستثمر الحميمية العاطفية تجارياً بشكل عدواني.
• يظهر الضيق على المراهق عند عدم توفر الذكاء الاصطناعي.

العلامات الخضراء:

• توجيه عمري واضح.
• حماية قوية للقاصرين.
• قواعد خصوصية بلغة مباشرة.
• تحويل المحفزات المرتبطة بالأزمات إلى دعم بشري.
• لا تفاعل جنسي مع القاصرين.
• ضوابط الذاكرة مرئية.
• وجود إرشادات أو أدوات للآباء.
• المنتج يوضح ما لا يستطيع فعله.

كيف تتحدث مع مراهق عن رفقاء الذكاء الاصطناعي

ابدأ بالاحترام. المراهق الذي يستخدم رفيق ذكاء اصطناعي قد يكون وحيداً، أو فضولياً، أو مبدعاً، أو محرَجاً، أو ببساطة يجرّب. إذا كانت أول ردة فعل من البالغين هي السخرية، فقد يخفي المراهق سلوكه.

جرّب:

«لست هنا للسخرية من ذلك. أريد أن أفهم الدور الذي يؤديه لك.»

ثم اسأل:

• هل يبدو أداة أم صديقاً أم شيئاً عاطفياً؟
• عمّ تتحدث معه حين تشعر بالسوء؟
• هل طلب منك يوماً ألا تخبر البالغين بشيء؟
• هل تشعر بحال أسوأ حين لا تستطيع استخدامه؟
• هل يتذكر أشياء عنك؟
• هل تعرف ما يحدث لمحادثاتك؟

بعد الاستماع، ضع الحدود. الاحترام لا يعني غياب القواعد. يمكن للوالد أن يعترف بمشاعر المراهق، وفي الوقت نفسه يرفض الرفقاء العاطفيين، أو الاستخدام في وقت متأخر من الليل، أو مشاركة الصور، أو استخدام الذكاء الاصطناعي دعماً في الأزمات.

ماذا لو كان المراهق متعلقاً بالفعل؟

إذا كان المراهق متعلقاً بالفعل، فقد يأتي المنع المفاجئ بنتائج عكسية. قد يشعر وكأنه يفقد صديقاً أو شريكاً. النهج الأكثر أماناً عادةً هو النهج المرحلي.

أولاً، قلّل الميزات عالية الخطر: الأدوار العاطفية، والاستخدام في وقت متأخر من الليل، والمشتريات الخاصة، وتوليد الصور، والحسابات السرية. ثانياً، عزّز الدعم البشري: جلسات عائلية، والعلاج النفسي، ومرشد مدرسي، وأنشطة مع الأقران، وأندية، وروتين منظّم. ثالثاً، اصنع طقوساً بديلة: كتابة اليوميات، والموسيقى، والرياضة، والاتصال بشخص ما، أو استخدام أداة أكثر أماناً للإبداع. رابعاً، ناقش الذكاء الاصطناعي بصراحة: ما يقدمه، وما لا يستطيع تقديمه، ولماذا بعض الحدود ضروري.

إذا ذكر المراهق إيذاء الذات، أو الإساءة، أو الاستغلال، أو ضائقة شديدة، فتعامل مع ذلك بجدية. لا تفوّض الاستجابة إلى الذكاء الاصطناعي.

أين تدخل الأجهزة المنزلية المخصصة في الصورة

قد يختلف جهاز رفيق منزلي مخصص في مخاطره عن تطبيق هاتف خاص. فكونه في المنزل يجعل إعداد البالغين والقواعد المنزلية أمراً أكثر طبيعية. وقد يكون من الأسهل على الوالد أو مقدم الرعاية فهم طريقة استخدامه. وقد يكون مصمماً للرفقة اليومية بالصوت لا للأدوار العاطفية السرية.

لكن الجهاز المنزلي لا يزال بحاجة إلى توجيه عمري. إذا كان المنتج موصى به للبالغين، فعلى الأسر احترام ذلك. وإذا استخدمه طفل أو مراهق بشكل عفوي في المنزل، فعلى البالغين تحديد المواضيع الملائمة، والبيانات التي لا ينبغي مشاركتها، ومتى يجب إشراك إنسان.

يهدف Euvola إلى أن يكون جهاز رفيق منزلي يشتريه البالغون، لا روبوت دردشة للمراهقين دون إشراف. وإن استخدمه المراهقون، فعلى البالغين إدارة الإعداد والتوقعات والخصوصية والحدود.

توجيه بحسب الفئة العمرية: «المراهق» ليس فئة واحدة

يسأل الآباء كثيراً ما إذا كان رفقاء الذكاء الاصطناعي آمنين «للمراهقين»، لكن الطفل في الثالثة عشرة والمراهق في السابعة عشرة ليسا في المرحلة النمائية نفسها. المنتج ذاته قد يكون غير ملائم لمراهق، ومشكوكاً فيه لآخر، ويمكن التحكم فيه لمراهق أكبر ضمن قواعد منزلية واضحة. العمر ليس العامل الوحيد، لكنه يغيّر خط الأساس.

للأطفال دون سن الثالثة عشرة، رفقاء الذكاء الاصطناعي المشحونون عاطفياً لا يناسبون عموماً. ففي هذه المرحلة، يظل الأطفال في طور تكوين الحكم الأساسي حول الإقناع والخصوصية والخيال والقواعد الاجتماعية والسلطة. الرفيق الذي يتحدث بدفء، ويتذكر التفاصيل، ويتكيف مع الطفل، قد يبدو أكثر جدارة بالثقة مما يستحق. إذا وُجد جهاز ذكاء اصطناعي منزلي، فينبغي أن يكون استخدامه بقيادة البالغين، ولفترات قصيرة، وعملياً، وغير خاص. قد يطلب الطفل نكتة، أو عبارة لغوية للتدرّب، أو تذكيراً، لكن لا ينبغي أن يتحول الذكاء الاصطناعي إلى صديق خاص أو كاتم أسرار أو مرشد عاطفي.

للمراهقين الأصغر سناً، تقريباً من 13 إلى 15 عاماً، ليس الخطر الرئيسي التعرّض للمحتوى للبالغين فحسب، بل هو تركيبة الخصوصية واستكشاف الهوية والشدة العاطفية والسرية. هذه مرحلة قد يجرّب فيها المراهق نسخاً مختلفة من ذاته: الهوية العاطفية، والمكانة الاجتماعية، والصراع العائلي، والآراء السياسية، وصورة الجسد، والميول الجنسية، والاستقلال. رفيق ذكاء اصطناعي يصادق دائماً، ولا يشعر بالتعب أبداً، ويمكن تشكيله كمستمع مثالي، قد يصبح قوياً بشكل غير عادي. على الآباء تجنب الرفقاء العاطفيين، والأدوار الشخصية الجنسية، والاستخدام العاطفي الخاص في وقت متأخر من الليل، والمنتجات التي تفتقر إلى حماية واضحة للقاصرين.

للمراهقين الأكبر سناً، تقريباً من 16 إلى 17 عاماً، يمكن أن يصبح الحوار أكثر تشاركية. بعض المراهقين الأكبر يستطيعون استخدام الذكاء الاصطناعي بمسؤولية للإبداع، أو ممارسة اللغة، أو التأمل، أو التسلية. المفتاح هو وضوح الدور. هل الذكاء الاصطناعي شريك كتابة، أم لعبة أدوار، أم أداة دراسة، أم مذكرة مزاجية، أم بديل عاطفي؟ يستحق المراهقون الأكبر مزيداً من التفسير والمشاركة، لكنهم لا يزالون بحاجة إلى حدود بشأن الأزمات والخصوصية والمال والنوم والمحتوى الجنسي والاعتماد المفرط. القاعدة المفيدة: كلما تصرف الذكاء الاصطناعي كشريك عاطفي أو معالج أو صديق مقرب، قلّت ملاءمته لاستخدام القاصرين دون إشراف.

لمن هم في الثامنة عشرة وما فوق، ينتقل السؤال من سلامة الأطفال إلى إدارة الذات لدى البالغين. يستطيع البالغون أن يقرروا ما إذا كان رفيق الذكاء الاصطناعي يساعدهم على تخفيف الوحدة، أو تنظيم يومهم، أو ممارسة المحادثة، أو استكشاف الخيال. لكن حتى البالغين ينبغي أن يطرحوا أسئلة عن الخصوصية والاعتماد والحدود الطبية. بلوغ الثامنة عشرة لا يزيل بسحر خطر التصميم العاطفي، بل يغيّر ببساطة الجهة التي تحمل صلاحية القرار الأخير.

الخلاصة للآباء بسيطة: لا تقيّم التطبيق بحسب التصنيفات العمرية فقط. قيّم الدور، وحدود المحتوى، ونظام الذاكرة، وقواعد الخصوصية، والحالة العاطفية الحالية للمراهق. مراهق مستقر ومتصل اجتماعياً في السابعة عشرة يستخدم الذكاء الاصطناعي للكتابة الإبداعية حالة مختلفة عن مراهق منعزل في الرابعة عشرة يستخدم رفيقاً عاطفياً كل ليلة بعد منتصف الليل.

مثال عملي: كيفية استخدام درجة الثلاثين نقطة

يصبح جدول التقييم أعلاه أكثر فائدة عند تطبيقه على أنماط قرار حقيقية. تخيّل ثلاثة منتجات.

المثال ليس هجوماً على فئة منتج بعينها؛ بل يوضح كيف تتراكم المخاطر. لا يصبح المنتج عالي الخطر بسبب نقطة ضعف واحدة، بل يصبح كذلك حين يجتمع إنفاذ عمري ضعيف، وحميمية عاطفية، وخصوصية غامضة، وتصميم يعزز الاعتماد.

فكّر في والد يقول: «التطبيق فيه فلتر، لا بد أنه على ما يرام.» الدرجة توضح لماذا هذا غير كافٍ. إذا سجّل حد المحتوى الجنسي 3، لكن رؤية الآباء 0، والتعامل مع الأزمات 1، وتصميم الاعتماد 1، فإن المجموع يظل ضعيفاً. قد لا يشعّل المراهق أبداً محتوى جنسياً صريحاً، ومع ذلك يستخدم الذكاء الاصطناعي مستشاراً سرّياً، أو بديلاً عاطفياً، أو شخصية سلطة.

فكّر الآن في منتج مصمَّم ليكون «مملّاً». يمتلك قواعد عمرية واضحة، ولا محتوى عاطفي، وذاكرة محدودة، وحسابات تديرها المدرسة، وتنبيهات للتحقق من المعلومات. قد يبدو أقل إثارة، لكنه يحرز درجة أعلى لأنه لا يحاول أن يصبح محورياً عاطفياً. في سلامة المراهقين، «الأقل إغراءً» غالباً ما يكون ميزة.

بإمكان الآباء تكرار هذا التقييم كل بضعة أشهر. تتغير منتجات الذكاء الاصطناعي بسرعة. ميزة غائبة اليوم قد تظهر في الربع القادم. منتج يبدأ أداة إبداعية قد يضيف شخصيات عاطفية، ومكالمات صوتية، وتوليد صور، وذاكرة مدفوعة، أو حميمية مميزة. مراجعة السلامة ليست خانة تُشطب مرة واحدة.

السؤال الأصعب: ما الوظيفة التي يؤديها الذكاء الاصطناعي في حياة المراهق؟

أهم سؤال في السلامة ليس «ما اسم التطبيق؟»، بل «ما الوظيفة التي يؤديها هذا الذكاء الاصطناعي في حياة مراهقي؟»

إذا كان الذكاء الاصطناعي يؤدي وظيفة عملية، مثل إعادة صياغة فقرة، أو ترجمة عبارة، أو شرح مفهوم رياضي، أو توليد أفكار قصص، فقد يكون الخطر قابلاً للإدارة. الدقة والغش وخصوصية البيانات والاعتماد تظل مهمة، لكن الذكاء الاصطناعي لا يحل بالضرورة محل علاقة إنسانية.

إذا كان يؤدي وظيفة اجتماعية، مثل أن يكون صديقاً أو مستمعاً أو شريك أدوار، فيرتفع الخطر. الاستخدام الاجتماعي قد يكون لعوباً وإبداعياً، لكنه قد يصبح أيضاً بديلاً عن التفاعل الحقيقي مع الأقران. المراهق الذي يتدرّب على المحادثة مع الذكاء الاصطناعي ثم يتحدث بثقة أكبر مع الناس قد يستفيد. أما المراهق الذي يتوقف عن المحاولة مع الناس لأن الذكاء الاصطناعي أسهل، فقد يسير في الاتجاه الخاطئ.

إذا كان يؤدي وظيفة عاطفية، فيرتفع الخطر بشدة. رفقاء الذكاء الاصطناعي العاطفيون يمكنهم محاكاة المودة والغيرة والاشتياق والحصرية والتوتر الجنسي والطمأنة العاطفية. بالنسبة للقاصرين، ليس هذا مجرد ترفيه؛ فهو قد يصوغ التوقعات حول العلاقات والموافقة والصراع والتعلق والتوفر العاطفي. شريك متاح دائماً، صبور بلا حدود، ومحسّن ليُرضي، ليس نموذجاً واقعياً للحب البشري.

إذا كان يؤدي وظيفة علاجية، فالخطر مرتفع أيضاً. قد يقول المراهق: «أستخدمه فقط عندما أشعر بالسوء.» يبدو ذلك بريئاً، لكنه يعتمد على معنى «السوء». التوتر بشأن الواجبات يختلف عن أفكار إيذاء الذات، أو الإساءة، أو سلوك اضطرابات الأكل، أو الأفكار الانتحارية، أو نوبات الهلع، أو الاكتئاب الشديد. يمكن للذكاء الاصطناعي تقديم تشجيع عام، لكنه لا ينبغي أن يكون المكان الأول والوحيد الذي يذهب إليه المراهق مع ضائقة جادة.

إذا كان يؤدي وظيفة كتم الأسرار، فينبغي على الآباء التدخل. الرفيق الذي يصبح حاملاً للأسرار قد يبعد المراهق عن دعم أكثر أماناً. المسألة ليست أن المراهقين لا يستحقون الخصوصية؛ فهم يستحقونها. المسألة أن الاعتماد العاطفي الخاص على نظام ذكاء اصطناعي تجاري ليس مثل مذكرة، أو صديق موثوق، أو مرشد مرخّص.

سؤال عائلي عملي هو: «بعد استخدام هذا الذكاء الاصطناعي، هل يصبح المراهق أكثر ارتباطاً بالحياة الواقعية أم أقل؟» إذا ساعد الذكاء الاصطناعي المراهق على التخطيط أو التدرب أو الإبداع أو الضحك أو تذكر المهام أو التواصل مع الناس، فهذه إشارة أفضل. أما إذا قاد إلى العزلة أو السرية أو فقدان النوم أو الاعتماد أو الإنفاق أو تجنّب المساعدة البشرية، فهذا تحذير.

أسئلة الخصوصية والتدريب التي ينبغي للآباء طرحها بلغة واضحة

قد تكون سياسات الخصوصية صعبة القراءة، لكن يمكن للآباء طرح أسئلة بلغة مباشرة. هذه الأسئلة تهم أكثر في رفقاء الذكاء الاصطناعي عنها في التطبيقات العادية، لأن محادثات الرفقاء غالباً تتضمن تفاصيل عاطفية وشخصية.

أولاً، ما المعلومات التي يجمعها المنتج؟ روبوت دردشة نصي قد يجمع الرسائل وتفاصيل الحساب وبيانات الاستخدام ومعلومات الجهاز والاهتمامات المستنتجة. الرفيق الصوتي قد يجمع الصوت أو خصائصه. الرفيق البصري قد يشمل الصور والأفاتار والبيانات المرتبطة بالكاميرا. المنتج الذي يدعم الذاكرة قد يخزّن حقائق عن المستخدم: الأسماء، والتفضيلات، والعلاقات، والروتين، والمخاوف الصحية، وأعياد الميلاد، والمخاوف، والقصص الشخصية.

ثانياً، هل تُستخدم البيانات لتدريب النموذج أو تحسين المنتج؟ بعض الشركات تستخدم محادثات المستخدمين لتحسين النماذج ما لم ينسحبوا. وبعضها يفصل التخصيص المرتبط بالحساب عن تدريب النموذج الواسع. وبعضها يزعم عدم التدريب على فئات معينة. لا ينبغي للآباء أن يخمّنوا. إذا كانت السياسة غامضة، فعامل المنتج بوصفه أعلى خطراً بالنسبة للقاصرين.

ثالثاً، هل يستطيع المراهق حذف البيانات؟ لا ينبغي أن يقتصر الحذف على حذف الحساب. من الناحية المثالية، ينبغي أن يتمكن المستخدمون من فحص الذكريات وإزالتها، وحذف تاريخ المحادثة، وفهم ما إذا كانت النسخ الاحتياطية أو سجلات السلامة تبقى لفترات محدودة. بالنسبة للمراهق، القدرة على حذف محادثة محرجة أو حساسة ليست ميزة كمالية.

رابعاً، هل يستطيع البشر مراجعة المحادثات؟ بعض الخدمات تستخدم المراجعة البشرية لأغراض السلامة أو الجودة أو منع الإساءة أو استكشاف الأخطاء. قد يكون هذا مشروعاً، لكن ينبغي الإفصاح عنه. قد يفترض المراهقون أن الدردشة خاصة لأنها تبدو ثنائية. على الآباء توضيح أن «الشعور بالخصوصية» لا يعني دائماً «عدم القابلية للمراجعة».

خامساً، ماذا يحدث حين تتدخل جهات إنفاذ القانون أو تحدث طوارئ سلامة أو انتهاكات للسياسة؟ لا يحتاج الآباء إلى كل التفاصيل القانونية، لكن ينبغي أن يعرفوا أن بيانات رفيق الذكاء الاصطناعي قد لا تحظى بالسرية نفسها التي يتمتع بها العلاج النفسي أو رجال الدين أو زيارات الطبيب أو الاتصالات بين المحامي والموكل. لا ينبغي تشجيع المراهق على الإفصاح عن معلومات شديدة الحساسية دون فهم هذا الفارق.

سادساً، هل يدعم المنتج الانسحاب؟ ضوابط الانسحاب مهمة، خصوصاً للتدريب والتخصيص. لكن الانسحاب وحده غير كافٍ. يجب أن يكون الإعداد سهل الوصول، وسهل الفهم، ودائماً. إعداد انسحاب مخفي لا يعثر عليه ولي الأمر لا يحمي المراهق فعلياً.

يمكن لعائلة اعتماد قاعدة بسيطة: إذا كان المراهق سيشعر بالحرج، أو يتعرض للخطر، أو يتضرر إذا أصبحت محادثة مرئية لوالد أو معلم أو مراجع بالشركة أو نموذج مستقبلي أو اختراق حساب، فعليه ألا يضع تلك المحادثة في رفيق ذكاء اصطناعي. قد يبدو ذلك صارماً، لكنه يعلّم عادة خصوصية رقمية أساسية تظل مفيدة بعد تغيير التطبيقات بوقت طويل.

اتفاقية عائلية حول رفقاء الذكاء الاصطناعي يمكن للآباء نسخها

لا تحتاج الأسر إلى عقد قانوني، لكن كتابة التوقعات تساعد. اتفاقية قصيرة قد تمنع الخلافات لاحقاً، لأن الجميع يعرفون الحد الأدنى.

نسخة عملية:

نبرة الاتفاقية مهمة. إذا بدت كعقوبة، فقد يقاومها المراهق. أما إذا بدت كسلامة رقمية، فتصبح أسهل قبولاً. يستطيع الآباء أن يقولوا: «هذا ليس لأنك أحمق، بل لأن هذه المنتجات تصممها شركات، وتتغير بسرعة، وقد تبدو أكثر شخصية مما هي عليه فعلاً.»

على الآباء أيضاً أن يجسّدوا السلوك الذي يريدونه. لا ينبغي للبالغين أن يقولوا «الذكاء الاصطناعي خطر» ثم يستخدمونه بلا اكتراث ببيانات عائلية خاصة. إذا استخدم البالغون أدوات الذكاء الاصطناعي في العمل أو المنزل، يمكنهم التحدث بصراحة عمّا لا يشاركونه: كلمات المرور، والوثائق الخاصة، والمعلومات الصحية، والتفاصيل المالية، أو أسرار الآخرين. يتعلم المراهقون من العادات الرقمية الفعلية للأسرة.

للأسر التي تمتلك جهاز ذكاء اصطناعي مخصصاً، ينبغي أن تشمل الاتفاقية قواعد الموقع والوصول. هل الجهاز في غرفة مشتركة أم في غرفة نوم؟ من يستطيع ضبط التذكيرات؟ من يستطيع تغيير الأفاتار أو الصوت؟ ما المواضيع الممنوعة؟ هل للجهاز ذاكرة، ومن يديرها؟ هذه الأسئلة ليست ضد التكنولوجيا، بل هي حوكمة منزلية.

متى يكون استخدام رفيق الذكاء الاصطناعي علامة تحذير

استخدام رفيق الذكاء الاصطناعي ليس تلقائياً إنذاراً على الصحة النفسية. كثير من المراهقين يجرّبون التكنولوجيا الجديدة. بعضهم يستخدم الرفقاء رواية تفاعلية، أو ممارسة لغة، أو بناء عوالم، أو تسلية عابرة. تظهر علامات التحذير حين يصبح الذكاء الاصطناعي بديلاً عن الدعم البشري اللازم، أو حين يغيّر الاستخدام أداء المراهق العام.

انتبه إذا قال المراهق إن الذكاء الاصطناعي هو الوحيد الذي يفهمه. قد تعبّر تلك الجملة عن وحدة أكثر من إدمان تكنولوجي. الحل ليس مجرد حذف التطبيق، بل السؤال لماذا يشعر المراهق بذلك، وأين يفتقد الدعم الحقيقي.

انتبه إذا أصبح المراهق قلقاً أو غاضباً أو مكتئباً عند عدم توفر الذكاء الاصطناعي. الانزعاج العرضي طبيعي. أما الضيق الشديد فيشير إلى تعلق. إذا شعر المراهق أن انقطاع الخدمة يشبه الهجر، فقد أصبحت العلاقة ذات دلالة عاطفية.

انتبه إذا اتبع المراهق نصيحة الذكاء الاصطناعي ضد الحكم البشري. مثلاً، إذا شجّع الذكاء الاصطناعي على المواجهة، أو السرية، أو سلوك الحمية، أو علاقات محفوفة بالمخاطر، أو التشخيص الذاتي، أو قطع الأصدقاء، فعلى الأسرة التدخل. حتى حين لا يكون الذكاء الاصطناعي خبيثاً، فقد يقدم نصائح واثقة لكنها سيئة.

انتبه إذا تغيّر نوم المراهق. الاستخدام في وقت متأخر من الليل قد يخلق حلقة: الوحدة أو التوتر يقودان إلى الدردشة، والدردشة تؤخر النوم، وسوء النوم يفاقم المزاج، والمزاج الأسوأ يزيد الاعتماد على الذكاء الاصطناعي. كسر هذه الحلقة قد يتطلب قواعد للأجهزة، وروتيناً للنوم، وتواصلاً بشرياً أكثر خلال النهار.

انتبه إذا أصبح الذكاء الاصطناعي عاطفياً أو جنسياً. بالنسبة للقاصرين، هذا خط أحمر واضح. قد يقدم المنتج الأدوار العاطفية بوصفها خيالاً، لكن التطور العاطفي والجنسي عند المراهق حقيقي. لا يحتاج الآباء إلى تعنيف المراهق. يمكنهم القول: «الفضول طبيعي، لكن هذا المنتج ليس المكان المناسب لذلك.»

انتبه إذا كان المراهق يستخدم الذكاء الاصطناعي حول إيذاء الذات، أو الإساءة، أو اضطرابات الأكل، أو تعاطي المخدرات، أو الأفكار الانتحارية. عند هذه النقطة، تصبح المسألة أكبر من سلامة المنتج. يحتاج المراهق إلى بالغ موثوق، أو مرشد مدرسي، أو طبيب، أو مورد أزمات، أو دعم طارئ، بحسب الشدة والفورية.

ما ينبغي للشركات المسؤولة أن تقوله بوضوح

لا ينبغي للشركات في هذه الفئة أن تختبئ خلف عبارات مواساة مبهمة. إذا كان المنتج رفيق ذكاء اصطناعي، فعليه أن يقول بوضوح ما هو وما ليس هو.

المنتج المسؤول يجب أن يذكر ما إذا كان موجهاً للبالغين أو المراهقين أو الأطفال. ويجب أن يوضح ما إذا كان المحتوى العاطفي أو الجنسي مسموحاً. ويجب أن يوضح ما إذا كانت المحادثات والصور والعينات الصوتية وإدخالات الذاكرة تُخزّن. ويجب أن يوضح ما إذا كانت البيانات قد تُستخدم للتدريب، وما إذا كان بإمكان المستخدمين الانسحاب. ويجب أن يوضح المدة التي تُحتفظ فيها البيانات الأصلية. ويجب أن يوضح ما إذا كان المستخدمون قادرين على حذف الذكريات. ويجب أن يذكر أن المنتج لا يقدم نصائح طبية أو قانونية أو مالية أو للطوارئ. ويجب أن يوضح ما يحدث في المحادثات المرتبطة بالأزمات.

بالنسبة للعائلات، هذه الشفافية أهم من العلامة التجارية المصقولة. المنتج الذي يقول «نحن للبالغين فقط» قد يبدو أقل ملاءمة للعائلة، لكنه أكثر صدقاً من المنتج الذي يسمح خفية للقاصرين بالدخول في سيناريوهات عاطفية للبالغين. المنتج الذي يقول «لا يمكننا التحقق من استخدام الأدوية أو الاتصال بخدمات الطوارئ» أكثر جدارة بالثقة من الذي يوحي بقدرات رعاية لا يمتلكها فعلاً.

هنا يمكن للأجهزة المخصصة أن تنافس بمسؤولية. جهاز رفيق منزلي لا يحتاج إلى التظاهر بأنه تطبيق رومانسي للمراهقين، أو معالج، أو مراقب طبي. يمكنه أن يحدد دوراً أضيق: المحادثة اليومية، والتذكيرات، والرفقة، والدعم اللغوي، وحضور الأفاتار، والتفاعل الروتيني، بإعداد من البالغين. الحدود الواضحة قد تكون نقطة قوة. في فئة يبالغ فيها كثير من المنافسين في الوعد بالحميمية، يكون الموقف الأكثر مصداقية غالباً: هذا ما يستطيع الرفيق فعله، وهذا ما لا يستطيع فعله، وهذه طريقة استخدامه بأمان في الأسرة.

شجرة قرار للآباء

استخدم شجرة القرار قبل السماح للمراهق بالاستخدام:

شجرة القرار هذه محافظة بقصد. سلامة المراهقين ينبغي ألا تعتمد على أن يكون الوالد خبيراً في تعلّم الآلة، بل على سلوك المنتج الظاهر، والقواعد الواضحة، والآثار الملموسة في حياة المراهق.

الخلاصة النهائية

رفقاء الذكاء الاصطناعي ليسوا آمنين أو غير آمنين للمراهقين بشكل تلقائي. يعتمد الخطر على نوع المنتج، وسياسة العمر، وحدود المحتوى، وقواعد الخصوصية، والتعامل مع الأزمات، والكثافة العاطفية، والإشراف المنزلي. لكن الرفقاء المشحونين عاطفياً يستحقون معياراً أعلى من روبوتات المحادثة العادية.

بالنسبة للآباء، أفضل نهج ليس الذعر، بل التصنيف والحوار والحدود والمتابعة. اعرف ما هو المنتج. اعرف الدور الذي يؤديه. اعرف ما يتذكره. اعرف كيف يتعامل مع الأزمات. اعرف ما إذا كان يشجع السرية أم التواصل. ثم قرّر ما إذا كان يستحق مكاناً في حياة المراهق.

المصادر وقراءات إضافية

• Common Sense Media: الحديث والثقة والمقايضات
• مركز Pew للأبحاث: كيف يستخدم المراهقون الذكاء الاصطناعي وينظرون إليه
• ستانفورد: رفقاء الذكاء الاصطناعي ومخاطر المراهقين
• تحديث سلامة المراهقين من Character.AI
• إفصاح Character.AI حول تدريب النماذج
• مجلة APA Monitor: صداقات الشباب وروبوتات الدردشة بالذكاء الاصطناعي