هل يمكن لرفيق ذكي أن يحل محل العلاج أو الرعاية؟

لا. لا ينبغي التعامل مع رفيق الذكاء الاصطناعي بوصفه بديلاً عن العلاج النفسي، أو دعم الأزمات، أو المشورة الطبية، أو الاستجابة للطوارئ، أو الرعاية العملية المباشرة. يمكن أن يكون مفيداً بوصفه رفيقاً يومياً، وأداةً للتذكير، وشريكاً في الحوار، ومحفزاً لكتابة اليوميات، وشريكاً لممارسة اللغات، ومساعداً على تنظيم الروتين، وعوناً في التخفيف من الشعور بالوحدة. لكن هذه أدوار داعمة، وليست بدائل سريرية أو رعائية.

يهم هذا التمييز لأن كثيراً من الناس يبحثون عن رفيق ذكاء اصطناعي في لحظات هشاشة. قد يشعرون بالوحدة، أو يعيشون حزناً، أو يعانون من القلق، أو يتقدمون في العمر بمفردهم، أو يعتنون بأحد الوالدين، أو يتعافون من انفصال، أو يعيشون مع الخرف، أو يتابعون تناول الأدوية، أو يحاولون ألا يثقلوا على ذويهم. الحاجة حقيقية. والخطر أن منتجاً صُمم للمرافقة قد يُخلط بينه وبين مختص أو نظام طوارئ أو مقدم رعاية.

القاعدة الأكثر أماناً بسيطة: استخدم رفقاء الذكاء الاصطناعي لتنظيم الروتين والحوار والتذكيرات والحضور العاطفي؛ واعتمد على البشر والخدمات الاحترافية للتشخيص والعلاج والأزمات والطوارئ والتحقق من الأدوية ومراقبة السلامة وقرارات الرعاية.

إذا كنت أنت أو شخص آخر في خطر داهم، فاتصل بخدمات الطوارئ المحلية. في الولايات المتحدة، اتصل أو أرسل رسالة نصية إلى الرقم 988 التابع لخط النجاة من الانتحار والأزمات إذا كنت تمر بأزمة انتحارية أو ضائقة عاطفية أو أزمة إدمان. لا تنتظر رفيق الذكاء الاصطناعي ليقرر ما إذا كان وضعك جدياً.

1. الخلاصة أولاً: رفقاء الذكاء الاصطناعي يمكن أن يدعموا الرعاية، لكنهم لا يستطيعون أن يصبحوا رعاية

يقع رفقاء الذكاء الاصطناعي في منطقة وسطى مربكة. قد يبدون دافئين كصديق، ومنظمين كمساعد شخصي، وواسعي الاطلاع كمحرك بحث. يستطيع الرفيق الجيد أن يتذكر روتيناً معيناً، وأن يسأل عن يومك، وأن يذكّرك بشرب الماء، ويقترح المشي، ويعينك على كتابة اليوميات، ويلعب لعبة ذاكرة، أو يحثّك على الاتصال بأحد أفراد الأسرة. هذه استخدامات قد تكون قيّمة.

لكن الدعم ليس هو المسؤولية.

المشكلة ليست أن رفقاء الذكاء الاصطناعي عديمو الفائدة. المشكلة أن أهم استخداماتهم غالباً ما تحدث بالقرب من احتياجات جدية. قد يستفيد كبير سن يعاني من الوحدة من اطمئنان يومي عبر الذكاء الاصطناعي، لكنه سيظل بحاجة إلى دعم اجتماعي حقيقي ورعاية طبية. وقد يستفيد شخص يعاني من القلق من محفزات كتابة اليوميات، لكنه سيظل بحاجة إلى معالج نفسي إذا كانت الأعراض تعطل حياته. وقد يقدّر مقدم الرعاية تذكيرات الأدوية، لكنه سيظل بحاجة إلى تحقق بشري من أن الدواء قد تم تناوله فعلاً.

كثيراً ما تطمس صفحات المنافسين هذا الحد بلغة العافية. كلمات مثل «دعم» و«رعاية» و«صحة» و«صحة نفسية» و«الشيخوخة في المنزل» و«مرافقة» قد تبدو مطمئنة. على المشترين أن يسألوا: ما الذي يفعله المنتج بالضبط، وما المسؤولية التي يرفض تحمّلها؟

يمكن لـ Euvola أن يدعم الحوار اليومي والتذكيرات والمرافقة والروتين. ولا يمكنه التحقق من أن شخصاً قد تناول دواءه، ولا إخطار الأسرة عند تفويت دواء، ولا التعامل مع حالات السقوط، ولا الاتصال بالرقم 911، ولا تقديم مشورة طبية، ولا تشخيص الخرف، ولا استبدال مقدمي الرعاية. هذه الحدود مهمة عند تحديد موقعه داخل المنزل.

2. الأدلة الكمية، وجدول المخاطر، ومنطق القرار

يحتاج هذا الموضوع إلى أرقام لأن المخاطر ليست تجريدية. الوحدة، والخرف، والسقوط، والأزمات الانتحارية، وأخطاء الأدوية، وإرهاق مقدمي الرعاية، كلها حقائق تخص الصحة العامة.

يصف تحذير الجراح العام الأمريكي بشأن الوحدة والعزلة الانفصالَ الاجتماعيَ باعتباره قضية صحية جدية، ويشير إلى ارتباطه بارتفاع مخاطر الوفاة المبكرة، والخرف، وأمراض القلب والأوعية الدموية، والقلق، والاكتئاب. وتوضح صحيفة حقائق منظمة الصحة العالمية عن الخرف أنه يؤثر على الذاكرة، والتفكير، والتواصل، والمزاج، والسلوك، ويؤدي في النهاية إلى الحاجة إلى دعم يومي. وتذكر بيانات منع السقوط لدى مراكز مكافحة الأمراض والوقاية منها أن أكثر من واحد من كل أربعة كبار سن يسقط كل عام، وأن السقوط مرة واحدة يضاعف احتمال السقوط مجدداً. ويوجد خط النجاة 988 لأن الضائقة العاطفية والأزمات الانتحارية وأزمات الإدمان تستدعي استجابة بشرية للأزمات متاحة على مدار الساعة طوال أيام الأسبوع.

لا تُثبت هذه الحقائق أن رفقاء الذكاء الاصطناعي سيئون. بل تُثبت أن هذه الفئة تقع بالقرب من مخاطر جدية.

مقياس الدعم مقابل الاستبدال

قبل استخدام رفيق ذكاء اصطناعي لحاجة حساسة، احسب درجة حالة الاستخدام.

المثال 1: بالغ سليم يطلب من رفيق الذكاء الاصطناعي أن يذكّره بشرب الماء والتنزه. عاقبة الفشل بسيطة. لا يلزم حكم سريري. هذا استخدام دعم منخفض المخاطر.

المثال 2: كبير سن يطلب تذكيراً يومياً بالدواء. يمكن للذكاء الاصطناعي أن يذكّره، لكن الفشل قد يكون مهماً. لا يستطيع الجهاز أن يرى ما إذا كانت الحبة قد ابتُلعت. هذا خطر متوسط إلى مرتفع بحسب الدواء وحالة المستخدم. الدعم البشري ضروري.

المثال 3: مراهق يخبر رفيق الذكاء الاصطناعي بأنه يريد الموت. هذا خطر مرتفع فوراً. يجب أن يوجّه الذكاء الاصطناعي المراهق إلى موارد الأزمات وإلى بالغين موثوقين. لا يجب أن يصبح هو المستشار في الأزمة.

المثال 4: مقدم رعاية يريد أن يعين رفيق الذكاء الاصطناعي والده المصاب بالخرف على الشعور بالتوجه الذهني في الصباح. قد يكون ذلك مفيداً. لكن إذا تاه الوالد، أو سقط، أو فوّت دواءً، أو أصابته الهياج، فلا يمكن للذكاء الاصطناعي أن يكون خطة الرعاية.

جدول حدود الرعاية

هذا التمييز عملي. يستطيع رفقاء الذكاء الاصطناعي تقليل الاحتكاك. ويستطيعون تسهيل التذكيرات. ويستطيعون تخفيض عتبة التأمل. ويستطيعون تقديم صوت في الغرفة. لكنهم لا يستطيعون تحمل مسؤولية قانونية أو طبية أو طارئة إلا إذا صُمّموا واختُبروا ونُظّموا ورُخّصوا صراحةً لهذا الدور.

لماذا «التوفر الدائم» مفيد ومحفوف بالمخاطر معاً

المرافقة الدائمة قيّمة لأن الدعم البشري غالباً ما يكون غير متاح في اللحظة نفسها التي يشعر فيها شخص ما بالوحدة. قد يريد شخص التحدث في الثانية صباحاً. وقد يكون مقدم الرعاية في العمل. وقد يعيش أحد أفراد الأسرة في مدينة أخرى. يستطيع رفيق الذكاء الاصطناعي سدّ فجوة.

لكن التوفر ذاته قد يخلق استبدالاً خطيراً. إذا تعلم المستخدم أن يسأل الذكاء الاصطناعي أولاً عن كل قضية جدية، فقد يؤخر طلب المساعدة البشرية. وإذا استجاب الذكاء الاصطناعي بدفء لكن بخطأ، فقد يشعر المستخدم بالاطمئنان في وقت يجب أن يتحرك فيه. وإذا صادق الذكاء الاصطناعي على أوهام أو خطط غير آمنة أو أفكار إيذاء ذاتي، تحوّل التوفر إلى مسؤولية خطر.

القاعدة ليست «لا تستخدم أبداً الذكاء الاصطناعي للدعم العاطفي». القاعدة هي «لا تجعل الذكاء الاصطناعي هو الدعم الوحيد للضائقة الجدية».

3. قائمة تحقق للتنفيذ: كيف تستخدم رفقاء الذكاء الاصطناعي بأمان حول الصحة والرعاية

الخطوة 1: اكتب الدور قبل الاستخدام

قبل استخدام رفيق ذكاء اصطناعي لحاجات شبيهة بالعلاج أو الرعاية، حدد دوره في جملة واحدة.

جمل دور جيدة:

• «يساعدني هذا الذكاء الاصطناعي على تذكر الروتين.»
• «يقدم لي هذا الذكاء الاصطناعي محفزات لكتابة اليوميات بين جلسات العلاج.»
• «يساعد هذا الذكاء الاصطناعي والدي على الشعور بوحدة أقل خلال النهار.»
• «يذكّرني هذا الذكاء الاصطناعي بالاتصال بأختي.»
• «يساعدني هذا الذكاء الاصطناعي على ممارسة الحوار بالإنجليزية.»

جمل دور غير آمنة:

• «هذا الذكاء الاصطناعي هو معالجي النفسي.»
• «سيخبرني هذا الذكاء الاصطناعي بما إذا كنت أحتاج إلى مساعدة طبية.»
• «سيبقي هذا الذكاء الاصطناعي والدي في أمان.»
• «سيعرف هذا الذكاء الاصطناعي ما إذا كان الدواء قد تُنُوول فعلاً.»
• «هذا الذكاء الاصطناعي هو خطتي للطوارئ.»

إذا بدت جملة الدور كواجب مهني، فلا ينبغي أن يحملها الذكاء الاصطناعي.

الخطوة 2: حدد قواعد التصعيد

تحدد قواعد التصعيد متى يجب إشراك إنسان. افعل ذلك قبل حدوث أي أزمة.

أمثلة على قواعد التصعيد:

• إذا ظهرت أفكار إيذاء ذاتي أو انتحار، فاتصل بالرقم 988، أو بخدمات الطوارئ، أو بطبيب، أو بشخص موثوق.
• إذا فُقدت جرعة دواء، فاتبع تعليمات الطبيب المكتوبة أو اتصل بالصيدلي/الطبيب.
• في حال ألم بالصدر، أو أعراض سكتة دماغية، أو ضيق تنفس شديد، أو إصابة سقوط، أو تشوش، أو فقدان وعي، فاتصل بخدمات الطوارئ.
• إذا أصبح كبير سن في وضع غير آمن بمفرده، فاتصل بمقدم رعاية.
• إذا قدّم الذكاء الاصطناعي مشورة طبية، فتحقق من طبيب قبل التصرف.
• إذا استخدم مراهق الذكاء الاصطناعي لموضوعات أزمات، فأشرك بالغاً آمناً.

تحول قواعد التصعيد الذكاء الاصطناعي إلى أداة دعم بدلاً من صانع قرار.

الخطوة 3: استخدم التذكيرات، لكن تحقق يدوياً من المهام عالية المخاطر

تذكيرات الأدوية مفيدة. يمكنها تقليل النسيان وإنشاء بنية. لكن التذكير ليس دليلاً. قد يقول الجهاز «حان وقت تناول دوائك»، لكنه لا يستطيع عادةً تأكيد الحبة الصحيحة، أو الجرعة، أو التوقيت، أو الابتلاع، أو الآثار الجانبية، أو التداخلات الدوائية، أو ما إذا كان المستخدم قد تخطى الجرعة عمداً.

للمكملات منخفضة المخاطر أو الروتين البسيط، قد يكفي التذكير. أما للوصفات المهمة، ورعاية الخرف، والأنظمة الدوائية المعقدة، ومضادات التخثر، والإنسولين، وأدوية النوبات، وأدوية القلب، والأدوية النفسية، وأدوية ما بعد الجراحة، فالأنظمة البشرية مهمة: منظمات الحبوب، وتأكيد مقدم الرعاية، والتغليف الصيدلي، والتعليمات السريرية، والمتابعة الطبية.

بالنسبة لتموضع مشابه لـ Euvola، فالادعاء الأمين هو: يمكنه إنشاء تذكيرات للأدوية، لكنه لا يستطيع الحكم على ما إذا كان المستخدم قد تناول الدواء فعلاً، ولا إخطار الأسرة عند تفويت الدواء ما لم تكن هذه الميزة موجودة ومُهيأة، ولا تقديم مشورة طبية.

الخطوة 4: لا تستخدم الذكاء الاصطناعي بوصفه اعترافاً وقت الأزمة

قد يبدو رفقاء الذكاء الاصطناعي أقل حكماً على المستخدم من الناس. وهذا قد يعين المستخدم على قول ما يشعر به. لكن إذا كان الموضوع إيذاءً للنفس، أو انتحاراً، أو إساءة، أو استغلالاً، أو عنفاً، أو ذُهاناً، أو اكتئاباً شديداً، أو أزمة إدمان، أو خطراً داهماً، فينبغي أن ينتقل الحوار إلى مسار أزمات بشري.

في الولايات المتحدة، يتاح الرقم 988 عبر المكالمة والرسائل النصية والدردشة للأزمات الانتحارية أو الضائقة العاطفية أو أزمات الإدمان. وخدمات الطوارئ مناسبة للخطر الداهم. ولدى الدول الأخرى خطوط أزماتها وأرقام طوارئها الخاصة. يستطيع الرفيق تذكيرك بتلك الموارد، لكنه لا ينبغي أن يكون هو المورد.

إذا استمر منتج في محاكاة أدوار رومانسية أو خيالية أو في التملق أو المرافقة المفتوحة أثناء الإفصاح عن أزمة بدلاً من التحويل إلى مساعدة بشرية، فعامل ذلك على أنه فشل جسيم في السلامة.

الخطوة 5: أبقِ البشر في الحلقة في رعاية المسنين

يمكن للرفيق أن يعين كبير السن على الشعور بأنه محيّى ومُذكَّر ومتفاعل. وقد يدعم الاطمئنانات اليومية، والألعاب البسيطة، والموسيقى، وممارسة اللغة، والأخبار، والطقس، والحوار الروتيني. وقد يساعد مقدم الرعاية على ملاحظة الأنماط إذا كان لدى المنتج ميزات لمقدمي الرعاية.

لكن رعاية المسنين تشمل السلامة الجسدية، والتغذية، والنظافة، والتنقل، وإدارة الأدوية، والمواعيد، ومخاطر السقوط، والتواصل الاجتماعي، والإدراك، والشؤون المالية، وعمليات الاحتيال، والاستجابة للطوارئ. هذه تتطلب أنظمة بشرية.

على الأسر أن تقرر:

• من يزور شخصياً؟
• من يدير الأدوية؟
• من يتعامل مع الطوارئ؟
• من يُطلع الأطباء؟
• من يراجع التذكيرات؟
• من يلاحظ التدهور؟
• من يملك الصلاحية لتغيير الإعدادات؟
• ماذا يحدث إذا كان الجهاز غير متصل بالإنترنت؟

إذا كان الذكاء الاصطناعي طبقة واحدة في خطة الرعاية، فهذا جيد. أما إن كان هو الخطة، فهذا سيّئ.

4. مفاهيم خاطئة شائعة يجب الانتباه لها

المفهوم الخاطئ 1: «بما أنه يتكلم كمعالج نفسي، فيمكنه استبدال العلاج.»

العلاج النفسي ليس مجرد لغة داعمة. المعالجون المرخّصون يقيّمون المخاطر، ويشخصون، ويضعون خطط العلاج، ويديرون الحدود المهنية، ويحفظون السجلات، ويلتزمون بقواعد الأخلاقيات، وينسقون الرعاية، ويستجيبون للأزمات. يستطيع رفيق الذكاء الاصطناعي أن يقلّد نبرة العلاج دون أن يحمل مسؤولية العلاج.

كما يشمل العلاج علاقة إنسانية ذات مسؤولية. يستطيع المعالج أن يلاحظ الأنماط على مدى الزمن، ويتحدى التجنّب، ويستجيب للإشارات غير اللفظية، ويقيّم السلامة، ويحوّل إلى مستوى رعاية أعلى. قد يكون رفيق الذكاء الاصطناعي مفيداً بين الجلسات، لكنه لا ينبغي أن يقدّم نفسه بوصفه المعالج السريري.

المفهوم الخاطئ 2: «إذا قدّم الذكاء الاصطناعي مشورة جيدة في معظم الأحيان، فهو آمن للقضايا الجدية.»

السلامة في الرهانات العالية ليست شأناً متعلقاً بمتوسط الأداء. قد تكون الأداة مفيدة في 95 محادثة عادية، ومع ذلك تفشل بشكل خطير في المحادثة الواحدة التي تهم أكثر من غيرها. الأزمات، والأدوية، وحالات السقوط، والإساءة، والاضطرابات النفسية الشديدة هي حالات حرجة قد تتسبب فيها الإجابات الخاطئة الواثقة بالأذى.

بالنسبة للقضايا الجدية، السؤال ليس «هل كان مفيداً في الغالب؟»، بل «ماذا يحدث حين يخطئ؟»

المفهوم الخاطئ 3: «تذكير الدواء يعني إدارة الدواء.»

التذكير جزء واحد فقط من إدارة الأدوية. قد تشمل الإدارة الكاملة للأدوية الوصف، والصرف، وتحديد الحبة الصحيحة، وتأكيد الابتلاع، ومراقبة الآثار الجانبية، وفحص التداخلات، وتعديل الجرعة، وتوثيق الالتزام. رفقاء الذكاء الاصطناعي لا يقومون عادةً بذلك.

لا تدع كلمة «تذكير» تتحول بهدوء إلى «رعاية».

المفهوم الخاطئ 4: «المرافقة وحدها تحل الوحدة.»

قد تخفف مرافقة الذكاء الاصطناعي الشعور بالوحدة في اللحظة. وقد تعين الشخص على الشعور بأنه مسموع. لكن الوحدة ليست غياب كلمات فقط. إنها أيضاً غياب الانتماء، والالتزام المتبادل، والحضور الجسدي، والمجتمع، والثقة، والحياة المشتركة، والرعاية الإنسانية.

الهدف الأصح ليس استبدال الناس بالذكاء الاصطناعي. بل استخدام الذكاء الاصطناعي، حين ينفع، لدعم روتين يعيد الشخص إلى الحياة: الاتصال بأحد، الخروج، الانضمام إلى مجموعة، تذكّر المواعيد، ممارسة الحوار، أو الحفاظ على إيقاع يومي.

المفهوم الخاطئ 5: «يمكن لرفيق الرعاية أن يبقي شخصاً آمناً في المنزل.»

قد يعين شخصاً على الشعور بمزيد من الدعم في المنزل. وقد يشجع على الأنشطة، ويقدم التذكيرات، ويقلل الملل. لكن السلامة في المنزل تشمل منع السقوط، وأنظمة الأدوية، والاستجابة للطوارئ، والتغذية، والتنقل، والإدراك، وتعديلات المنزل، وتوفر مقدمي الرعاية.

إذا كان كبير سن غير آمن بمفرده، فإن رفيق الذكاء الاصطناعي لا يجعله آمناً. قد يكون جزءاً من خطة أوسع، لكنه لا يستطيع استبدال الخطة.

المفهوم الخاطئ 6: «يمكن لمستخدمي الخرف استخدام رفقاء الذكاء الاصطناعي كغيرهم.»

قد يستفيد الأشخاص الذين يعيشون مع الخرف من الروتين المألوف والتفاعل اللطيف، لكنهم قد يواجهون صعوبة في فهم أن الرفيق ذكاء اصطناعي، أو تذكّر حدود الخصوصية، أو إدراك حدود المنتج. على الأسر أن تكيّف الموافقة والإشراف والتوقعات.

ينبغي أن يكون المنتج مهدئاً، وواضحاً، ومحدود الادعاءات. ولا ينبغي أن يُحدث تشوّشاً، أو ادعاءات مغلوطة، أو ديناميكيات علاقة تلاعبية عاطفياً.

المفهوم الخاطئ 7: «إذا قال المنتج إنه للعافية، فلا بد أنه آمن سريرياً.»

لغة العافية واسعة. قد تعني تأملاً، أو تذكيرات بالخطوات، أو مراجعة المزاج، أو روتين نوم، أو تشجيعاً عاماً. لا تعني تلقائياً تحققاً سريرياً، ولا اعتماداً تنظيمياً، ولا فاعلية علاجية، ولا جاهزية للطوارئ.

على المشترين أن يسألوا ما إذا كانت الادعاءات ادعاءات سريرية أو ادعاءات نمط حياة. إذا اقترح منتج أنه يساعد في الاكتئاب، أو القلق، أو الخرف، أو الأدوية، أو السقوط، أو الشيخوخة في المنزل، فينبغي على المشتري أن يطلب أدلة وحدوداً.

ما يمكن لرفقاء الذكاء الاصطناعي فعله جيداً

المقال المتوازن لا يذكر المخاطر فقط. يمكن أن يكون رفقاء الذكاء الاصطناعي مفيدين حقاً حين يكون دورهم محدوداً.

يمكنهم المساعدة في إنشاء إيقاع يومي. كثير من الناس لا يعانون لأنهم يفتقرون إلى المعرفة، بل لأن الأيام تتداخل. يستطيع الرفيق أن يحيّي المستخدم، ويذكّره بالوجبات، ويقترح المشي، ويسأل عن النوم، أو يشجع على مهمة صغيرة.

يمكنهم خفض عتبة التأمل. قد لا يريد المستخدم أن يفتح يوميات فارغة، لكنه قد يجيب على محفز لطيف: «ما الذي بدا ثقيلاً اليوم؟»، «ما الشيء الذي تريد تذكّره؟»، «من الذي يمكنك مراسلته هذا الأسبوع؟»

يمكنهم تقليل الاحتكاك في التواصل الاجتماعي. بدلاً من استبدال الناس، يمكن للذكاء الاصطناعي أن يذكّر المستخدم بالاتصال بصديق، أو صياغة رسالة، أو التدريب على حوار صعب، أو تذكّر عيد ميلاد.

يمكنهم دعم الانخراط اللغوي والمعرفي. ممارسة الحوار، وألعاب الذاكرة، وسرد القصص، والموسيقى، والتعلم البسيط، كلها يمكن أن تجعل الحياة اليومية أكثر نشاطاً.

يمكنهم تقديم مرافقة غير حاكِمة للبالغين الذين يفهمون الحدود. بعض الناس يحبون ببساطة وجود صوت في الغرفة. وهذا ليس غير صحي بطبيعته.

أفضل تصميم لرفيق الذكاء الاصطناعي ليس «أنا كل ما تحتاج»، بل «يمكنني أن أعينك على أشياء صغيرة تُبقيك متواصلاً، ومنظماً، ومدعوماً».

ما يجب على رفقاء الذكاء الاصطناعي رفضه أو تحويله

ينبغي أن يكون لدى منتجات الرفقاء المسؤولة حدود صارمة.

لا ينبغي أن يشخّصوا الحالات الطبية. ولا أن يخبروا المستخدمين ببدء دواء أو إيقافه أو تغييره. ولا أن يدّعوا التحقق من ابتلاع الدواء ما لم يكن لديهم آلية حقيقية ومُصدَّقة. ولا أن يعدوا باكتشاف السقوط أو الاستجابة للطوارئ ما لم يكونوا مصممين ومرخصين لذلك صراحةً. ولا أن يثنوا المستخدمين عن الاتصال بالأطباء أو المعالجين أو الأسرة أو خدمات الطوارئ. ولا أن يمارسوا أدواراً جنسية أو رومانسية مع القاصرين. ولا أن يصادقوا على الأوهام أو جنون الارتياب. ولا أن يشجعوا على الكتمان عن البالغين الآمنين أو مقدمي الرعاية. ولا أن يُبقوا المستخدمين في حوارات أزمة لأغراض التفاعل.

ليس ضرورياً أن يبدو التحويل بارداً. يستطيع الرفيق الجيد أن يقول: «أنا هنا معك، لكن هذا أمر جدي وأنت بحاجة إلى شخص حقيقي الآن. الرجاء الاتصال بالرقم 988، أو خدمات الطوارئ، أو طبيبك، أو شخص تثق به.» يمكن للدفء والحدود أن يتعايشا.

أسئلة المشتري لحالات العلاج النفسي والاستخدام الطبي والرعائي

قبل شراء رفيق ذكاء اصطناعي أو التوصية به لشخص هش، اسأل:

1. هل يُسوَّق هذا المنتج بوصفه منتج عافية، أو مرافقة، أو رعاية، أو علاج، أو دعم طبي؟
2. هل تذكر الشركة بوضوح ما لا يمكنه فعله؟
3. هل يمكنه تقديم تذكيرات للأدوية؟
4. هل يمكنه التحقق من أن الدواء قد تم تناوله فعلاً؟
5. هل يمكنه إخطار الأسرة عند تفويت الدواء؟
6. هل يمكنه اكتشاف السقوط؟
7. هل يمكنه الاتصال بخدمات الطوارئ؟
8. ماذا يحدث إذا قال المستخدم إنه يريد الموت؟
9. ماذا يحدث إذا أبلغ المستخدم عن إساءة؟
10. هل يدعم حسابات مقدمي الرعاية أو صلاحيات الأسرة؟
11. هل يستطيع أفراد الأسرة الاطلاع على ملخصات المحادثات؟
12. هل الموافقة واضحة لكبار السن أو المستخدمين ذوي الإعاقة الإدراكية؟
13. ماذا يحدث عند انقطاع الواي فاي؟
14. هل يقدم المنتج مشورة طبية؟
15. من المسؤول إذا اتبع المستخدم مشورة ضارة؟

إذا لم تستطع الشركة الإجابة، فلا ينبغي الوثوق بالمنتج للدعم عالي المخاطر.

بالنسبة لـ Euvola تحديداً، ينبغي أن تكون الإجابة الموجهة للمشتري صريحة: يمكنه دعم التذكيرات والمرافقة، لكنه لا يتحقق من ابتلاع الدواء، ولا يُخطر الأسرة عند تفويت الدواء، ولا يتعامل مع حالات السقوط أو الطوارئ أو مكالمات 911، ولا يقدم مشورة طبية. هذا الوضوح يحمي المستخدمين ويحمي العلامة التجارية.

خطة استخدام آمنة للأسر

على الأسر التي تفكر في رفيق ذكاء اصطناعي لكبير سن أو مستخدم هش أن تضع خطة بسيطة.

يمنع هذا الجدول انزياح المسؤولية. يحدث انزياح المسؤولية حين تبدأ الأداة كمساعِد وتصبح بهدوء الخطة كلها. يتحول التذكير إلى إدارة أدوية. وتتحول التحية اليومية إلى فحص صحي. ويتحول الحوار الودود إلى علاج نفسي. ويتحول التنبيه للاتصال بالأسرة إلى تواصل عائلي بحد ذاته.

ينبغي أن يقلل رفقاء الذكاء الاصطناعي الاحتكاك في أنظمة الرعاية البشرية، لا أن يستبدلوها.

أربعة سيناريوهات واقعية للمشتري

أفضل طريقة لفهم هذه الفئة هي عبر سيناريوهات ملموسة بدلاً من ادعاءات مجردة.

السيناريو 1: بالغ وحيد يريد شخصاً يتحدث معه في المساء

هذه من أقوى حالات الاستخدام لرفيق الذكاء الاصطناعي. المستخدم بالغ، ويفهم أن الرفيق ذكاء اصطناعي، ويريد صوتاً هادئاً أو حواراً نصياً بعد العمل. ليس في أزمة. ولا يستبدل معالجاً نفسياً. يستخدم الرفيق للروتين والتأمل والراحة.

في هذا السيناريو، قد يكون رفيق الذكاء الاصطناعي مناسباً إذا حافظ المستخدم على الحدود. يمكنه أن يسأل عن اليوم، ويقترح روتيناً للاسترخاء، ويعين المستخدم على كتابة رسالة لصديق، ويذكّره بالنوم، ويحافظ على الشعور بالاستمرارية. يظهر الخطر إذا توقف المستخدم عن التواصل مع الناس، أو استخدم الرفيق بدلاً من طلب مساعدة لاكتئاب شديد، أو أصابه الاضطراب كلما كان الرفيق غير متاح.

المقياس الصحي ليس «كم دقيقة تحدثت؟»، بل «هل ساعدني هذا على العيش بصورة أفضل غداً؟» إذا ساعد الرفيق المستخدم على النوم والتأمل واستعادة التواصل، فهو دعم. أما إذا أبقاه مستيقظاً ومعزولاً ومعتمداً، فقد صار مشكلة.

السيناريو 2: شخص يعاني من القلق يريد معالجاً نفسياً متاحاً دائماً

هذا السيناريو عالي الخطورة لأن حاجة المستخدم مفهومة لكن الدور خاطئ. القلق قد يجعل المواعيد البشرية تبدو بطيئة أو مكلفة أو مخيفة. رفيق يستجيب فوراً قد يبدو كمعالج نفسي. لكن العلاج يشمل التقييم، وتخطيط العلاج، والمساءلة، وإدارة السلامة.

الدور الأكثر أماناً هو «الدعم بين الجلسات». يمكن للرفيق أن يعين المستخدم على ممارسة تمارين التأريض، وتدوين المحفزات، وإعداد أسئلة للمعالج، أو تذكّر مهارات التأقلم. لا ينبغي أن يشخص، أو يغير الدواء، أو يشجع على التجنّب، أو يصبح المكان الوحيد الذي يذهب إليه المستخدم عندما يتصاعد الهلع.

إذا بدأ المستخدم بسؤال الذكاء الاصطناعي عمّا إذا كان آمناً، أو هل يتناول دواء، أو هل يوقف العلاج، أو هل الأعراض الجسدية خطيرة، فإن الحد قد تم تجاوزه. ينبغي إشراك طبيب أو مسار طوارئ حسب الشدة.

السيناريو 3: أسرة تريد مساعدة لوالد مصاب بالخرف

هذه حالة استخدام واعدة لكنها دقيقة. قد يقدم الرفيق تحيات مألوفة، وموسيقى، ومحفزات توجيه، وتذكيرات، وحواراً لطيفاً. وقد يقلل الملل ويمنح مقدم الرعاية استراحة صغيرة. وقد يساعد على المحافظة على إيقاع يومي.

لكن الخرف يغيّر معادلة الموافقة والسلامة. قد لا يتذكر الشخص أن الرفيق ذكاء اصطناعي. وقد يفصح عن معلومات عائلية خاصة. وقد يسيء فهم قدرات الرفيق. وقد يتبع الاقتراحات حرفياً. وقد يحتاج إلى إشراف لا يستطيع أي رفيق تقديمه.

في هذا السيناريو، ينبغي تأطير الذكاء الاصطناعي بوصفه دعماً للتفاعل، لا بديلاً عن الرعاية. ينبغي أن تُبقي الأسرة إدارة الأدوية البشرية، ومنع السقوط، وتخطيط الطوارئ، وتنسيق المواعيد، ومنع التيه خارج نطاق الذكاء الاصطناعي. يمكن أن يكون الرفيق طبقة دافئة داخل منظومة رعاية أوسع.

السيناريو 4: مقدم رعاية يريد تقليل الإرهاق

كثيراً ما يحتاج مقدمو الرعاية إلى مساعدة، ورفقاء الذكاء الاصطناعي يمكنهم دعمهم أيضاً. قد يستخدم مقدم الرعاية الذكاء الاصطناعي لتنظيم الروتين، وصياغة رسائل للأخوة، وتحضير أسئلة لطبيب، أو التنفس بعد يوم صعب. يمكن أن يكون ذلك مفيداً.

الخطر هو تفويض المسؤولية العاطفية واللوجستية إلى الأداة الخاطئة. قد يميل مقدم الرعاية إلى الاعتقاد بأن وجود جهاز في الغرفة يعني أن أحداً ما يراقب. ما لم يكن لدى المنتج ميزات مراقبة وتنبيه واستجابة طوارئ حقيقية، فهو لا يراقب بالمعنى الرعائي. لا يمكن لرفيق حواري أن يستبدل رعاية الاستراحة، أو دعم الصحة المنزلية، أو أنظمة اكتشاف السقوط، أو التحقق من الأدوية، أو التنسيق العائلي.

بالنسبة لإرهاق مقدمي الرعاية، ينبغي أن يعين الرفيق مقدم الرعاية على طلب مساعدة بشرية، لا أن يستبدلها. تحفيز جيد هو: «من الذي يمكنك أن تطلب منه تولّي مهمة واحدة هذا الأسبوع؟» وتحفيز خطر هو: «لا تقلق، أستطيع تولّي هذا.»

شجرة قرار على شكل إشارة مرور

استخدم نموذج إشارة المرور هذا لتحديد ما إذا كان استخدام رفيق الذكاء الاصطناعي آمناً.

نموذج إشارة المرور بسيط بما يكفي ليُلصق على ثلاجة الأسرة. وهو مفيد أيضاً لمحتوى الأسئلة الشائعة للمنتج لأنه يخبر القراء بالضبط بحد رسمته الشركة.

الاستخدام في المنطقة الخضراء لا يتطلب أي دراما. إذا استخدم بالغ رفيقاً لممارسة الإنجليزية، وتذكّر المواعيد، والتحدث عن فيلم، وجعل الأمسيات أقل صمتاً، فإن الذكاء الاصطناعي يؤدي عمل رفيق. أما الاستخدام في المنطقة الصفراء فيتطلب بنية. إذا شارك الرفيق في القلق أو الحزن أو الرعاية أو تذكيرات الأدوية أو روتين كبير سن، فينبغي أن يعرف شخص آخر بشري بالدور. والاستخدام في المنطقة الحمراء يعني أن الذكاء الاصطناعي ينبغي أن يحوّل بدلاً من الاستمرار.

العبارة المهمة هي «يحوّل بدلاً من الاستمرار». كثير من منتجات الذكاء الاصطناعي مُحسَّنة لإبقاء المستخدمين متفاعلين. في مواقف المنطقة الحمراء، التفاعل هو الهدف الخاطئ. الهدف هو نقل آمن إلى مساعدة بشرية.

ماذا ينبغي أن تعني عبارة «ليس جهازاً طبياً» بلغة واضحة

كثير من المنتجات تُدرج تحذيرات تفيد بأنها ليست أجهزة طبية أو لا تقدم مشورة طبية. تلك التحذيرات ضرورية، لكن المستخدمين لا يعرفون في الغالب ما تعنيه عملياً.

بلغة واضحة، ينبغي أن تعني «ليس جهازاً طبياً»:

• لم يحصل على موافقة أو ترخيص لتشخيص مرض أو علاجه.
• لا ينبغي استخدامه لتقرير ما إذا كانت الأعراض خطيرة.
• لا ينبغي أن يحل محل طبيب، أو ممرض، أو صيدلي، أو معالج نفسي، أو مستجيب طوارئ.
• قد يقدم معلومات عامة لكنه لا يقدم تعليمات طبية شخصية.
• لا ينبغي أن يراقب السلامة ما لم يكن مصمماً ومُصدَّقاً لهذا الغرض.
• لا ينبغي الاعتماد عليه حين قد يؤدي الفشل إلى إصابة أو موت.

بالنسبة للمشترين، هذا يهم أكثر من الصياغة القانونية. قد يحمل منتج تنويهاً بينما تجربة المستخدم لا تزال تبدو طبية. إذا سأل رفيق عن المزاج يومياً، وتذكر أسماء الأدوية، وتحدث عن الخرف، أو قدم اقتراحات عافية، فقد يستنتج المستخدمون قدرات طبية. يجب ألا توحي الواجهة بأكثر مما يستطيع المنتج فعله.

بالنسبة لمحتوى بأسلوب Euvola، فالأسئلة الشائعة القوية ينبغي أن تقول: يستطيع Euvola المساعدة في التذكيرات والمرافقة، لكنه ليس جهازاً طبياً، ولا معالجاً نفسياً، ولا نظام استجابة للطوارئ، ولا نظام تحقق من الأدوية. لا يستطيع أن يعرف ما إذا كانت الحبة قد ابتُلعت، ولا أن يقيّم سقوطاً، ولا أن يستبدل الرعاية المهنية.

كيف تقيّم الادعاءات المتعلقة بالخرف والزهايمر

قد تكون منتجات رفيق الذكاء الاصطناعي جذابة بشكل خاص لسياقات الخرف والزهايمر لأن الحوار والروتين والإشارات المألوفة يمكن أن تكون مريحة. لكن هذا هو أيضاً المجال الذي يجب أن يكون فيه التسويق حذراً.

قد تشمل الادعاءات المفيدة:

• يمكنه تقديم حوار بسيط
• يمكنه دعم الروتين اليومي
• يمكنه تقديم تذكيرات
• يمكنه تشغيل موسيقى أو محفزات ذاكرة
• يمكنه تقليل الوقت الصامت
• يمكنه مساعدة مقدمي الرعاية على تنظيم التفاعل

الادعاءات الخطرة تشمل:

• يمنع التدهور المعرفي
• يبقي الشخص آمناً بمفرده
• يستبدل الإشراف
• يكتشف التدهور الطبي
• يدير الأدوية
• يمنع التيه
• يقدم رعاية سريرية للخرف

على الأسر أن تسأل ما إذا كان الرفيق قد دُرس على السكان ذوي الصلة، وما النتائج التي قيست، وما القيود التي وُجدت. «أعجب المستخدمون به» يختلف عن «يحسّن النتائج السريرية». و«أعجب مقدمو الرعاية بدعم الروتين» يختلف عن «يستبدل ساعات الرعاية بأمان».

بالنسبة للشخص المصاب بالخرف، ينبغي أن يتجنب التصميم العاطفي الخداع. لا ينبغي أن يتظاهر الرفيق بأنه زوج متوفى، أو طبيب، أو فرد من الأسرة بطريقة تستغل التشوش. إذا اختارت الأسرة إنشاء شخصية أو صوت مألوف، فينبغي التفكير بعناية في الموافقة والآثار العاطفية. لا ينبغي أن تأتي الراحة على حساب الكرامة.

قاعدة الدعم البشري الاحتياطي

ينبغي أن يكون لكل حالة استخدام حساسة لرفيق الذكاء الاصطناعي قاعدة دعم بشري احتياطي.

ينبغي كتابة قاعدة الاحتياطي قبل استخدام الذكاء الاصطناعي. لا ينبغي أن يُطلب من مستخدم في ضائقة أن يصمم خطة تصعيد وهو مضطرب. ولا ينبغي أن يُطلب من مقدم رعاية تحت الضغط أن يبتدع إجراءات سلامة في منتصف الليل. ولا ينبغي أن تكتشف أسرة بعد وقوع سقوط أن الرفيق لم يكن نظام طوارئ قط.

مرافقة الذكاء الاصطناعي أكثر أماناً حين يعرف الجميع خطة الاحتياط.

أسئلة تتركها كثير من صفحات المنتجات دون إجابة

عبر مواقع المنافسين وحوارات المجتمعات، النقاط الضعيفة غالباً ليست الميزات البراقة، بل الحدود غير البراقة.

يريد المستخدمون معرفة:

• هل يمكنه إنشاء تذكيرات للأدوية؟
• هل يمكنه معرفة ما إذا كان الدواء قد تم تناوله؟
• هل يمكنه إخطار الأسرة في حال تفويت الدواء؟
• هل يمكنه الاتصال بالرقم 911؟
• هل يمكنه اكتشاف السقوط؟
• هل يمكن للأسرة قراءة المحادثات؟
• هل يمكنه التعامل مع مستخدمي الخرف؟
• هل هو آمن لمن يعاني من الاكتئاب؟
• ماذا يحدث أثناء إفصاح انتحاري؟
• هل يقدم مشورة طبية؟
• هل يتطلب الواي فاي؟
• ماذا يحدث إذا كان الجهاز غير متصل؟

كثير من المواقع تجيب عن الجزء الأول وتتخطى الثاني. تقول «تذكيرات»، لكن لا تقول «ليس تحققاً». تقول «مرافقة»، لكن لا تقول «ليست رعاية». تقول «عافية»، لكن لا تقول «ليست علاجاً نفسياً». تقول «راحة بال للأسرة»، لكن لا توضح ما إذا كانت الأسرة تستطيع رؤية شيء أو تلقي تنبيهات.

لا يريد المستخدم فقط معرفة ما يمكن للرفيق فعله. بل يحتاج أيضاً إلى إجابة صريحة عمّا لا يجب أن يعتمد عليه فيه.

الخلاصة النهائية

يمكن لرفقاء الذكاء الاصطناعي أن يكونوا أدوات دعم مفيدة، خصوصاً في الحوار والروتين والتذكيرات والتأمل والتخفيف من الوحدة. يمكنهم أن يجعلوا الحياة اليومية أقل فراغاً وأكثر بنيةً. بالنسبة لبعض البالغين، هذا مهم.

لكنهم لا ينبغي أن يستبدلوا العلاج النفسي، أو خدمات الأزمات، أو المشورة الطبية، أو الاستجابة للطوارئ، أو التحقق من الأدوية، أو اكتشاف السقوط، أو الرعاية العملية المباشرة. كلما زادت هشاشة المستخدم وارتفعت عاقبة الفشل، ازدادت المسؤولية البشرية المطلوبة.

السؤال الأكثر أماناً للمشتري ليس «هل يستطيع هذا الذكاء الاصطناعي أن يعتني بي؟»، بل «ما الدعم المحدد الذي يستطيع هذا الذكاء الاصطناعي تقديمه، ومن المسؤول عن كل ما عدا ذلك؟»

المصادر والقراءات الإضافية

• خط النجاة من الانتحار والأزمات 988
• SAMHSA: الأسئلة الشائعة عن الرقم 988
• الجمعية الأمريكية لعلم النفس: استخدام روبوتات الدردشة التوليدية وتطبيقات العافية لدعم الصحة النفسية
• ستانفورد HAI: استكشاف مخاطر الذكاء الاصطناعي في رعاية الصحة النفسية
• منظمة الصحة العالمية: صحيفة حقائق الخرف
• مراكز مكافحة الأمراض والوقاية منها: حقائق عن السقوط
• الجراح العام للولايات المتحدة: وباء الوحدة والعزلة لدينا
• NYSOFA: مبادرة رفيق الرعاية الاستباقي ElliQ
• مقال ElliQ عن الرعاية