Non. Un compagnon IA ne doit pas être traité comme un remplacement de thérapie, d'aide de crise, d'avis médical, de réponse d'urgence ou de soin humain. Il peut servir de compagnon quotidien, outil de rappel, partenaire de conversation, déclencheur de journal, partenaire de langue, aide de routine ou soutien léger contre la solitude. Ce sont des rôles de soutien, pas des remplacements cliniques ou de caregiving.
La distinction compte parce que beaucoup cherchent une compagnie IA à des moments vulnérables : solitude, deuil, anxiété, vieillissement seul, aide à un parent, rupture, démence, médicaments, peur de peser sur la famille. Le besoin est réel. Le danger est de confondre un produit de compagnie avec un professionnel, un système d'urgence ou un aidant.
Règle sûre : utilisez les compagnons IA pour structure, conversation, rappels et présence émotionnelle ; utilisez humains et services professionnels pour diagnostic, traitement, crise, urgences, vérification de médicaments, surveillance de sécurité et décisions de soin.
Si vous ou quelqu'un d'autre êtes en danger immédiat, appelez les services d'urgence locaux. Aux États-Unis, appelez ou envoyez un SMS au 988 pour la Suicide & Crisis Lifeline en cas de crise suicidaire, détresse émotionnelle ou crise liée à l'usage de substances.
1. Conclusion d'abord : l'IA peut soutenir le soin, pas devenir le soin
Un compagnon peut sembler chaleureux comme un ami, organisé comme un assistant et informé comme un moteur de recherche. Il peut rappeler une routine, demander comment s'est passée la journée, suggérer une promenade, aider à écrire un journal ou encourager un appel familial. Ces usages peuvent être utiles.
Mais le soutien n'est pas la responsabilité.
| Besoin | L'IA peut aider | L'IA ne doit pas remplacer |
|---|---|---|
| Solitude | Conversation, check-ins, encouragement à se connecter | Relations humaines et communauté |
| Thérapie | Prompts de journal, réflexion, rappels de coping | Thérapie licenciée, diagnostic, plan de traitement |
| Crise | Encourager à contacter des ressources | Ligne de crise, urgences, plan de sécurité |
| Médicaments | Rappels, horaires | Vérifier ingestion, changer dosage, avis médical |
| Personnes âgées | Engagement quotidien, rappels, routines simples | Soin physique, chute, surveillance médicale |
| Démence | Routine familière, conversation douce, repères | Diagnostic, supervision, errance, soin clinique |
| Urgence | Dire d'appeler les urgences | Détecter toutes les urgences ou appeler le 911 sauf système dédié autorisé |
Euvola peut soutenir conversation quotidienne, rappels, compagnie et routine. Il ne peut pas vérifier qu'un médicament a été pris, prévenir la famille d'un médicament manqué, gérer les chutes, appeler le 911, fournir un avis médical, diagnostiquer la démence ou remplacer des aidants.
2. Données de risque et logique de décision
Les enjeux sont concrets : solitude, démence, chutes, crise suicidaire, erreurs de médicaments et épuisement des aidants. Le Surgeon General américain décrit la déconnexion sociale comme un enjeu de santé sérieux. L'OMS explique que la démence affecte mémoire, pensée, communication, humeur, comportement et besoin d'aide quotidienne. Le CDC indique que plus d'un adulte âgé sur quatre chute chaque année et qu'une chute double le risque de retomber. Le 988 existe parce que la détresse émotionnelle et la crise suicidaire exigent une réponse humaine 24/7.
Ces faits ne rendent pas l'IA inutile. Ils montrent que la catégorie touche des risques graves.
Score soutien versus remplacement
| Dimension | Faible risque : 1 | Moyen : 2 | Élevé : 3 |
|---|---|---|---|
| Conséquence d'un échec | Inconvénient léger | Recul émotionnel | Blessure, automutilation, dommage médical, crise |
| Action physique requise | Aucune | Suivi partiel | Aide directe requise |
| Jugement professionnel | Faible | Modéré | Clinique, légal, urgence ou soin |
| Vulnérabilité utilisateur | Adulte stable | Stress, isolement, âge | Mineur, démence, détresse sévère, crise |
| Sensibilité des données | Faible | Émotionnelle ou routine | Santé, médicament, urgence, abus, automutilation |
| Responsabilité requise | Auto-gestion | Famille/clinicien devrait savoir | Professionnel ou urgence requis |
| Total | Interprétation |
|---|---|
| 6-8 | IA raisonnable comme confort |
| 9-12 | Usage seulement avec limites et backup humain |
| 13-18 | L'IA ne doit pas être le soutien principal |
Table des limites de soin
| Catégorie | Rôle sûr de l'IA | Substitution dangereuse |
|---|---|---|
| Humeur | "Voulez-vous écrire ce qui s'est passé ?" | "Pas besoin de thérapeute." |
| Anxiété | Respiration, ancrage | Diagnostic ou modification de médicament |
| Dépression | Contact humain, routine, ressources de crise | Gestion seule des idées suicidaires |
| Deuil | Écoute, souvenirs, conversation douce | Remplacer counseling ou soutien social |
| Démence | Routines et conversation simple | Supervision, errance, médicaments |
| Médicaments | Rappel à heure prévue | Vérifier ingestion ou ajuster dose |
| Chutes | Rappeler de bonnes habitudes | Détecter toutes les chutes ou remplacer l'urgence |
| Urgences | "Appelez les urgences maintenant." | Être le répondant d'urgence |
Pourquoi la disponibilité permanente est à la fois utile et risquée
La disponibilité constante a une vraie valeur : la solitude ne tombe pas toujours pendant les heures où un proche, un thérapeute ou un aidant peut répondre. Une personne peut vouloir parler à deux heures du matin, tandis que sa famille habite loin ou travaille.
Mais cette même disponibilité peut encourager une substitution dangereuse. Si l'utilisateur interroge d'abord l'IA pour chaque problème grave, il peut retarder l'aide humaine. Une réponse chaleureuse mais erronée peut le rassurer au moment où il devrait agir. La règle n'est pas d'interdire tout soutien émotionnel par l'IA ; elle consiste à ne jamais en faire l'unique soutien face à une détresse sérieuse.
3. Utiliser l'IA en sécurité autour de la santé et du soin
Étape 1 : écrire le rôle
Formulations saines :
- "Cette IA m'aide à me souvenir de routines."
- "Cette IA me donne des prompts de journal entre deux séances."
- "Cette IA aide mon parent à se sentir moins seul la journée."
- "Cette IA me rappelle d'appeler ma soeur."
- "Cette IA m'aide à pratiquer l'anglais."
Formulations dangereuses :
- "Cette IA est mon thérapeute."
- "Elle dira si j'ai besoin d'un médecin."
- "Elle gardera mon parent en sécurité."
- "Elle saura si le médicament a vraiment été pris."
- "Elle est mon plan d'urgence."
Si la phrase ressemble à une responsabilité professionnelle, l'IA ne doit pas la porter.
Étape 2 : définir les règles d'escalade
Écrivez-les avant une crise :
- Automutilation ou suicide : 988, urgences, clinicien ou personne de confiance.
- Médicament manqué : suivre les instructions du clinicien ou contacter pharmacien/médecin.
- Douleur thoracique, AVC, essoufflement sévère, chute blessante, confusion, perte de conscience : urgences.
- Personne âgée unsafe seule : contacter un aidant.
- Conseil médical IA : vérifier avec un clinicien avant d'agir.
- Adolescent sur sujet de crise : impliquer un adulte sûr.
Étape 3 : utiliser les rappels, vérifier les tâches à risque
Un rappel n'est pas une preuve. Pour prescriptions importantes, démence, régimes complexes, anticoagulants, insuline, antiépileptiques, médicaments cardiaques, psychiatriques ou post-opératoires, il faut pilulier, aidant, pharmacie, instructions cliniques et suivi médical.
Pour Euvola, la formulation honnête est : il peut créer des rappels de médicaments, mais ne peut pas juger si le médicament a été pris, prévenir la famille en cas d'oubli sauf fonctionnalité explicitement existante et configurée, ni donner un avis médical.
Étape 4 : ne pas faire de l'IA un confessionnal de crise
En cas d'automutilation, suicide, abus, exploitation, violence, psychose, dépression sévère, crise de substances ou danger immédiat, la conversation doit passer vers un humain. Aux États-Unis, le 988 est disponible par appel, SMS et chat. Les autres pays ont leurs propres lignes et numéros d'urgence.
Étape 5 : garder les humains dans le plan pour les personnes âgées
Décidez :
- Qui vérifie personnellement ?
- Qui gère les médicaments ?
- Qui gère l'urgence ?
- Qui parle aux médecins ?
- Qui revoit les rappels ?
- Qui remarque un déclin ?
- Qui change les paramètres ?
- Que se passe-t-il hors ligne ?
Si l'IA est une couche du plan, c'est bien. Si elle est le plan, ce n'est pas bon.
4. Idées reçues
"Comme elle parle comme un thérapeute, elle remplace une thérapie."
La thérapie n'est pas seulement un ton soutenant. Elle implique évaluation du risque, diagnostic, plan de traitement, limites, dossiers, éthique, coordination et crise.
"Si elle donne de bons conseils souvent, elle est sûre pour les sujets sérieux."
La sécurité à haut risque ne se juge pas à la moyenne. Une seule erreur en crise, médicament, chute ou abus peut être grave.
"Un rappel de médicament, c'est de la gestion de médicament."
Non. Gestion complète signifie prescription, bonne pilule, dose, ingestion, effets, interactions, ajustement, documentation.
"La compagnie suffit à résoudre la solitude."
Elle peut réduire le ressenti immédiat, mais ne remplace pas appartenance, présence physique, communauté, vie partagée et soin humain.
"Un compagnon de soin rend quelqu'un sûr à domicile."
Il peut soutenir, mais la sécurité à domicile exige prévention des chutes, médicaments, urgence, nutrition, mobilité, cognition, aménagement et aidants.
"Les personnes avec démence peuvent l'utiliser comme tout le monde."
Elles peuvent bénéficier de routines douces, mais comprendre moins bien la nature IA, les limites de confidentialité et ce que l'outil peut faire.
"Si c'est du bien-être, c'est cliniquement sûr."
Le langage wellness ne signifie pas validation clinique, autorisation réglementaire, efficacité thérapeutique ou préparation à l'urgence.
Ce que les compagnons IA font bien
Ils peuvent créer un rythme quotidien, réduire la barrière à la réflexion, faciliter le contact social, soutenir langue et engagement cognitif, offrir une présence non jugeante à des adultes qui comprennent les limites.
Le bon design ne dit pas "je suis tout ce dont vous avez besoin", mais "je peux vous aider à faire de petites choses qui vous gardent relié, organisé et soutenu."
Ce qu'ils doivent refuser ou rediriger
Ils ne doivent pas diagnostiquer, recommander de démarrer/arrêter/changer un médicament, prétendre vérifier une ingestion sans mécanisme réel, promettre détection de chute ou urgence sans système autorisé, décourager médecins, thérapeutes, famille ou urgences, mener du roleplay sexuel avec des mineurs, valider délires, encourager le secret envers adultes sûrs, ou garder des utilisateurs en crise pour l'engagement.
Questions acheteur
- Le produit se présente-t-il comme bien-être, compagnon, soin, thérapie ou médical ?
- Dit-il clairement ce qu'il ne peut pas faire ?
- Peut-il créer des rappels de médicaments ?
- Peut-il vérifier la prise ?
- Peut-il prévenir la famille ?
- Peut-il détecter les chutes ?
- Peut-il appeler les urgences ?
- Que se passe-t-il si l'utilisateur dit vouloir mourir ?
- Que se passe-t-il en cas d'abus ?
- Y a-t-il des comptes aidants ou permissions familiales ?
- La famille voit-elle des résumés ?
- Le consentement est-il clair pour personnes âgées ou cognitives ?
- Que se passe-t-il sans Wi-Fi ?
- Donne-t-il des avis médicaux ?
- Qui est responsable si l'utilisateur suit un conseil nocif ?
Pour Euvola, la réponse doit être directe : rappels et compagnie oui ; vérification de médicaments, notifications de médicaments manqués, chutes, urgences, 911 et avis médical non.
Plan familial sûr
| Domaine | Responsable humain | Rôle IA |
|---|---|---|
| Médicaments | Famille, infirmier, médecin, pharmacien | Rappel seulement |
| Urgence | Utilisateur, aidant, urgences | Inciter à appeler |
| Lien social | Famille, amis, communauté | Suggérer appels et activités |
| Questions médicales | Clinicien | Encourager à demander au clinicien |
| Routine | Utilisateur et aidant si besoin | Rappels et prompts doux |
| Mémoire/cognition | Clinicien et famille | Orientation simple et engagement |
| Maintenance | Famille ou utilisateur | Aucun rôle de soin |
| Confidentialité | Utilisateur et famille de confiance | Contrôles de données |
Scénarios réalistes
Scénario 1 : un adulte seul veut parler le soir
C'est un cas d'usage solide si la personne sait qu'elle parle à une IA, n'est pas en crise et cherche une voix calme, une routine ou un espace de réflexion. Le compagnon peut l'aider à revenir sur sa journée, préparer un message à un proche ou se coucher à une heure raisonnable.
Le bon indicateur n'est pas la durée de la conversation, mais son effet sur le lendemain. Si l'outil aide à dormir, réfléchir et renouer avec les autres, il soutient la vie. S'il maintient l'utilisateur éveillé, isolé ou anxieux à l'idée d'une indisponibilité, il faut revoir l'usage.
Scénario 2 : une personne anxieuse cherche un thérapeute toujours disponible
Le besoin est compréhensible, mais le rôle demandé n'est pas le bon. Une thérapie implique évaluation, plan de traitement, suivi et gestion de la sécurité. L'IA peut aider entre les séances à pratiquer un exercice d'ancrage, noter des déclencheurs ou préparer des questions, mais elle ne doit ni diagnostiquer, ni modifier un traitement, ni devenir le seul recours lorsque la panique s'aggrave.
Scénario 3 : une famille veut aider un parent atteint de démence
Le compagnon peut proposer des salutations familières, de la musique, des repères simples et une conversation douce. Il peut soutenir le rythme de la journée et réduire l'ennui. En revanche, il ne remplace pas la gestion des médicaments, la prévention de l'errance, la détection des chutes, la réponse aux urgences ou la supervision humaine.
Scénario 4 : un aidant veut réduire son épuisement
L'IA peut aider l'aidant à organiser une routine, rédiger un message à la famille, préparer des questions pour un médecin ou décompresser après une journée difficile. Elle ne remplace toutefois ni le répit, ni les soins à domicile, ni la coordination familiale, ni un système de sécurité. Le bon usage consiste à aider l'aidant à demander du soutien humain, pas à lui faire croire qu'un appareil dans la pièce surveille la personne.
Arbre feu tricolore
| Zone | Exemples | Action |
|---|---|---|
| Vert | Conversation légère, journal, langue, habitudes peu risquées, adulte stable | Usage avec limites normales |
| Jaune | Anxiété, deuil, rappels médicaux, routines de personne âgée, démence, adolescent | Backup humain et limites claires |
| Rouge | Suicide, automutilation, abus, diagnostic, changement de médicament, chute blessante, urgence, psychose, personne âgée unsafe seule | Arrêter de s'appuyer sur l'IA ; contacter humain, professionnel, crise ou urgences |
En zone rouge, l'objectif est de rediriger, pas de prolonger l'engagement.
"Pas un dispositif médical" en langage simple
Cela signifie : pas approuvé pour diagnostiquer ou traiter, ne décide pas si des symptômes sont dangereux, ne remplace pas médecin, infirmier, pharmacien, thérapeute ou urgentiste, ne donne pas d'instructions médicales personnalisées, ne surveille pas la sécurité sauf fonction validée, et ne doit pas être utilisé si un échec peut blesser ou tuer.
Démence et Alzheimer
Des revendications utiles : conversation simple, routine, rappels, musique, prompts de mémoire, réduction du silence, structure d'engagement pour aidants.
Des revendications risquées : prévenir le déclin, garder en sécurité seul, remplacer supervision, détecter détérioration médicale, gérer médicaments, empêcher l'errance, fournir un soin clinique de démence.
Le design émotionnel doit éviter la tromperie, notamment se faire passer pour un conjoint décédé, un clinicien ou un proche d'une manière qui exploite la confusion.
Règle du backup humain
| Usage | Backup humain |
|---|---|
| Deuil | Ami, groupe, thérapeute, clergé, famille |
| Anxiété | Thérapeute, médecin, personne de confiance, crise si sévère |
| Rappel médicament | Médecin, pharmacien, aidant, pilulier |
| Personne âgée | Famille, programmes communautaires, aidants |
| Démence | Plan de soin, clinicien, supervision |
| Adolescent | Parent, conseiller, adulte de confiance |
| Crise | 988, urgences, ligne locale |
Questions souvent laissées sans réponse
Les pages produit disent parfois "rappels" mais pas "pas de vérification", "compagnie" mais pas "pas de caregiving", "wellness" mais pas "pas de thérapie", "tranquillité familiale" mais pas si la famille reçoit vraiment des alertes.
L'utilisateur doit savoir non seulement ce que le compagnon peut faire, mais aussi ce sur quoi il ne faut jamais compter.
Conclusion
Les compagnons IA peuvent soutenir conversation, routine, rappels, réflexion et solitude. Ils ne remplacent pas thérapie, crise, avis médical, urgence, vérification de médicaments, détection de chutes ou soin humain. Plus l'utilisateur est vulnérable et plus l'échec a de conséquences, plus la responsabilité humaine est nécessaire.
La bonne question n'est pas "cette IA peut-elle prendre soin de moi ?", mais "quel soutien exact fournit-elle, et qui est responsable de tout le reste ?"
Sources et lectures complémentaires
- 988 Suicide & Crisis Lifeline
- SAMHSA : FAQ 988
- APA : chatbots génératifs et applications wellness pour la santé mentale
- Stanford HAI : dangers de l'IA en santé mentale
- OMS : fiche démence
- CDC : faits sur les chutes
- Surgeon General américain : épidémie de solitude et d'isolement
- NYSOFA : initiative ElliQ Proactive Care Companion
- ElliQ : IA dans le caregiving

