La question de confidentialité la plus importante pour un compagnon IA n'est pas "est-ce privé ?" Cette question est trop large. La bonne question est : de quel type de donnée parle-t-on, à quoi sert-elle, combien de temps est-elle conservée, qui peut y accéder, et puis-je refuser ou supprimer cet usage ?
Les compagnons IA traitent des informations plus intimes que les chatbots de productivité, parce que les utilisateurs s'en servent autrement : solitude, deuil, attraction, conflits familiaux, santé, parents âgés, rêves, regrets, routines, histoire relationnelle. Avec voix, photos, avatars, mémoire ou roleplay romantique, la surface de confidentialité s'élargit encore.
La réponse courte est : conversations, voix, photos, avatars générés, tickets de support, compte, données d'usage et mémoire de long terme peuvent chacun suivre des règles différentes. Certaines données servent seulement à répondre. D'autres sont stockées pour personnaliser. D'autres servent à la sécurité, à la prévention d'abus, au dépannage, aux analyses ou à l'amélioration de modèles. Certains services utilisent le contenu généré par les utilisateurs pour entraîner ou améliorer des modèles sauf opt-out. Certaines règles varient selon la région. Certains journaux peuvent rester pour des raisons légales ou de sécurité même après suppression du compte.
N'acceptez donc pas un slogan de confidentialité. "Chiffré", "privé", "sécurisé", "non vendu", "pas utilisé pour la publicité" et "pas utilisé pour l'entraînement" sont des promesses différentes.
1. Conclusion d'abord : séparer chat, voix, photos, mémoire et entraînement
Une bonne promesse de confidentialité doit permettre de remplir un tableau.
| Type de donnée | Question à poser |
|---|---|
| Texte de chat | Est-il stocké, utilisé pour la mémoire, relu, partagé avec des fournisseurs de modèles ou utilisé pour l'entraînement ? |
| Entrée vocale | L'audio brut est-il stocké, transcrit, supprimé ou utilisé pour améliorer la voix ? |
| Clone vocal / échantillon | L'échantillon est-il conservé après génération, utilisé pour entraîner, supprimable ? |
| Photos | Sont-elles stockées, transformées, modérées, utilisées pour avatar ou entraînement ? |
| Avatar généré | L'image du personnage est-elle stockée, réutilisée, exportable, modifiable ? |
| Mémoire de long terme | Quels faits sont sauvegardés, visibles et supprimables ? |
| Journaux de sécurité | Les conversations signalées sont-elles conservées pour abus ou raisons légales ? |
| Support | Captures, extraits de chat ou détails de compte sont-ils archivés ? |
| Paiement | Données gérées par l'entreprise ou un prestataire de paiement ? |
| Entraînement | Quelles données, dans quelles conditions, avec quel opt-out ? |
La confusion vient du mot "données" utilisé comme si tout était identique. Un court clip vocal de personnalisation n'est pas une transcription continue d'appel. Une entrée de mémoire n'est pas un journal de chat brut. Un avatar généré n'est pas la photo source. Un journal de sécurité n'est pas un jeu d'entraînement.
Même "entraînement" peut désigner plusieurs usages :
| Terme | Sens simple | Implication vie privée |
|---|---|---|
| Personnalisation | Vos données rendent votre propre compagnon plus adapté | Utile, sensible si les souvenirs sont faux ou difficiles à supprimer |
| Amélioration sécurité | Données pour détecter abus, automutilation, arnaques, violations | Souvent nécessaire, mais doit être borné et déclaré |
| Analytique produit | Analyse des usages pour améliorer les fonctions | Moins risqué si agrégé, plus risqué si lié à l'identité |
| Amélioration de modèle | Contenu utilisé pour améliorer l'IA pour de futurs utilisateurs | Préoccupation élevée pour les chats intimes |
| Traitement par fournisseur tiers | Données envoyées à un autre fournisseur IA pour générer une réponse | Exige limites contractuelles et de rétention claires |
Règle acheteur : plus la donnée est intime, plus le contrôle doit être fort.
Les politiques publiques montrent déjà des différences : Replika décrit messages, photos, vidéos, voix et texte, fournisseurs IA tiers et règles de rétention. Nomi insiste sur une collecte limitée mais recommande aux adultes d'éviter les informations personnellement identifiables. Kindroid évoque stockage chiffré, mémoire, voix, selfies et suppression de compte. Character.AI explique séparément que certains contenus générés par les utilisateurs peuvent servir à entraîner et améliorer les modèles, avec des étapes d'opt-out dans certaines régions.
Le point n'est pas de déclarer un gagnant parfait. Il est de reconnaître qu'il n'existe pas de défaut universel : il faut lire, tester et choisir selon son niveau de confort.
2. Carte de risque, score et chronologie
Score de confidentialité sur 50 points
Attribuez 0 à 5 points.
| Dimension | 0 point | 3 points | 5 points |
|---|---|---|---|
| Stockage des chats | Pas clair | Rétention générale | Stockage, rétention, suppression et accès détaillés |
| Voix | Non expliqué | Partiel | Rétention brute, suppression, entraînement et opt-out clairs |
| Photos | Non expliqué | Détails partiels | Photo source, image générée, modération, rétention, suppression claires |
| Mémoire | Cachée ou automatique seule | Quelques contrôles | Mémoire visible, modifiable, supprimable |
| Entraînement | "Améliorer le service" vague | Mentionné, difficile à contrôler | Données, usages et opt-out explicites |
| Fournisseurs tiers | Non divulgués | Mention générale | Usage, finalité, rétention et limites expliqués |
| Revue humaine | Non divulguée | Mention politique | Cas de revue clairement expliqués |
| Suppression/rétention | Suppression de compte seule | Quelques délais | Règles distinctes pour chats, mémoire, médias, logs, sauvegardes |
| Sécurité | Marketing seul | Chiffrement mentionné | Chiffrement, contrôle d'accès, incidents et limites pratiques |
| Données sensibles | Aucun conseil | Générique | Conseils clairs santé, sexe, famille, localisation, mineurs, identité |
| Score | Interprétation |
|---|---|
| 0-15 | Forte incertitude ; éviter l'usage intime |
| 16-30 | Quelques promesses utiles, ambiguïtés nombreuses |
| 31-40 | Transparence raisonnable ; vérifier les réglages |
| 41-50 | Posture plus forte ; candidat plus sérieux |
Ce score mesure la capacité à choisir en connaissance de cause, pas une garantie absolue.
Chronologie du flux de données
| Étape | Ce qui se passe | À vérifier |
|---|---|---|
| Entrée | Vous tapez, parlez, téléversez ou générez | Cette donnée est-elle nécessaire ? |
| Traitement | Conversion en forme lisible par le modèle | Audio transcrit ? Photos transformées ? |
| Réponse | Un modèle produit une réponse | Fournisseur de modèle tiers ? |
| Personnalisation | Le produit mémorise faits ou préférences | Mémoire visible et modifiable ? |
| Sécurité | Contenu vérifié pour abus, automutilation, arnaques, règles | Journaux conservés ? |
| Amélioration | Données analysées ou utilisées pour modèle | Opt-in, opt-out ou impossible ? |
| Stockage | Chats, mémoire, logs, sauvegardes, support, analytics | Durées de conservation ? |
| Suppression | Message, mémoire, compagnon ou compte supprimé | Toutes les copies et prestataires couverts ? |
Supprimer un chat visible ne supprime pas toujours la mémoire. Supprimer une mémoire ne supprime pas forcément les journaux de sécurité. Supprimer un compte ne supprime pas les données de paiement. Supprimer l'audio brut ne supprime pas toujours la transcription.
Sensibilité par type de donnée
| Donnée | Sensibilité | Pourquoi |
|---|---|---|
| Chat léger | Faible à moyenne | Intérêts, habitudes, humour, horaires |
| Chat émotionnel | Élevée | Solitude, deuil, trauma, famille |
| Chat romantique ou sexuel | Très élevée | Sexualité, fantasmes, histoire relationnelle |
| Santé | Très élevée | Santé physique ou mentale |
| Voix | Élevée | Identité, émotion, accent, environnement |
| Échantillons vocaux | Très élevée | Liés à l'identité et potentiellement réutilisables |
| Photos | Élevée à très élevée | Visage, domicile, localisation, proches |
| Mémoire de long terme | Élevée | Profil durable de faits personnels |
| Paiement | Moyenne à élevée | Lie identité et usage du compagnon |
| Support | Moyenne à élevée | Les utilisateurs collent souvent du contexte sensible |
Une seule mémoire comme "l'utilisateur pleure son conjoint et boit quand il se sent seul" peut être plus sensible que des centaines de messages banals.
Pourquoi la confidentialité d'un compagnon diffère de celle d'un chatbot ordinaire
Un outil d'IA généraliste demande surtout des tâches. Un compagnon demande une relation, et les informations confiées changent avec elle. On ne lui demande pas seulement de reformuler un e-mail : on peut lui parler d'une rupture, de la santé déclinante d'un parent, d'un besoin d'entendre une voix avant de dormir ou d'un conflit familial à mémoriser.
Ces confidences sont plus intimes, plus répétées et souvent conservées plus longtemps. Au fil des mois, elles peuvent former un portrait détaillé de la vie émotionnelle de l'utilisateur. C'est pourquoi les autorités publiques, les chercheurs et les défenseurs de la vie privée examinent particulièrement les chatbots de compagnie, notamment sur la sécurité des jeunes, l'information des utilisateurs et l'usage des données.
Même lorsqu'une entreprise agit de bonne foi, la catégorie crée une tension : davantage de mémoire, de voix, d'images et de contexte peut rendre l'expérience plus personnelle, mais augmente aussi la quantité de données sensibles. Un compagnon respectueux de la vie privée doit donc résister à l'idée de tout collecter simplement parce que cela renforce l'impression de proximité.
3. Cinq gestes avant de partager des informations intimes
Étape 1 : lire la politique avec une checklist
Cherchez : chat, message, voix, audio, photo, image, mémoire, entraînement, améliorer, modèle, revue humaine, tiers, suppression, rétention, opt out, données sensibles, mineurs.
| Question | Réponse |
|---|---|
| Les chats sont-ils stockés ? | |
| Sont-ils utilisés pour l'entraînement ? | |
| Puis-je refuser l'entraînement ? | |
| Les enregistrements vocaux sont-ils stockés ? | |
| Les échantillons vocaux servent-ils à l'entraînement ? | |
| Les photos sont-elles conservées ? | |
| Puis-je supprimer la mémoire longue ? | |
| Des fournisseurs de modèles tiers sont-ils utilisés ? | |
| Le personnel peut-il relire du contenu ? | |
| Que reste-t-il après suppression du compte ? |
Étape 2 : désactiver l'entraînement ou l'amélioration du modèle quand c'est possible
Cherchez "Improve the model", "Data controls", "Training", "Model improvement" ou "Privacy choices". Certains services limitent l'opt-out à certaines régions ou aux données futures. Il n'est pas magique, mais il réduit le risque que du contenu intime entre dans une pipeline d'amélioration.
Étape 3 : définir une règle "ne pas dire à l'IA"
Ne partagez pas :
- pièces d'identité
- mots de passe ou codes de récupération
- adresse complète ou routines de localisation
- photos privées d'autres personnes sans autorisation
- données personnelles d'enfants
- dossiers médicaux
- litiges juridiques
- données de comptes financiers
- secrets appartenant à quelqu'un d'autre
- toute information dont l'exposition vous nuirait
Utilisez l'abstraction : "mon frère" au lieu d'un nom complet, "mon quartier" au lieu de l'adresse, description au lieu de photo privée.
Étape 4 : inspecter et nettoyer la mémoire
Revoyez la mémoire chaque mois. Supprimez ce qui est faux, obsolète, trop sensible ou inutile. Un bon compagnon n'a pas besoin de tout retenir.
Étape 5 : tester la suppression avant de lui faire confiance
Ajoutez une mémoire sans enjeu, supprimez-la, vérifiez si elle réapparaît. Téléversez une image non sensible, supprimez-la, voyez ce qui disparaît. Lisez les délais, sauvegardes et archives support. Mieux vaut comprendre la suppression avant d'être émotionnellement investi.
4. Idées reçues
"Chiffré" veut dire inaccessible à tous.
Le chiffrement peut être en transit, au repos ou de bout en bout. Beaucoup de services chiffrent tout en pouvant traiter les données côté serveur, générer des réponses, faire de la sécurité ou répondre au support.
"Non vendu" veut dire "non utilisé".
Une entreprise peut ne pas vendre vos chats à des annonceurs tout en les utilisant pour personnalisation, sécurité, analytique, amélioration du service ou entraînement.
"Entraînement" et "mémoire" sont la même chose.
Non. La mémoire affecte votre propre compagnon. L'entraînement améliore un modèle ou système plus large. Les deux demandent des contrôles différents.
"Supprimer l'application supprime mes données."
Désinstaller retire les fichiers locaux. Cela ne supprime pas nécessairement compte cloud, historique, mémoire, paiements, support, logs ou sauvegardes.
"Revue humaine veut dire que des employés lisent tout."
Pas nécessairement. Mais une revue peut exister pour sécurité, signalements, qualité, support ou conformité. Les utilisateurs ne doivent pas supposer la confidentialité d'une thérapie ou d'un journal privé.
"Si je refuse l'entraînement, rien n'est stocké."
L'opt-out d'entraînement ne supprime pas l'historique, la mémoire, la personnalisation, la sécurité, la fraude, le support ou les obligations légales.
"Photos et voix ne sont que du matériel de configuration."
Ce sont souvent les données les plus sensibles : visage, domicile, proches, âge, accent, état émotionnel, bruit de fond. Demandez si elles sont supprimées après génération, conservées, utilisées pour modération ou entraînement.
Ce que cela signifie pour un appareil compagnon
Un appareil physique peut vivre dans une chambre, un salon, une cuisine, un bureau ou un contexte d'aide aux personnes âgées. Il peut rencontrer voix de fond, routines familiales, noms de médicaments, heures de sommeil, visiteurs et préférences du foyer.
| Question appareil | Pourquoi |
|---|---|
| Le Wi-Fi est-il nécessaire pour discuter ? | Le cloud signifie que la donnée quitte l'appareil |
| Conversation locale ou distante ? | Effet sur latence, vie privée, hors ligne |
| L'audio brut est-il stocké après transcription ? | La voix brute est plus sensible que le texte |
| Les souvenirs sont-ils séparés des conversations ? | La mémoire peut persister autrement |
| L'utilisateur peut-il supprimer la mémoire ? | Le contrôle de long terme compte |
| Peut-on fonctionner sans données personnelles ? | Certains veulent une compagnie faible mémoire |
| Photos ou voix servent-elles à l'entraînement ? | Données d'installation très sensibles |
| Les proches peuvent-ils être enregistrés indirectement ? | Consentement du foyer |
Ni application ni appareil ne sont automatiquement meilleurs. Le meilleur produit est celui dont les limites et contrôles sont clairs.
Trois profils de confidentialité
Assistant utilitaire à faible mémoire : moins magique, plus simple à comprendre.
Compagnon émotionnel à mémoire profonde : beaucoup plus personnel, mais exige inspecter la mémoire, supprimer, refuser l'entraînement, comprendre voix/photos et annulation.
Compagnon adulte à forte intimité : romance, contenu sexuel, images, voix premium ; confidentialité maximale requise, promesses vagues inacceptables.
Plus le produit demande à être traité comme une personne, plus il doit traiter vos données comme profondément personnelles.
Si vous avez déjà trop partagé
- Arrêtez d'ajouter du contenu sensible jusqu'à comprendre les réglages.
- Trouvez opt-out, suppression de chats, mémoire, compte, export et demandes de confidentialité.
- Supprimez ce que vous pouvez : chats, images, voix, personnages générés, souvenirs sensibles.
- Envoyez une demande de confidentialité officielle si disponible.
- Changez les mots de passe si vous avez partagé des identifiants.
- Décidez si le produit correspond encore à vos besoins.
La honte ne doit pas empêcher l'action pratique.
Personnes âgées et contextes familiaux
Avec des personnes âgées, troubles cognitifs ou familles, l'utilisateur peut ne pas comprendre ce qui est collecté, comment fonctionne la mémoire ou qui voit quoi. Évitez deux extrêmes : surveillance secrète et négligence de la vie privée. Préférez consentement adapté et réalisme.
Un compagnon peut soutenir conversation, rappels et présence, mais ne doit pas être un enregistreur caché, dispositif médical, urgence ou substitut au soin humain.
Comment les entreprises gagnent la confiance
Une bonne FAQ doit dire, par type de donnée, si les chats sont stockés, si l'audio est gardé, si les photos sont conservées, si les échantillons vocaux servent à l'entraînement, si la mémoire est supprimable, si l'opt-out existe, si le personnel peut relire, si des prestataires tiers traitent les données et ce qui reste après suppression de compte.
Elle doit donner des exemples concrets : photo d'avatar, entrée vocale, suppression de mémoire.
Test acheteur en langage simple
- Utilisez-vous mes chats pour entraîner des modèles IA ?
- Puis-je refuser, et l'opt-out couvre-t-il seulement le futur ?
- Les échantillons vocaux sont-ils stockés après génération ?
- Les photos sont-elles stockées après création d'avatar ?
- Audio et transcript sont-ils traités différemment ?
- La mémoire longue sert-elle à l'entraînement ?
- Puis-je voir, modifier et supprimer la mémoire longue ?
- Des fournisseurs IA tiers traitent-ils mes conversations ?
- Le personnel ou des sous-traitants peuvent-ils lire mes chats ?
- Que reste-t-il après suppression du compte ?
- Qu'est-ce qui est gardé pour droit, sécurité, fraude ou facturation ?
- Comment traitez-vous les mineurs ou les membres du foyer mentionnés ?
Si la réponse principale est "nous respectons votre vie privée", elle n'est pas assez spécifique.
Conclusion
La confidentialité d'un compagnon IA n'est pas une promesse unique. C'est un ensemble de décisions sur chats, voix, photos, avatars, mémoire, journaux de sécurité, prestataires, entraînement, opt-out, suppression et revue humaine.
Utilisez un budget de confidentialité : partagez ce qui sert le produit, pas tout ce que le ton chaleureux vous invite à dire. Désactivez l'entraînement si possible. Inspectez la mémoire. Supprimez l'inutile. Évitez les données privées d'autres personnes. Traitez voix et photos comme plus sensibles qu'un texte banal. Choisissez des produits qui expliquent les flux en langage clair.
Sources et lectures complémentaires
- Politique de confidentialité de Replika
- Politique de confidentialité de Nomi.ai
- FAQ Kindroid
- Character.AI : divulgation sur l'entraînement des modèles
- FTC : enquête sur les chatbots IA agissant comme compagnons
- Mozilla : chatbots romantiques IA et signaux d'alerte vie privée
- Stanford HAI : attention à ce que vous dites à votre chatbot IA
- OpenAI : FAQ contrôles des données