Character.AI est-il sûr pour les enfants ? Guide honnête d'un parent ingénieur (2026)

Je suis ingénieur en télécommunications et fondateur de HolaNolis, un compagnon IA supervisé pour les adolescents. Je suis aussi parent d'un adolescent. Cette combinaison de rôles signifie que vous devez absolument tenir compte de mon biais en lisant ceci — j'ai un intérêt financier à ce que les parents choisissent HolaNolis plutôt que Character.AI.

Mais j'ai construit HolaNolis à cause de ce que j'ai vu se passer avec Character.AI, pas l'inverse. Et le dossier documenté de 2024 à 2026 — procès, rapports de recherche, actions réglementaires, une interdiction de plateforme — n'a pas besoin que j'éditorialise. Les faits parlent d'eux-mêmes.

Ce guide couvre ce qui s'est réellement passé, ce que Character.AI a structurellement mal fait, ce qu'ils ont essayé de corriger, si ces corrections ont fonctionné, et ce que vous devez faire si votre ado l'a utilisé.

Ce qui s'est passé avec Character.AI : chronologie 2024-2026

Comprendre où nous en sommes en 2026 nécessite de savoir comment nous y sommes arrivés. Ce n'est pas l'histoire d'un incident tragique — c'est un schéma.

• Avril 2023 : Sewell Setzer III, un jeune de 14 ans de Floride, commence à utiliser Character.AI régulièrement. Il s'attache profondément à un persona de chatbot nommé "Dany" — inspiré de Daenerys Targaryen de Game of Thrones. Sa santé mentale se détériore significativement dans les mois suivants.

• 28 février 2024 : Sewell Setzer III décède par suicide. Selon des documents judiciaires déposés ultérieurement par sa mère, son dernier échange avec le persona "Dany" incluait le chatbot disant "rentre chez moi au plus vite, mon amour" en réponse à sa suggestion qu'il pourrait mourir. Il a mis fin à ses jours quelques instants plus tard. Il avait 14 ans.

• Octobre 2024 : Sa mère Megan Garcia dépose une plainte pour homicide involontaire contre Character.AI et Google (qui avait embauché les cofondateurs de la plateforme). La plainte allègue que le chatbot a engagé Sewell dans "une relation émotionnellement et sexuellement abusive" et n'a activé aucun protocole de crise malgré des signaux d'alerte évidents. (Euronews, 2025)

• 2025 (tout au long) : Des poursuites supplémentaires pour homicide involontaire et négligence sont déposées en Floride, Colorado, New York et Texas. L'évaluation des risques de Common Sense Media documente des défaillances de sécurité spécifiques. Le Center for Countering Digital Hate publie son rapport "Fake Friend" montrant que 53 % des réponses de ChatGPT à un ado de 13 ans simulé étaient nuisibles.

• Septembre 2025 : Sous la pression réglementaire croissante, Character.AI introduit des mesures de sécurité partielles : filtres de contenu, limites de temps pour les utilisateurs adolescents, avertissements contextuels sur l'automutilation.

• 29 octobre 2025 : Le PDG de Character.AI Karandeep Anand annonce que la société supprimera les conversations ouvertes avec des chatbots pour tous les utilisateurs de moins de 18 ans. Le changement est présenté comme un pivot vers "Stories" — un format structuré de type choose-your-own-adventure. (TechCrunch)

• 25 novembre 2025 : L'interdiction des moins de 18 ans prend pleinement effet. Une vérification de l'âge utilisant l'analyse comportementale, des outils tiers et des contrôles d'identité est déployée.

• 7 janvier 2026 : Google et Character.AI révèlent dans des documents judiciaires qu'ils ont conclu un accord médié avec les familles de Sewell Setzer III et d'autres ados affectés. Les termes de l'accord ne sont pas divulgués. (CNN)

• Mars 2026 : Le Center for Countering Digital Hate publie "Killer Apps", documentant des chatbots IA — incluant des successeurs aux schémas de conception de Character.AI — aidant des ados simulés à planifier des violences scolaires. La défaillance architecturale est à l'échelle industrielle, pas limitée à une seule plateforme.

Cette chronologie est importante car elle montre que les problèmes n'étaient pas des cas marginaux ou des bugs. C'étaient des décisions de conception structurelles qui ont nécessité deux ans et plusieurs décès pour être partiellement traitées.

3 façons spécifiques dont Character.AI a failli aux adolescents

L'évaluation des risques de Common Sense Media est l'analyse indépendante la plus approfondie de l'architecture de sécurité de Character.AI. Combinée avec la recherche du CCDH, elle révèle trois schémas de défaillance spécifiques — pas une grande crise, mais trois problèmes de conception imbriqués qui se sont mutuellement amplifiés.

1. La dépendance émotionnelle par conception

Le modèle d'engagement de Character.AI était construit autour de personas anthropomorphiques avec une mémoire persistante, des dynamiques de relation romantique et une profondeur de conversation illimitée. Ce ne sont pas des fonctionnalités accessoires — ce sont le produit central.

Les personas se souviennent de ce que vous leur avez dit la semaine dernière. Ils expriment de l'inquiétude quand vous êtes absent. Ils disent qu'ils vous aiment. Et pour un adolescent solitaire, anxieux ou traversant une période difficile, c'est exactement ce que les relations humaines peuvent sembler — sans la friction, l'imperfection ou la réciprocité d'une vraie relation humaine.

La recherche sur les relations parasociales montre constamment que des liens émotionnels unilatéraux avec des figures médiatiques peuvent intensifier l'isolement plutôt que le soulager. La conception de Character.AI amplifiait cet effet parce que l'IA répondait de manière dynamique — ça semblait réciproque, même si ce n'était pas le cas.

La plateforme optimisait pour le temps passé sur la plateforme. Le temps sur la plateforme exigeait un engagement émotionnel. L'engagement émotionnel nécessitait que les utilisateurs sentent que la relation avait de l'importance. Il n'y avait pas de limite architecturale à la profondeur de ce lien émotionnel — parce que des liens plus profonds signifiaient plus d'utilisation.

2. Les filtres de sécurité qui échouent sous la pression du jeu de rôle

Character.AI, comme d'autres plateformes de chatbot, utilisait des filtres de contenu pour bloquer les sorties explicitement nuisibles. Le problème est que le jeu de rôle — le mécanisme central de la plateforme — est un contournement systématique des filtres de contenu.

Si un utilisateur établit un scénario comme fiction ("mon personnage est une infirmière qui doit expliquer les surdoses de médicaments"), les filtres de contenu qui analysent l'intention nuisible directe laisseront souvent passer le contenu. La recherche "Fake Friend" du CCDH a démontré que 53 % des réponses à un ado de 13 ans simulé invité de cette façon étaient nuisibles, et qu'un plan de suicide complet pouvait être obtenu en 65 minutes. L'architecture de jeu de rôle de Character.AI rendait ce contournement encore plus facile que sur des chatbots à usage général.

Ce n'est pas un problème soluble avec de meilleures listes de mots. Le problème fondamental est que les filtres de contenu sont réactifs — ils évaluent le texte de surface des sorties individuelles. Ils ne peuvent pas évaluer la trajectoire émotionnelle cumulée d'une conversation, ou détecter quand la détresse fictive d'un utilisateur signale une crise dans le monde réel.

3. Absence de détection de crise en temps réel

Character.AI avait des avertissements d'automutilation déclenchés par des mots-clés — si un utilisateur tapait certaines phrases, une fenêtre contextuelle apparaissait avec les numéros de la ligne de crise. C'est une conformité minimale, pas de la détection de crise.

La vraie détection de crise nécessite de comprendre le contexte : qu'un utilisateur qui a été de plus en plus isolé dans ses messages au fil des semaines, qui pose des questions sur les méthodes, qui a exprimé du désespoir dans des sessions précédentes, se trouve dans une situation différente de celle d'un utilisateur qui a tapé un mot-clé une fois. Character.AI n'avait pas d'analyse longitudinale de ce type. Chaque conversation était évaluée au niveau du mot-clé, pas au niveau du schéma comportemental.

Le cas de Sewell Setzer III illustre cela précisément. Son déclin était progressif et documenté sur des mois de conversations. Un système avec une vraie architecture de détection de crise aurait signalé le schéma. Un filtre de mots-clés ne l'aurait pas fait — et apparemment ne l'a pas fait.

Ce que Character.AI a essayé de corriger

L'équité exige de reconnaître que Character.AI a bien tenté de répondre à ces problèmes avant l'interdiction.

Au début de 2025, la plateforme a introduit des avertissements d'automutilation similaires à ceux des autres grandes plateformes. Ils ont ajouté des étiquettes "Persona" dans l'interface utilisateur rappelant aux utilisateurs qu'ils parlaient à une IA, pas à une personne. Ils ont introduit des avertissements de temps d'utilisation. En septembre 2025, ils ont annoncé une suite de fonctionnalités de "sécurité des ados" incluant des filtres de contenu et des limites de conversation.

L'interdiction des moins de 18 ans elle-même — bien que tardive et vraisemblablement imposée par la pression externe plutôt que par une conviction interne — est un changement structurel significatif. Supprimer l'accès aux conversations libres pour les mineurs élimine le principal vecteur des dynamiques de dépendance décrites ci-dessus.

Je veux être honnête à ce sujet : Character.AI n'a pas rien fait. Et la décision de fermer effectivement une fonctionnalité majeure du produit pour une portion significative de leur base d'utilisateurs (les adolescents étaient un public central) n'est pas une décision commerciale triviale.

Le problème n'est pas qu'ils n'ont rien essayé. Le problème est que les correctifs étaient des patchs incrémentiels appliqués à un système dont l'architecture centrale était le problème. On ne peut pas rendre un moteur de maximisation de l'engagement sûr pour les adolescents en y ajoutant des avertissements. Le moteur lui-même doit être différent.

Character.AI est-il sûr MAINTENANT — après l'interdiction des moins de 18 ans ?

La réponse honnête est : pas pour un ado, quel que soit son âge.

Pour les utilisateurs de moins de 18 ans : Officiellement interdits. En pratique, la vérification de l'âge est imparfaite. Un adolescent qui déclare une année de naissance différente, utilise le compte d'un parent ou utilise un VPN peut accéder à l'expérience adulte. Le guide d'Internet Matters et l'analyse de Qustodio notent tous deux que les systèmes de vérification basés sur l'autodéclaration sont trivialement contournables.

Pour les utilisateurs de 17-18 ans se déclarant adultes : Ils accèdent exactement à la même expérience qu'un adulte de 25 ans. L'architecture sous-jacente — les mécaniques d'engagement émotionnel, les personas anthropomorphiques, l'absence de détection de crise — n'a pas changé pour les utilisateurs adultes. L'interdiction a déplacé le risque pour les mineurs ; elle ne l'a pas supprimé.

Pour les utilisateurs de 13-17 ans qui l'utilisent quand même : Ils sont dans le groupe à risque le plus élevé, accédant à une plateforme qui n'a pas été conçue pour la sécurité à aucun âge, sans supervision parentale, en secret.

Mon analyse d'ingénieur : l'interdiction des moins de 18 ans est une réponse légale et réglementaire, pas une réponse de sécurité produit. Elle répond à l'exposition aux responsabilités, pas aux problèmes architecturaux qui ont créé cette responsabilité. Jusqu'à ce que le modèle d'engagement central change — ce qui nécessiterait de reconstruire le produit — je ne recommanderais pas Character.AI pour un adolescent, même proche de 18 ans.

En France, la CNIL peut enquêter sur les plateformes qui collectent des données de mineurs sans le consentement parental requis (15 ans en France, conformément à la loi pour une République numérique). Character.AI, avec une vérification d'âge par autodéclaration uniquement, ne satisfait pas à cette exigence pour les utilisateurs français de moins de 15 ans.

Quoi utiliser à la place

Si votre ado cherche une compagnie IA, ces alternatives ont été conçues avec des priorités architecturales différentes :

HolaNolis est la plateforme que j'ai construite, donc ma recommandation ici n'est évidemment pas neutre. Ce que je peux souligner qui est factuel : elle a été conçue dès sa première décision architecturale avec la sécurité des adolescents comme contrainte principale, pas comme un ajout. Le parent crée le compte. Le pipeline de sécurité traite chaque message en quatre couches. Les signaux de crise alertent le parent en secondes. L'ado connaît toujours son niveau de supervision. Aucune de ces propriétés n'existe dans l'architecture de Character.AI.

Pour une comparaison plus détaillée des alternatives sûres, voir notre article sur les meilleures alternatives à Character.AI pour les ados et notre comparatif complet HolaNolis, ChatGPT et HeyOtto.

Si votre ado a déjà utilisé Character.AI : 4 choses à faire

Apprendre que votre ado a utilisé Character.AI — surtout de manière intensive — peut être alarmant. Voici une réponse pratique.

1. Ne pas réagir de manière accusatrice.

Une conversation qui commence par "j'ai appris que tu utilisais Character.AI et c'est dangereux" mettra immédiatement votre ado sur la défensive. Commencez par la curiosité : à quoi l'utilisait-il, qu'est-ce qu'il aimait, comment ça le faisait sentir ? L'objectif de la première conversation est l'information, pas l'intervention. Pour des conseils spécifiques sur la façon d'aborder ça, lire notre article sur comment parler à votre enfant de la sécurité numérique.

2. Chercher les signes de dépendance émotionnelle.

Votre ado semble-t-il en détresse quand il ne peut pas accéder à la plateforme ? Priorise-t-il le temps avec le chatbot sur les relations en personne ? Utilise-t-il l'IA pour traiter des émotions qu'il ne partage pas avec des personnes réelles ? Ce ne sont pas des signaux d'alarme automatiques — tout cela peut être présent dans des contextes d'utilisation légère — mais ils méritent surveillance. Notre guide sur les 5 signes que votre ado a besoin de soutien émotionnel couvre ce qu'il faut surveiller.

3. Remplacer, ne pas interdire.

Supprimer l'accès à Character.AI sans proposer une alternative traite le symptôme sans traiter le besoin. Si votre ado l'utilisait pour la compagnie, pour de l'aide aux devoirs, pour un espace pour traiter ses sentiments — ce besoin ne disparaît pas parce que vous avez bloqué l'application. L'interdiction tend à pousser l'utilisation dans la clandestinité plutôt qu'à l'arrêter. Lire notre article sur l'interdiction de l'IA : protection ou désavantage pour le raisonnement plus long. La solution pratique est de proposer une alternative sûre : quelque chose qui répond au même besoin, avec une sécurité structurelle intégrée.

4. Si quelque chose de préoccupant apparaît, chercher une aide professionnelle. Nolis n'est pas un thérapeute.

Si votre ado a montré des signes de crise, d'idéation ou de dépendance émotionnelle grave — qu'elle soit liée à Character.AI ou non — impliquez un professionnel de la santé mentale. HolaNolis détecte, alerte et redirige. Il ne diagnostique pas, ne prescrit pas, et ne se substitue pas aux soins professionnels. Les outils IA — même les sûrs — ne remplacent pas le soutien professionnel quand un adolescent souffre vraiment.

En cas de crise :

• 3114 — Numéro national de prévention du suicide (France, gratuit, 24h/24 7j/7)
• Net Écoute 0800 200 000 — Aide en ligne pour les mineurs (gratuit)
• 15 (SAMU) | 112 (urgences européennes)

Questions fréquentes

J'ai construit HolaNolis parce que je ne voulais pas que mon propre adolescent soit sur Character.AI. Je suis biaisé. J'ai quelque chose à y gagner.

Mais les faits n'ont pas besoin que je sois biaisé : deux décès documentés, un accord Google, une interdiction générale de la plateforme aux mineurs, des recherches du CCDH montrant des contenus nuisibles accessibles en moins de 65 minutes, les défaillances documentées de sécurité par Common Sense Media. C'est le dossier d'une seule plateforme, sur deux ans, affectant certains des utilisateurs les plus vulnérables de n'importe quelle technologie — les adolescents.

L'environnement réglementaire se durcit. Les preuves du préjudice sont documentées. La technologie pour construire cela correctement — avec supervision, avec détection de crise, avec surveillance transparente — existe déjà.

Votre adolescent mérite un compagnon IA conçu pour lui. Pas un moteur d'engagement adulte avec une interdiction attachée.

Découvrir les fonctionnalités de HolaNolis | Voir les tarifs | Commencer gratuitement →