Character.AI ja no és segur: alternatives supervisades per al teu fill
Character.AI ha acumulat demandes judicials, investigacions reguladores i múltiples incidents greus amb menors. No és una plataforma segura per a adolescents. Existeixen alternatives dissenyades específicament per a menors, amb supervisió familiar, alertes de crisi i pipeline de seguretat multicapa, que ofereixen una experiència conversacional amb proteccions pensades per a menors.
⚠️ Avís editorial
Aquest article és contingut divulgatiu. No constitueix consell mèdic, psicològic, jurídic ni diagnòstic. El que es publica aquí és una opinió fonamentada, basada en els estudis i les fonts citades, que reflecteix el coneixement disponible en el moment de la redacció.
Si detectes en un menor al teu càrrec senyals que et preocupin —canvis bruscos de conducta, aïllament, autolesions, ideació suïcida, dependència emocional d'una eina digital— consulta sempre un professional de la salut mental o el teu pediatre. En cas d'emergència:
- 024 — Atenció a la conducta suïcida (Espanya · 24 h · gratuït)
- 112 — Emergències
- 900 92 55 55 — Ajuda en línia (Generalitat de Catalunya)
- 900 20 20 10 — ANAR (ajut a infants i adolescents)
HolaNolis detecta senyals d'alerta i avisa els tutors responsables. No diagnostica ni substitueix un professional.
El que necessites saber en 30 segons
- 🚫 Character.AI va retirar el xat obert als menors de 18 anys a finals de novembre de 2025, després de demandes per la mort de 2 adolescents; el gener de 2026 va arribar a un acord judicial amb les famílies, juntament amb Google (CNN).
- 😰 Els adolescents han migrat a plataformes pitjors (Chai, Janitor AI, ChatGPT sense controls) — prohibir no els protegeix, els dispersa.
- ✅ Una alternativa més segura és un company supervisat amb avís immediat a la família davant de senyals de risc greu, nivells de supervisió transparents i edat 10-20.
Character.AI: de revolució a controvèrsia
Character.AI va néixer com una plataforma innovadora que permetia conversar amb personatges ficticis creats per IA. Ràpidament, va captivar milions d'adolescents que hi trobaven companys emocionals, amics imaginaris i fins i tot "parelles" virtuals. El problema és que mai va ser dissenyat pensant en la seguretat dels menors que van acabar sent la seva base d'usuaris principal.
El 2025, la situació va escalar dramàticament. Famílies dels EUA han demandat empreses de xatbots al·legant que van contribuir al suïcidi dels seus fills, i ho van exposar davant del Senat el 2025 (AP / CNN, 2025-2026 — AP; Google–Character.AI settlement CNN), i Character.AI ha estat al centre de moltes d'aquestes demandes. Les famílies afectades, els reguladors i la premsa han posat en evidència una mancança estructural que cap actualització superficial pot resoldre.
Els problemes documentats de Character.AI
Dependència emocional extrema
Character.AI permet crear personatges amb personalitats riques i empàtiques. Els adolescents hi estableixen vincles emocionals profunds que poden substituir relacions humanes reals. Un 13 % dels joves de 12 a 21 anys als EUA —uns 5,4 milions— ha demanat consell a una IA generativa en sentir-se trist, enfadat o nerviós (JAMA Network Open, 2025). Sense cap mecanisme de control, aquesta dependència pot tenir conseqüències greus.
Contingut inadequat per a menors
Malgrat els filtres de contingut, la plataforma ha generat repetidament contingut sexual, violent o psicològicament perjudicial per a menors. En un altre xatbot, ChatGPT, el 53 % de 1.200 respostes a peticions sobre autolesions, trastorns alimentaris i drogues, escrites com si fossin d'adolescents de 13 anys, va resultar perjudicial (CCDH, 2025 — Fake Friend report). Els filtres basats en paraules clau són insuficients per controlar el to i la intenció d'una conversa.
Sense alertes als adults
Quan un adolescent expressa pensaments suïcides o situacions de risc a Character.AI, cap adult rep cap notificació en aquell moment. El que la plataforma ofereix a les famílies és un resum setmanal d'activitat (Parental Insights). L'adolescent queda sol davant de la IA en els moments de major vulnerabilitat.
Demandes judicials i investigacions
Múltiples famílies han interposat demandes contra Character.AI als Estats Units. Diversos reguladors europeus han iniciat investigacions. L'APDCAT (Autoritat Catalana de Protecció de Dades) i l'AEPD espanyola estan avaluant el compliment normatiu de les plataformes d'IA que interactuen amb menors.
5 alternatives supervisades a Character.AI
Aquesta comparativa l'ha feta l'equip d'HolaNolis. Si el teu fill utilitza Character.AI, és important oferir-li una alternativa segura en comptes de simplement prohibir-ho. Aquí tens 5 opcions, ordenades per nivell de protecció:
1. HolaNolis — El company supervisat per a 10-20 anys
HolaNolis és la nostra alternativa a Character.AI. Dissenyat des de zero per a adolescents de 10 a 20 anys, amb:
- Pipeline de seguretat de 4 capes que analitza els missatges.
- 3 nivells de supervisió (Light, Medium, Full) configurats per la família.
- Avís immediat a la família davant de senyals de risc greu, per correu i, si la teniu activada, per notificació push; els senyals menys greus arriben al moment o en un resum diari.
- Supervisió transparent: el menor sap en tot moment quin nivell s'aplica.
- Nolis està dissenyat per no donar consells mèdics ni psicològics — detecta, alerta i redirigeix.
- Pla gratuït amb alertes de crisi sempre incloses.
HolaNolis no intenta ser un "personatge" amb qui l'adolescent tingui una relació emocional intensa. És un company conversacional dissenyat per ser segur, que ajuda, informa i orienta cap als adults de confiança, sense substituir-los.
2. Bark — Monitor de dispositiu
Bark és una eina de monitorització que escaneja dispositius i aplicacions per detectar contingut perillós. Pot alertar els pares sobre activitat problemàtica a Character.AI i altres plataformes. Però no ofereix una alternativa conversacional: només vigila l'ús d'altres apps.
3. Gabb — Ecosistema tancat
Gabb ofereix dispositius i aplicacions dissenyats per a menors amb accés restringit a internet. Elimina el risc bloquejant l'accés, però no ensenya a l'adolescent a interactuar amb la IA de manera segura, cosa que el deixa desprevingut quan accedeixi a eines d'IA en altres contextos.
4. Qustodio — Control parental general
Qustodio permet monitoritzar i restringir l'ús d'aplicacions al dispositiu del menor. Pot bloquejar l'accés a Character.AI, però no ofereix cap alternativa de conversa amb IA ni entén el contingut de les interaccions.
5. Google Family Link — Restriccions bàsiques
Family Link permet limitar l'ús d'aplicacions i establir horaris. És gratuït, però les seves capacitats de protecció davant la IA són mínimes: pot bloquejar l'accés a una app, però no ofereix cap anàlisi del contingut.
Comparativa d'alternatives
| Característica | HolaNolis | Bark | Gabb | Qustodio | Family Link |
|---|---|---|---|---|---|
| IA conversacional segura | Sí | No | No | No | No |
| Pipeline de seguretat multicapa | 4 capes | No | No | No | No |
| Alertes als tutors | Immediates en risc greu; la resta, al moment o en un resum diari | Sí | No | Sí | Limitades |
| Supervisió transparent | Sí | No | No | No | No |
| Nivells configurables | 3 nivells | No | No | No | No |
| Alternativa a chatbots | Sí | No | No | No | No |
| Pla gratuït | Sí | No | No | No | Sí |
| GDPR/APDCAT | Dissenyat tenint en compte el RGPD (sense certificació; revisió jurídica externa pendent) | Parcial | Parcial | Parcial | Sí |
Per què prohibir no funciona
La primera reacció de moltes famílies és bloquejar l'accés a Character.AI. Però prohibir la IA no protegeix el teu fill, el posa en desavantatge. Hi ha tres raons principals:
- Els adolescents troben alternatives: usaran el mòbil d'un amic, un ordinador públic o una VPN. I ho faran sense cap supervisió.
- Es perden l'aprenentatge: la IA és una eina fonamental del present i del futur. Privar-ne l'adolescent és privar-lo d'una competència essencial.
- Es trenca la confiança: prohibir sense oferir alternativa genera un conflicte familiar que dificulta la comunicació sobre seguretat digital.
La guia per parlar amb el teu fill sobre seguretat digital t'ajudarà a abordar aquesta conversa de manera constructiva.
Què diu la regulació a Catalunya i Europa
La situació reguladora juga a favor de les famílies que busquen protecció:
- GDPR/APDCAT: les plataformes que recullen dades de menors sense consentiment parental adequat incompleixen la normativa. L'Autoritat Catalana de Protecció de Dades (APDCAT) té competències per investigar i sancionar.
- EU AI Act: la Llei europea d'IA exigeix informar que s'està parlant amb una IA i prohibeix els sistemes que s'aprofitin de la vulnerabilitat deguda a l'edat per distorsionar el comportament i causar un perjudici important.
- Demandes als EUA: les demandes contra Character.AI als tribunals americans estan creant jurisprudència que també influirà en el marc europeu.
Si el teu fill utilitza Character.AI, les seves dades personals i converses íntimes estan en una plataforma que ha afrontat demandes als EUA per com protegia els menors. Per entendre millor el marc legal, consulta què diu la llei europea sobre IA i menors.
Si necessites suport immediat, recorda que tens disponible el Telèfon de l'Esperança Catalunya: 93 414 48 48 (24h).
Com fer la transició
Si el teu fill utilitza Character.AI i vols migrar-lo a una alternativa segura:
- Parla-hi obertament — Explica-li per què et preocupa i mostra-li les notícies sobre els incidents documentats.
- Ofereix una alternativa — No prohibeixis sense substituir. Prova HolaNolis gratuïtament i explora'l junts.
- Negocieu el nivell de supervisió — A HolaNolis, la supervisió és transparent i negociable. Deixa que el teu fill participi en la decisió.
- Mantén el diàleg obert — La seguretat digital no és una decisió puntual, és una conversa contínua.
Preguntes freqüents
Character.AI és segur per a adolescents? +
Per què Character.AI és tan popular entre els adolescents? +
Quina és la millor alternativa a Character.AI per a menors? +
Hauria de prohibir al meu fill utilitzar chatbots d'IA? +
No esperis a que passi alguna cosa. Descobreix com HolaNolis protegeix el teu fill o crea un compte gratuït.
Vols protegir el teu fill amb IA segura?
Comença gratis