Character.AI ja no és segur: alternatives supervisades per al teu fill

Character.AI ha acumulat demandes judicials, investigacions reguladores i múltiples incidents greus amb menors. No és una plataforma segura per a adolescents. Existeixen alternatives dissenyades específicament per a menors, amb supervisió familiar, alertes de crisi i pipeline de seguretat multicapa, que ofereixen la mateixa experiència conversacional sense els riscos.

El que necessites saber en 30 segons

🚫 Character.AI va prohibir els menors de 18 anys el novembre de 2025 després de 2 morts d'adolescents documentades i un acord judicial de Google el març de 2026.
😰 Els adolescents han migrat a plataformes pitjors (Chai, Janitor AI, ChatGPT sense controls) — prohibir no els protegeix, els dispersa.
✅ L'alternativa segura és un company supervisat amb alertes de crisi al pare en temps real, nivells de supervisió transparents i edat 10-20.

Prova HolaNolis gratis →

Character.AI: de revolució a controvèrsia

Character.AI va néixer com una plataforma innovadora que permetia conversar amb personatges ficticis creats per IA. Ràpidament, va captivar milions d'adolescents que hi trobaven companys emocionals, amics imaginaris i fins i tot "parelles" virtuals. El problema és que mai va ser dissenyat pensant en la seguretat dels menors que van acabar sent la seva base d'usuaris principal.

El 2025, la situació va escalar dramàticament. S'han documentat almenys 14 morts d'adolescents vinculades a interaccions amb chatbots d'IA sense protecció (Associated Press, 2025), i Character.AI ha estat al centre de moltes d'aquestes investigacions. Les famílies afectades, els reguladors i la premsa han posat en evidència una mancança estructural que cap actualització superficial pot resoldre.

Els problemes documentats de Character.AI

Dependència emocional extrema

Character.AI permet crear personatges amb personalitats riques i empàtiques. Els adolescents hi estableixen vincles emocionals profunds que poden substituir relacions humanes reals. 5,2 milions d'adolescents als EUA busquen suport emocional en chatbots d'IA (Pew Research, 2025). Sense cap mecanisme de control, aquesta dependència pot tenir conseqüències greus.

Contingut inadequat per a menors

Malgrat els filtres de contingut, la plataforma ha generat repetidament contingut sexual, violent o psicològicament perjudicial per a menors. El 53% de les respostes dels chatbots d'IA es consideren potencialment perjudicials per a menors (CCDH, 2024). Els filtres basats en paraules clau són insuficients per controlar el to i la intenció d'una conversa.

Sense alertes als adults

Quan un adolescent expressa pensaments suïcides o situacions de risc a Character.AI, cap adult rep cap notificació. La plataforma no integra la família en cap moment del procés. L'adolescent queda sol davant de la IA en els moments de major vulnerabilitat.

Demandes judicials i investigacions

Múltiples famílies han interposat demandes contra Character.AI als Estats Units. Diversos reguladors europeus han iniciat investigacions. L'APDCAT (Autoritat Catalana de Protecció de Dades) i l'AEPD espanyola estan avaluant el compliment normatiu de les plataformes d'IA que interactuen amb menors.

5 alternatives supervisades a Character.AI

Si el teu fill utilitza Character.AI, és important oferir-li una alternativa segura en comptes de simplement prohibir-ho. Aquí tens 5 opcions, ordenades per nivell de protecció:

1. HolaNolis — La més completa

HolaNolis és l'alternativa més segura i completa a Character.AI. Dissenyat des de zero per a adolescents de 10 a 20 anys, amb:

Pipeline de seguretat de 4 capes que analitza cada missatge.
3 nivells de supervisió (Light, Medium, Full) configurats per la família.
Alertes de crisi en temps real als tutors.
Supervisió transparent: el menor sap en tot moment quin nivell s'aplica.
Nolis no dóna consells mèdics ni psicològics — detecta, alerta i redirigeix.
Pla gratuït amb alertes de crisi sempre incloses.

HolaNolis no intenta ser un "personatge" amb qui l'adolescent tingui una relació emocional intensa. És un company conversacional segur que ajuda, informa i protegeix.

2. Bark — Monitor de dispositiu

Bark és una eina de monitorització que escaneja dispositius i aplicacions per detectar contingut perillós. Pot alertar els pares sobre activitat problemàtica a Character.AI i altres plataformes. Però no ofereix una alternativa conversacional: només vigila l'ús d'altres apps.

3. Gabb — Ecosistema tancat

Gabb ofereix dispositius i aplicacions dissenyats per a menors amb accés restringit a internet. Elimina el risc bloquejant l'accés, però no ensenya a l'adolescent a interactuar amb la IA de manera segura, cosa que el deixa desprevingut quan accedeixi a eines d'IA en altres contextos.

4. Qustodio — Control parental general

Qustodio permet monitoritzar i restringir l'ús d'aplicacions al dispositiu del menor. Pot bloquejar l'accés a Character.AI, però no ofereix cap alternativa de conversa amb IA ni entén el contingut de les interaccions.

5. Google Family Link — Restriccions bàsiques

Family Link permet limitar l'ús d'aplicacions i establir horaris. És gratuït, però les seves capacitats de protecció davant la IA són mínimes: pot bloquejar l'accés a una app, però no ofereix cap anàlisi del contingut.

Comparativa d'alternatives

Característica	HolaNolis	Bark	Gabb	Qustodio	Family Link
IA conversacional segura	Sí	No	No	No	No
Pipeline de seguretat multicapa	4 capes	No	No	No	No
Alertes als tutors	Temps real	Sí	No	Sí	Limitades
Supervisió transparent	Sí	No	No	No	No
Nivells configurables	3 nivells	No	No	No	No
Alternativa a chatbots	Sí	No	No	No	No
Pla gratuït	Sí	No	No	No	Sí
GDPR/APDCAT	Sí	Parcial	Parcial	Parcial	Sí

Per què prohibir no funciona

La primera reacció de moltes famílies és bloquejar l'accés a Character.AI. Però prohibir la IA no protegeix el teu fill, el posa en desavantatge. Hi ha tres raons principals:

Els adolescents troben alternatives: usaran el mòbil d'un amic, un ordinador públic o una VPN. I ho faran sense cap supervisió.
Es perden l'aprenentatge: la IA és una eina fonamental del present i del futur. Privar-ne l'adolescent és privar-lo d'una competència essencial.
Es trenca la confiança: prohibir sense oferir alternativa genera un conflicte familiar que dificulta la comunicació sobre seguretat digital.

La guia per parlar amb el teu fill sobre seguretat digital t'ajudarà a abordar aquesta conversa de manera constructiva.

Què diu la regulació a Catalunya i Europa

La situació reguladora juga a favor de les famílies que busquen protecció:

GDPR/APDCAT: les plataformes que recullen dades de menors sense consentiment parental adequat incompleixen la normativa. L'Autoritat Catalana de Protecció de Dades (APDCAT) té competències per investigar i sancionar.
EU AI Act: la Llei europea d'IA classifica els sistemes que interactuen amb menors com a àrea de risc que requereix proteccions addicionals.
Demandes als EUA: les demandes contra Character.AI als tribunals americans estan creant jurisprudència que també influirà en el marc europeu.

Si el teu fill utilitza Character.AI, les seves dades personals i converses íntimes estan en una plataforma que no compleix els estàndards europeus de protecció de menors. Per entendre millor el marc legal, consulta què diu la llei europea sobre IA i menors.

Si necessites suport immediat, recorda que tens disponible el Telèfon de l'Esperança Catalunya: 93 414 48 48 (24h).

Com fer la transició

Si el teu fill utilitza Character.AI i vols migrar-lo a una alternativa segura:

Parla-hi obertament — Explica-li per què et preocupa i mostra-li les notícies sobre els incidents documentats.
Ofereix una alternativa — No prohibeixis sense substituir. Prova HolaNolis gratuïtament i explora'l junts.
Negocieu el nivell de supervisió — A HolaNolis, la supervisió és transparent i negociable. Deixa que el teu fill participi en la decisió.
Mantén el diàleg obert — La seguretat digital no és una decisió puntual, és una conversa contínua.

Preguntes freqüents

Character.AI és segur per a adolescents? +

No. Character.AI ha estat objecte de múltiples demandes judicials i investigacions per la seva falta de protecció per a menors. S'han documentat casos greus d'addicció, dependència emocional i morts vinculades a interaccions amb la plataforma. No té supervisió familiar ni alertes als tutors.

Per què Character.AI és tan popular entre els adolescents? +

Character.AI permet crear personatges ficticis amb personalitats riques amb els quals mantenir converses emocionals intenses. Això genera un vincle psicològic fort, especialment en adolescents que busquen companys emocionals. Aquesta mateixa qualitat és la que el fa perillós sense supervisió adequada.

Quina és la millor alternativa a Character.AI per a menors? +

HolaNolis és l'alternativa més completa: dissenyat des de zero per a adolescents de 10-20 anys, amb pipeline de seguretat de 4 capes, 3 nivells de supervisió transparent i alertes de crisi en temps real. A diferència de Character.AI, la família forma part activa del sistema de protecció.

Hauria de prohibir al meu fill utilitzar chatbots d'IA? +

Prohibir no és la millor estratègia. Els adolescents trobaran la manera d'accedir-hi igualment, i ho faran sense cap protecció. La millor opció és oferir una alternativa supervisada on puguin explorar la IA de manera segura, amb la família com a xarxa de protecció.

No esperis a que passi alguna cosa. Descobreix com HolaNolis protegeix el teu fill o crea un compte gratuït.