Character.AI ja no és segur: alternatives supervisades per al teu fill

⚠️ Avís editorial

Aquest article és contingut divulgatiu. No constitueix consell mèdic, psicològic, jurídic ni diagnòstic. El que es publica aquí és una opinió fonamentada, basada en els estudis i les fonts citades, que reflecteix el coneixement disponible en el moment de la redacció.

Si detectes en un menor al teu càrrec senyals que et preocupin —canvis bruscos de conducta, aïllament, autolesions, ideació suïcida, dependència emocional d'una eina digital— consulta sempre un professional de la salut mental o el teu pediatre. En cas d'emergència:

• 024 — Atenció a la conducta suïcida (Espanya · 24 h · gratuït)
• 112 — Emergències
• 900 92 55 55 — Ajuda en línia (Generalitat de Catalunya)
• 900 20 20 10 — ANAR (ajut a infants i adolescents)

HolaNolis detecta senyals d'alerta i avisa els tutors responsables. No diagnostica ni substitueix un professional.

Character.AI: de revolució a controvèrsia

Character.AI va néixer com una plataforma innovadora que permetia conversar amb personatges ficticis creats per IA. Ràpidament, va captivar milions d'adolescents que hi trobaven companys emocionals, amics imaginaris i fins i tot "parelles" virtuals. El problema és que mai va ser dissenyat pensant en la seguretat dels menors que van acabar sent la seva base d'usuaris principal.

El 2025, la situació va escalar dramàticament. S'han documentat almenys diversos casos documentats de morts d’adolescents vinculades a interaccions amb chatbots d'IA sense protecció (AP / CNN, 2024-2026 — Sewell Setzer case AP; Google–Character.AI settlement CNN), i Character.AI ha estat al centre de moltes d'aquestes investigacions. Les famílies afectades, els reguladors i la premsa han posat en evidència una mancança estructural que cap actualització superficial pot resoldre.

Els problemes documentats de Character.AI

Dependència emocional extrema

Character.AI permet crear personatges amb personalitats riques i empàtiques. Els adolescents hi estableixen vincles emocionals profunds que poden substituir relacions humanes reals. 5,2 milions d'adolescents als EUA busquen suport emocional en chatbots d'IA (Common Sense Media, 2025 — Talk, Trust and Trade-offs). Sense cap mecanisme de control, aquesta dependència pot tenir conseqüències greus.

Contingut inadequat per a menors

Malgrat els filtres de contingut, la plataforma ha generat repetidament contingut sexual, violent o psicològicament perjudicial per a menors. El 53% de les respostes dels chatbots d'IA es consideren potencialment perjudicials per a menors (CCDH, 2024 — Fake Friend report). Els filtres basats en paraules clau són insuficients per controlar el to i la intenció d'una conversa.

Sense alertes als adults

Quan un adolescent expressa pensaments suïcides o situacions de risc a Character.AI, cap adult rep cap notificació. La plataforma no integra la família en cap moment del procés. L'adolescent queda sol davant de la IA en els moments de major vulnerabilitat.

Demandes judicials i investigacions

Múltiples famílies han interposat demandes contra Character.AI als Estats Units. Diversos reguladors europeus han iniciat investigacions. L'APDCAT (Autoritat Catalana de Protecció de Dades) i l'AEPD espanyola estan avaluant el compliment normatiu de les plataformes d'IA que interactuen amb menors.

5 alternatives supervisades a Character.AI

Si el teu fill utilitza Character.AI, és important oferir-li una alternativa segura en comptes de simplement prohibir-ho. Aquí tens 5 opcions, ordenades per nivell de protecció:

1. HolaNolis — La més completa

HolaNolis és l'alternativa més segura i completa a Character.AI. Dissenyat des de zero per a adolescents de 10 a 20 anys, amb:

• Pipeline de seguretat de 4 capes que analitza cada missatge.
• 3 nivells de supervisió (Light, Medium, Full) configurats per la família.
• Alertes de crisi en temps real als tutors.
• Supervisió transparent: el menor sap en tot moment quin nivell s'aplica.
• Nolis no dóna consells mèdics ni psicològics — detecta, alerta i redirigeix.
• Pla gratuït amb alertes de crisi sempre incloses.

HolaNolis no intenta ser un "personatge" amb qui l'adolescent tingui una relació emocional intensa. És un company conversacional segur que ajuda, informa i protegeix.

2. Bark — Monitor de dispositiu

Bark és una eina de monitorització que escaneja dispositius i aplicacions per detectar contingut perillós. Pot alertar els pares sobre activitat problemàtica a Character.AI i altres plataformes. Però no ofereix una alternativa conversacional: només vigila l'ús d'altres apps.

3. Gabb — Ecosistema tancat

Gabb ofereix dispositius i aplicacions dissenyats per a menors amb accés restringit a internet. Elimina el risc bloquejant l'accés, però no ensenya a l'adolescent a interactuar amb la IA de manera segura, cosa que el deixa desprevingut quan accedeixi a eines d'IA en altres contextos.

4. Qustodio — Control parental general

Qustodio permet monitoritzar i restringir l'ús d'aplicacions al dispositiu del menor. Pot bloquejar l'accés a Character.AI, però no ofereix cap alternativa de conversa amb IA ni entén el contingut de les interaccions.

5. Google Family Link — Restriccions bàsiques

Family Link permet limitar l'ús d'aplicacions i establir horaris. És gratuït, però les seves capacitats de protecció davant la IA són mínimes: pot bloquejar l'accés a una app, però no ofereix cap anàlisi del contingut.

Comparativa d'alternatives

Per què prohibir no funciona

La primera reacció de moltes famílies és bloquejar l'accés a Character.AI. Però prohibir la IA no protegeix el teu fill, el posa en desavantatge. Hi ha tres raons principals:

1. Els adolescents troben alternatives: usaran el mòbil d'un amic, un ordinador públic o una VPN. I ho faran sense cap supervisió.
2. Es perden l'aprenentatge: la IA és una eina fonamental del present i del futur. Privar-ne l'adolescent és privar-lo d'una competència essencial.
3. Es trenca la confiança: prohibir sense oferir alternativa genera un conflicte familiar que dificulta la comunicació sobre seguretat digital.

La guia per parlar amb el teu fill sobre seguretat digital t'ajudarà a abordar aquesta conversa de manera constructiva.

Què diu la regulació a Catalunya i Europa

La situació reguladora juga a favor de les famílies que busquen protecció:

• GDPR/APDCAT: les plataformes que recullen dades de menors sense consentiment parental adequat incompleixen la normativa. L'Autoritat Catalana de Protecció de Dades (APDCAT) té competències per investigar i sancionar.
• EU AI Act: la Llei europea d'IA classifica els sistemes que interactuen amb menors com a àrea de risc que requereix proteccions addicionals.
• Demandes als EUA: les demandes contra Character.AI als tribunals americans estan creant jurisprudència que també influirà en el marc europeu.

Si el teu fill utilitza Character.AI, les seves dades personals i converses íntimes estan en una plataforma que no compleix els estàndards europeus de protecció de menors. Per entendre millor el marc legal, consulta què diu la llei europea sobre IA i menors.

Si necessites suport immediat, recorda que tens disponible el Telèfon de l'Esperança Catalunya: 93 414 48 48 (24h).

Com fer la transició

Si el teu fill utilitza Character.AI i vols migrar-lo a una alternativa segura:

1. Parla-hi obertament — Explica-li per què et preocupa i mostra-li les notícies sobre els incidents documentats.
2. Ofereix una alternativa — No prohibeixis sense substituir. Prova HolaNolis gratuïtament i explora'l junts.
3. Negocieu el nivell de supervisió — A HolaNolis, la supervisió és transparent i negociable. Deixa que el teu fill participi en la decisió.
4. Mantén el diàleg obert — La seguretat digital no és una decisió puntual, és una conversa contínua.

Preguntes freqüents

No esperis a que passi alguna cosa. Descobreix com HolaNolis protegeix el teu fill o crea un compte gratuït.