Por qué Nolis no da consejos médicos ni psicológicos

⚠️ Aviso editorial

Este artículo es contenido divulgativo. No constituye consejo médico, psicológico, jurídico ni diagnóstico. Lo que se publica aquí es una opinión fundamentada, apoyada en los estudios y las fuentes citadas, que refleja el conocimiento disponible en el momento de la redacción.

Si detectas en un menor a tu cargo señales que te preocupen —cambios bruscos de conducta, aislamiento, autolesiones, ideación suicida, dependencia emocional de una herramienta digital— consulta siempre con un profesional de la salud mental o con tu pediatra. En caso de urgencia:

• 024 — Atención a la conducta suicida (España · 24 h · gratuito)
• 112 — Emergencias
• 717 003 717 — Teléfono de la Esperanza
• 900 20 20 10 — ANAR (ayuda a niños y adolescentes)

HolaNolis detecta señales de alerta y avisa a los tutores responsables. No diagnostica ni sustituye a un profesional.

En los últimos dos años, los titulares sobre inteligencia artificial y adolescentes se han vuelto cada vez más preocupantes. Chatbots que calcularon, para perfiles simulados de adolescentes con sobrepeso, unas 695 kcal diarias menos de las necesarias según una dietista (Frontiers in Nutrition, 2026 — Artificial intelligence diet plans underestimate nutrient intake compared to dietitians in adolescents). Asistentes virtuales que sugieren dejar la medicación psiquiátrica. Aplicaciones que "diagnostican" ansiedad o depresión basándose en un cuestionario de cinco preguntas. Y lo más grave: jóvenes que siguen estos consejos al pie de la letra porque confían más en la IA que en un adulto.

Cuando diseñamos HolaNolis, tomamos una decisión que para algunos puede parecer una limitación: Nolis está diseñado para no dar consejos médicos ni psicológicos ni diagnosticar; escucha y orienta hacia adultos de confianza y recursos de ayuda. No es un error, no es una carencia. Es una decisión ética, regulatoria y de seguridad que consideramos una de nuestras mayores fortalezas.

¿Por qué es peligroso que una IA dé consejos de salud a adolescentes?

Para entender por qué esta decisión es tan importante, veamos qué está ocurriendo ahí fuera.

La confianza ciega en la IA

Los estudios más recientes muestran una tendencia alarmante: los adolescentes confían más en las respuestas de una IA que en las de un buscador web, y en muchos casos más que en las de sus propios padres o profesores. Esto tiene una explicación psicológica:

• La IA responde inmediatamente, sin juzgar, sin preguntar "¿por qué quieres saber eso?"
• La IA suena segura. No dice "no sé" ni "depende". Genera respuestas con un tono de autoridad que los adultos rara vez usan.
• La IA es privada. Un adolescente puede preguntar sobre síntomas de depresión sin miedo a que nadie se entere.
• La IA está siempre disponible. A las 3 de la madrugada, cuando la ansiedad es peor, no hay otro interlocutor.

Los casos reales

No son hipótesis. Son hechos documentados:

• Dietas peligrosas: chatbots generalistas que generan "planes de alimentación" muy restrictivos para adolescentes de 13 años, sin considerar que un menor en crecimiento necesita significativamente más (en una prueba del CCDH con un perfil de 13 años, ChatGPT propuso días de 800, 500 y 300 calorías — CCDH, 2025). Y cinco chatbots calcularon, para perfiles simulados de adolescentes con sobrepeso, unas 695 kcal diarias menos de las necesarias según una dietista (Frontiers in Nutrition, 2026).
• Desescalada de medicación: IAs que sugieren "alternativas naturales" a medicación psiquiátrica prescrita por profesionales, con consecuencias potencialmente fatales.
• Autodiagnóstico erróneo: menores que se convencen de padecer trastornos basándose en interacciones con chatbots y que, o bien retrasan la consulta con un profesional, o bien desarrollan ansiedad adicional por un diagnóstico que no existe.
• Incidentes graves con chatbots de compañía: familias de EE. UU. han demandado a empresas de chatbots alegando que contribuyeron al suicidio de sus hijos, y lo expusieron ante el Senado en 2025 (AP); Character.AI acordó cerrar varias de esas demandas en enero de 2026 (CNN). Según las demandas, en algunos casos el chatbot no detectó señales claras de ideación suicida o, peor, reforzó narrativas destructivas.

Por qué es peligroso

La raíz del problema es triple:

1. La IA no está cualificada. No tiene formación médica, no puede examinar al paciente, no conoce su historial, no puede hacer pruebas. Su "conocimiento" es un patrón estadístico, no comprensión clínica.
2. La IA no tiene responsabilidad legal. Si un médico da un mal consejo, hay mecanismos de responsabilidad. Si una IA recomienda una dieta peligrosa, nadie responde.
3. Los adolescentes no filtran. Un adulto puede (aunque no siempre) contrastar la información. Un adolescente de 13 años que a las 2 de la madrugada busca "cómo dejar de sentirme triste" no tiene esa capacidad de filtro.

La posición de HolaNolis: compañero, NO consejero

HolaNolis parte de un principio que repetimos internamente como un mantra: detectar, alertar, redirigir. No diagnosticar, prescribir ni aconsejar.

Esto se traduce en un comportamiento muy específico de Nolis:

Lo que Nolis SÍ hace

• Refleja sentimientos: "Parece que te sientes frustrado con esa situación" o "Suena como si hoy hubiera sido un día difícil". Nolis actúa como un espejo emocional que ayuda al menor a identificar y nombrar lo que siente, sin interpretar ni evaluar.
• Valida sin juzgar: "Es normal sentirse así cuando pasan estas cosas" o "Mucha gente se sentiría igual en tu situación". La validación emocional es profundamente terapéutica y no requiere ser profesional de la salud.
• Anima a hablar con adultos de confianza: "¿Has podido hablar de esto con alguien? A veces contarlo a alguien de confianza ayuda mucho" o "¿Hay algún adulto con quien te sientas cómodo hablando de esto?"
• Proporciona líneas de ayuda profesional: cuando la situación lo requiere, Nolis ofrece teléfonos y recursos de crisis localizados (Teléfono de la Esperanza, línea ANAR, servicios equivalentes en cada país).
• Activa alertas de crisis: si detecta señales de riesgo grave (autolesión, ideación suicida, abuso), el sistema avisa a la familia de inmediato por email y, si la tenéis activada, por notificación push. Esto ocurre de forma automática a través del pipeline de seguridad de cuatro capas.

Lo que Nolis está diseñado para no hacer

• No diagnostica: no dirá "parece que tienes ansiedad" o "eso suena a depresión". No tiene la cualificación ni la información para hacerlo.
• No prescribe: no sugerirá medicamentos, suplementos, dosis ni "remedios naturales".
• No recomienda dietas: no generará planes de alimentación, no contará calorías ni hará comentarios sobre el peso o la imagen corporal.
• No da consejos terapéuticos: no dirá "deberías probar esta técnica de relajación para tu ansiedad" ni "lo que necesitas es hablar más sobre tu trauma".
• No sustituye a un profesional: si el menor pide ayuda de salud mental, Nolis redirige a personas cualificadas.

¿Por qué esto hace a HolaNolis MÁS valioso, no menos?

Puede parecer contraintuitivo: ¿un chatbot que no da consejos es mejor que uno que sí los da? Absolutamente, y por varias razones.

1. La seguridad como propuesta de valor

Para un padre, saber que la IA con la que habla su hijo de 13 años está diseñada para no sugerirle una dieta, un diagnóstico o dejar la medicación tiene un valor incalculable. Es una capa de protección activa frente a riesgos que un chatbot generalista no tiene en cuenta.

2. El efecto puente

Nolis no pretende resolver problemas de salud; pretende tender un puente hacia quien sí puede resolverlos. Un adolescente que habla con Nolis sobre su tristeza y recibe la sugerencia de hablar con un adulto tiene más probabilidades de hacerlo que uno que nunca verbalizó esa tristeza. Nolis es el primer paso, no el último.

3. La escucha sin consecuencias

A veces, un adolescente necesita simplemente decir en voz alta cómo se siente sin que nadie entre en "modo solución". Nolis ofrece exactamente eso: un espacio donde expresar emociones sin recibir un diagnóstico, un juicio o un plan de acción no solicitado.

4. La detección precoz

Paradójicamente, un sistema que no da consejos pero que detecta y alerta puede ser más eficaz que uno que intenta tratar. Porque la detección precoz por parte de un sistema de IA, combinada con la intervención de un profesional humano, es una combinación extraordinariamente potente. Para aprender a identificar estas señales como padre, lee las 5 señales de que tu hijo necesita apoyo emocional.

La ventaja regulatoria bajo el Reglamento europeo de IA

La decisión de no dar consejos no es solo ética; también es estratégica a nivel regulatorio.

El Reglamento Europeo de Inteligencia Artificial (EU AI Act), en vigor desde 2024 y aplicable por fases, ordena las obligaciones según el nivel de riesgo:

• Riesgo inaceptable: prohibido (manipulación subliminal, social scoring...)
• Alto riesgo: regulación estricta y evaluación de conformidad
• Transparencia (art. 50; a menudo se habla de «riesgo limitado», aunque el Reglamento no usa esa etiqueta): hay que informar de que se habla con una IA
• Riesgo mínimo: libre uso

Una IA que diera consejos médicos o psicológicos a menores asumiría riesgos y responsabilidades mucho mayores (y con razón). Para entender el marco legal completo que rodea la IA y los menores, consulta nuestro artículo sobre IA y menores: lo que dice la ley en Europa.

Nolis es un compañero conversacional que detecta y redirige, diseñado para no diagnosticar ni aconsejar. No diagnostica, no evalúa y no toma decisiones sobre nadie; por eso, según nuestro análisis preliminar (pendiente de revisión externa), no es un sistema de alto riesgo del Reglamento de IA. Esto no es un truco regulatorio; es una consecuencia natural de hacer las cosas bien. Cuando tu diseño ético coincide con la regulación, es señal de que el enfoque es correcto.

El marco ético: la seguridad de un menor siempre es primero

En HolaNolis seguimos un orden de prioridades que nunca varía:

1. Seguridad del menor: por encima de todo, incluida la experiencia de usuario, las métricas de engagement y la rentabilidad.
2. Cumplimiento normativo: respetar la ley no es opcional.
3. Confianza parental: los padres necesitan saber que la herramienta actúa en el mejor interés de su hijo.
4. Experiencia del adolescente: que Nolis sea atractivo, interesante y útil, dentro de los límites anteriores.

Este orden implica decisiones difíciles. Sería más "divertido" que Nolis pudiera hablar de dietas o dar consejos sobre cómo gestionar la ansiedad. Probablemente aumentaría el tiempo de uso. Pero aumentar el engagement a costa de la seguridad es exactamente lo que las redes sociales llevan haciendo una década, y los resultados están a la vista.

No queremos ser otra herramienta que prioriza las métricas sobre las personas. Especialmente cuando esas personas tienen entre 10 y 20 años.

Qué deberían saber los padres sobre la IA y los consejos de salud

Si tu hijo usa cualquier IA conversacional (no solo HolaNolis), estas son las claves que deberías tener claras:

• Ninguna IA generalista está cualificada para dar consejos de salud. Ni ChatGPT, ni Gemini, ni Claude, ni Nolis. Ninguna.
• Los disclaimers no son suficientes. "Esto no sustituye el consejo médico" al final de un plan de dietas de 1000 calorías no protege a tu hijo de seguirlo.
• La velocidad y disponibilidad son un riesgo. A las 3 de la madrugada, la IA es el único interlocutor. Y a esa hora, la capacidad de juicio es mínima.
• Habla con tu hijo sobre la diferencia entre desahogarse con una IA (sano) y pedirle soluciones de salud (peligroso). Para guías de conversación concretas, lee cómo hablar con tu hijo sobre seguridad digital.

Cuándo buscar ayuda profesional

No todo lo que un adolescente cuenta a una IA requiere intervención. Pero hay señales claras de que es momento de buscar ayuda de un profesional:

• Cambios persistentes en el sueño, apetito o energía (más de dos semanas)
• Aislamiento social que no responde a causas concretas
• Expresiones de desesperanza ("nada tiene sentido", "da igual lo que haga")
• Autolesión o mención de autolesión, en cualquier contexto
• Cambios bruscos de comportamiento (agresividad, llanto frecuente, abandono de actividades)
• Obsesión con el peso, la comida o la imagen corporal

Si HolaNolis detecta cualquiera de estas señales, activará el protocolo de alerta. Pero no esperes a que una IA te lo diga: si observas estos cambios, actúa. Tu pediatra, un psicólogo infantojuvenil o las líneas de ayuda especializadas son el siguiente paso.

Preguntas frecuentes

En resumen

Nolis no da consejos médicos ni psicológicos porque no debería hacerlo ninguna IA. No porque no pueda técnicamente, sino porque hacerlo sería irresponsable, peligroso y contrario a todo lo que HolaNolis representa.

Lo que Nolis sí ofrece es esta combinación: un espacio diseñado para expresarse con seguridad, un sistema de detección de señales de riesgo, avisos inmediatos a la familia cuando el riesgo es grave y una redirección constante hacia los adultos de confianza y los profesionales que sí pueden ayudar.

Porque la mejor IA para adolescentes no es la que tiene todas las respuestas. Es la que sabe cuándo no debería responder. Si quieres descubrir cómo funciona el sistema en la práctica, consulta la guía rápida de primeros pasos o visita la funcionalidades de HolaNolis.