¿Puede una inteligencia artificial reemplazar a un terapeuta?

¿Confiarías tu salud mental a una inteligencia artificial? Hoy existen aplicaciones y plataformas que prometen escucharte, comprenderte e incluso darte “terapia” a cualquier hora del día. Frases como “tu terapeuta disponible 24/7” o “una IA que se preocupa por ti” son cada vez más comunes.

Pero detrás de esa promesa aparece una pregunta mucho más incómoda: ¿puede una máquina realmente cuidar el bienestar emocional de una persona? Y más importante aún: ¿qué ocurre cuando se equivoca?

En los últimos años, los modelos de lenguaje basados en inteligencia artificial han comenzado a utilizarse en contextos relacionados con la salud mental. Desde chatbots emocionales hasta aplicaciones que afirman aplicar enfoques psicológicos como la terapia cognitivo-conductual, millones de personas ya interactúan diariamente con este tipo de herramientas.

El problema es que muchas veces estas plataformas incluyen advertencias pequeñas y poco visibles aclarando que no son profesionales reales. Aun así, los usuarios suelen establecer vínculos emocionales importantes con ellas y, en algunos casos, llegar a confiarles situaciones altamente vulnerables.

Y esto ya ha generado problemas reales. En Estados Unidos, por ejemplo, una organización reemplazó temporalmente una línea de ayuda humana por un sistema automatizado. Sin embargo, el chatbot terminó promoviendo conductas alimentarias poco saludables y tuvo que ser retirado pocos días después.

Precisamente para entender mejor estos riesgos, un grupo de investigadores en salud mental y tecnología realizó un estudio científico durante más de un año analizando cómo se comportan estas inteligencias artificiales cuando actúan como supuestos terapeutas o consejeros emocionales.

Los resultados mostraron algo importante: todavía estamos bastante lejos de que una inteligencia artificial pueda reemplazar, siquiera parcialmente, el trabajo clínico de un profesional humano.

La salud mental no consiste solo en dar consejos

Uno de los errores más comunes al hablar de inteligencia artificial y terapia es reducir la psicoterapia a una conversación o a una serie de respuestas “correctas”. Pero la práctica clínica real implica mucho más que eso.

La salud mental está guiada por principios éticos muy claros desarrollados por organizaciones profesionales. Entre ellos están la responsabilidad clínica, el respeto por la dignidad de las personas, la confidencialidad, el uso de evidencia científica y, sobre todo, la obligación de evitar causar daño.

Un terapeuta humano no solo escucha. También interpreta contextos, evalúa riesgos, reconoce límites profesionales y sabe cuándo una situación requiere otro tipo de intervención.

Las inteligencias artificiales, en cambio, no están sujetas realmente a estos estándares éticos.

El estudio encontró 15 problemas éticos importantes

Para analizar estos riesgos, los investigadores trabajaron junto a psicólogos clínicos y consejeros entrenados. Durante aproximadamente 18 meses evaluaron más de 100 sesiones simuladas donde las inteligencias artificiales actuaban como terapeutas.

A partir de estos análisis identificaron 15 problemas éticos agrupados en cinco grandes categorías.

1. Falta de adaptación al contexto

La terapia efectiva necesita ajustarse a la historia personal, social y cultural de cada individuo. Sin embargo, los modelos de lenguaje suelen responder de manera rígida y genérica.

En muchos casos aplican técnicas de forma mecánica, como si todas las personas fueran iguales. También presentan dificultades para comprender aquello que realmente es importante para el usuario: sus valores, experiencias y contexto cultural.

El estudio mostró que esto era especialmente problemático con personas provenientes de contextos no occidentales. Las respuestas frecuentemente reflejaban valores occidentales relacionados con la autonomía individual y ciertas formas específicas de entender el bienestar psicológico.

En otras palabras, terminaban ofreciendo una misma solución para todos.

2. Problemas en la relación terapéutica

La psicoterapia no es un discurso unilateral. Es una relación colaborativa donde la persona necesita sentirse escuchada y comprendida.

Sin embargo, los investigadores encontraron que muchas inteligencias artificiales tendían a responder con mensajes largos, rígidos y autoritarios, dejando poco espacio para la reflexión personal.

En lugar de ayudar a las personas a comprenderse mejor, frecuentemente imponían soluciones rápidas.

Y uno de los hallazgos más preocupantes fue la tendencia a validar creencias dañinas. En algunos casos, las inteligencias artificiales reforzaban pensamientos negativos o distorsionados en lugar de cuestionarlos clínicamente.

También aparecieron situaciones de invalidación emocional o “gaslighting”, donde el sistema hacía que el usuario dudara de su propia experiencia emocional de manera inapropiada.

3. La empatía simulada

Quizás uno de los aspectos más delicados es la forma en que estos sistemas expresan empatía.

Frases como “te entiendo”, “estoy aquí contigo” o “lamento que estés pasando por esto” pueden generar una sensación de conexión emocional. Pero existe un problema fundamental: esa empatía no es real.

La inteligencia artificial no siente, no comprende emocionalmente ni tiene experiencia humana detrás de sus palabras. Simplemente genera respuestas diseñadas para parecer empáticas.

El riesgo es que esto pueda crear una falsa sensación de vínculo terapéutico, especialmente en personas emocionalmente vulnerables o con altos niveles de soledad.

Y ahí aparece un dilema ético importante: parecer humano no significa ser humano.

4. Sesgos y discriminación

Otro de los problemas identificados fue la reproducción de sesgos culturales, religiosos y de género.

Los modelos de lenguaje aprenden a partir de enormes cantidades de información tomada de Internet. Y esos datos reflejan inevitablemente prejuicios, perspectivas culturales dominantes y desigualdades sociales.

El estudio encontró dificultades importantes al tratar temas relacionados con culturas no occidentales, perspectivas religiosas minoritarias o problemáticas de género complejas.

Esto puede hacer que ciertos usuarios se sientan incomprendidos, juzgados o incluso estigmatizados.

5. Problemas de seguridad y manejo de crisis

Uno de los puntos más preocupantes del estudio estuvo relacionado con situaciones de alto riesgo, como pensamientos suicidas, depresión severa o crisis emocionales graves.

Las respuestas de las inteligencias artificiales muchas veces resultaban frías, insuficientes o directamente inadecuadas.

Además, los sistemas no siempre reconocían cuándo era necesario derivar inmediatamente a un profesional humano. En algunos casos incluso interrumpían abruptamente la conversación en momentos críticos sin ofrecer apoyo adecuado.

En contextos reales, este tipo de errores podría tener consecuencias graves.

El problema no es solo técnico, también es humano

Más allá de los errores específicos, el estudio plantea una reflexión mucho más profunda.

El problema no es únicamente que estas herramientas puedan equivocarse. El problema es que están diseñadas bajo una lógica limitada: responder de forma útil y agradable para el usuario.

Y eso puede convertirse en un riesgo clínico.

Los modelos tienden a reforzar lo que la persona dice, incluso cuando esas ideas son dañinas o distorsionadas. Esto ocurre porque están optimizados para ser complacientes y mantener la interacción fluida.

Pero la terapia real no consiste en darle siempre la razón al paciente.

Un terapeuta humano también cuestiona, confronta patrones problemáticos y ayuda a la persona a ver aspectos de sí misma que quizás no puede reconocer sola.

La psicoterapia implica interpretación clínica, sensibilidad humana, juicio ético y capacidad de adaptación. Y esas son precisamente las áreas donde las inteligencias artificiales todavía muestran mayores limitaciones.

¿Quién es responsable cuando una IA falla?

Existe además una pregunta crítica: si una inteligencia artificial causa daño emocional, ¿quién asume la responsabilidad?

En la práctica clínica tradicional existen normas éticas, supervisión profesional y consecuencias legales cuando ocurre negligencia. En cambio, en muchas herramientas de inteligencia artificial todavía no existe un marco regulatorio claro.

Por eso, los autores del estudio proponen regulaciones mucho más estrictas: certificaciones obligatorias, evaluaciones periódicas de seguridad, supervisión humana y límites claros sobre el uso autónomo de estas tecnologías en salud mental.

Porque el impacto emocional que pueden tener estas herramientas es demasiado importante como para dejarlas sin control adecuado.

La terapia es más que lenguaje

En el fondo, todo esto apunta a algo esencial: la terapia no consiste únicamente en responder correctamente.

Buscar ayuda psicológica es un acto profundamente humano. Implica confiar en otro ser humano, sentirse escuchado, comprendido y acompañado incluso cuando resulta difícil poner en palabras lo que uno siente.

La tecnología puede ayudar en algunas tareas. Puede organizar ideas, ofrecer información o incluso brindar cierto alivio momentáneo. Pero al menos por ahora, sigue existiendo algo que ninguna inteligencia artificial puede reemplazar completamente: la presencia humana real.

Porque la terapia no es solo hablar. También es interpretar, sostener emocionalmente, asumir responsabilidad ética y comprender al otro más allá de las palabras.

Y eso continúa siendo algo profundamente humano.