La inteligencia artificial está entrando silenciosamente en uno de los espacios más sensibles de nuestra vida privada: la consulta de salud mental.
Durante los últimos años hemos asistido a una rápida incorporación de herramientas de IA en hospitales, clínicas y consultas médicas. En muchos casos, estas tecnologías prometen reducir la carga administrativa de los profesionales sanitarios, permitiéndoles dedicar más tiempo a la atención de los pacientes. Sin embargo, una reciente investigación periodística ha puesto de manifiesto una realidad que probablemente muchos pacientes desconocen: algunas de estas herramientas funcionan grabando íntegramente las conversaciones mantenidas durante las sesiones clínicas, incluidas las consultas psicológicas y psiquiátricas más íntimas.
La tecnología recibe nombres aparentemente inocuos como “ambient listening” o “ambient documentation”. La promesa es atractiva. En lugar de que el médico o terapeuta tome notas durante la consulta, un sistema de inteligencia artificial escucha la conversación, la transcribe y genera automáticamente la documentación clínica necesaria. Desde una perspectiva operativa, la eficiencia es evidente. Desde una perspectiva jurídica y ética, las preguntas son mucho más complejas.
La cuestión fundamental no es únicamente que la conversación se grabe. El verdadero problema es que muchos pacientes desconocen qué ocurre después con esa información.
Según la investigación publicada por The Markup, diversos profesionales de salud mental manifestaron no haber recibido explicaciones claras sobre dónde se almacenan las grabaciones, cuánto tiempo permanecen conservadas, quién puede acceder a ellas o si pueden utilizarse posteriormente para el entrenamiento y mejora de sistemas de inteligencia artificial. Algunos profesionales incluso señalaron que ellos mismos carecen de respuestas precisas a estas preguntas pese a haberlas formulado a sus organizaciones sanitarias.
Desde la perspectiva europea, la situación resulta especialmente delicada.
Los datos relativos a la salud constituyen una categoría especial de datos personales conforme al artículo 9 del Reglamento General de Protección de Datos. Cuando hablamos de salud mental, además, nos encontramos probablemente ante uno de los ámbitos de máxima sensibilidad imaginable. Una sesión psicológica puede contener información sobre traumas, adicciones, ideación suicida, relaciones familiares, antecedentes de violencia, orientación sexual, creencias personales o situaciones de extrema vulnerabilidad emocional.
En términos de privacidad, pocas categorías de información merecen un nivel de protección más elevado.
Por ello, cualquier tratamiento basado en grabaciones sistemáticas exige responder previamente a una serie de preguntas esenciales. ¿Es realmente necesaria la grabación completa para alcanzar la finalidad perseguida? ¿Se ha informado adecuadamente al paciente? ¿Existe una alternativa menos intrusiva? ¿Cuál es la base jurídica que legitima el tratamiento? ¿Qué medidas de seguridad se han implantado? ¿Se realiza una evaluación de impacto? ¿Quién accede a las grabaciones y durante cuánto tiempo? Estas cuestiones no son meros formalismos burocráticos; constituyen el núcleo mismo del principio de responsabilidad proactiva que inspira el RGPD.
Existe además un elemento adicional que rara vez aparece en los debates tecnológicos: la confianza terapéutica.
La relación entre paciente y profesional de salud mental depende en gran medida de la capacidad del primero para expresarse con absoluta libertad. La mera percepción de estar siendo grabado puede alterar esa dinámica. Algunos pacientes pueden mostrarse más cautelosos, omitir determinados detalles o evitar conversaciones especialmente sensibles por temor a la existencia futura de registros permanentes.
Desde una perspectiva clínica, este fenómeno no es menor. La eficacia de muchos tratamientos psicológicos depende precisamente de la sinceridad y profundidad de las conversaciones mantenidas durante las sesiones.
La cuestión tampoco se limita a la privacidad individual. Estamos asistiendo a una transformación estructural de los datos sanitarios en activos tecnológicos de enorme valor económico. Los grandes modelos de inteligencia artificial necesitan cantidades masivas de información para mejorar su rendimiento. Los datos médicos, especialmente aquellos que reflejan interacciones humanas complejas, poseen un valor extraordinario para el entrenamiento de futuros sistemas.
Precisamente por ello resulta imprescindible garantizar que cualquier utilización secundaria de estos datos se encuentre claramente delimitada, justificada y sometida a mecanismos efectivos de control.
Como profesor de Derecho Digital suelo recordar que la protección de datos no consiste en impedir el uso de nuevas tecnologías. La innovación tecnológica y la privacidad no son conceptos incompatibles. Lo que exige el Derecho es que la innovación se construya sobre principios de transparencia, proporcionalidad y respeto a los derechos fundamentales.
La inteligencia artificial puede aportar enormes beneficios a la práctica clínica. Puede reducir tareas administrativas, mejorar la calidad de la documentación médica e incluso ayudar a detectar riesgos que podrían pasar desapercibidos. Pero precisamente porque los beneficios potenciales son tan relevantes, resulta aún más importante que su implantación se realice con las máximas garantías.
La historia reciente demuestra que los mayores problemas regulatorios no suelen surgir cuando una tecnología fracasa, sino cuando tiene éxito antes de que existan mecanismos adecuados de supervisión.
La pregunta, por tanto, no es si la inteligencia artificial debe utilizarse en la atención sanitaria. La pregunta es si los pacientes conocen realmente cuándo está escuchando, qué está escuchando y qué ocurrirá después con aquello que han decidido confiar a su médico o a su terapeuta.
Y cuando hablamos de salud mental, esa diferencia importa más que nunca.
