¿Es seguro usar IA con información de pacientes?

La respuesta honesta a la pregunta del título no es un sí ni un no: es «depende de lo que verifiques». Ninguna herramienta es segura o insegura en abstracto; lo es el conjunto de qué hace con los datos, qué acordaste con tu paciente y cómo la usas. Y algo no cambia con ninguna herramienta: quien responde por la información clínica sigues siendo tú. Esta guía recorre lo que exige la ley mexicana, lo que proponen la OMS y la APA, y las preguntas para cualquier proveedor — incluidos nosotros — antes de confiarle una sesión.

Todo lo que registras en sesión es dato personal sensible

El punto de partida no es tecnológico sino legal. La ley federal de protección de datos vigente — publicada en el DOF el 20 de marzo de 2025 y que abrogó la ley de 2010 que muchos blogs todavía citan — clasifica el «estado de salud presente o futuro» como dato personal sensible. Eso abarca casi todo lo que produce una consulta: historia clínica, notas, un audio de sesión, una transcripción, el motivo de consulta escrito en un correo. De ahí se derivan obligaciones que ya son tuyas hoy, uses IA o no:

Consentimiento expreso y por escrito. El artículo 8 lo exige para tratar datos sensibles, mediante firma autógrafa, firma electrónica u otro mecanismo de autenticación.
Aviso de privacidad. El artículo 15 pide identificar qué datos tratas, cuáles son sensibles y con qué finalidades.
Confidencialidad que sobrevive. El artículo 20 la exige a quienes intervienen en el tratamiento, incluso después de terminada la relación.
Aviso de vulneraciones. El artículo 19 obliga a informar de inmediato al titular las vulneraciones que afecten de forma significativa sus derechos.
Sanciones reales. Vigila la Secretaría Anticorrupción y Buen Gobierno — ya no el INAI — y las multas del artículo 59, de hasta 320,000 UMA, pueden duplicarse tratándose de datos sensibles.

Responsable, encargada, transferencia: quién es quién

La misma ley dice qué figura ocupa un proveedor de IA. Si trata datos «por cuenta del responsable» — por cuenta tuya —, es «persona encargada» (artículo 2, fracción XII). Tú sigues siendo responsable: el artículo 13 te obliga a garantizar que tu aviso de privacidad se respete en todo momento, también por los terceros con los que guardes relación jurídica; contratar una herramienta no exporta la responsabilidad. El artículo 18 exige medidas de seguridad administrativas, técnicas y físicas acordes al riesgo y a la sensibilidad de los datos; el artículo 12, limitar el tratamiento de datos sensibles al periodo «mínimo indispensable».

Hay un matiz que vale oro. «Transferencia» es toda comunicación de datos a alguien distinto del titular, del responsable o de la encargada (artículo 2, fracción XX); entregar datos a una encargada genuina no lo es. Pero un proveedor que usa los datos para fines propios — entrenar sus modelos, por ejemplo — ya no actúa solo «por cuenta» tuya: ese flujo apunta al régimen de transferencias (artículos 35 y 36) y, sin consentimiento expreso, colinda con las infracciones del artículo 58. Es lectura nuestra de las definiciones — no hay criterios oficiales sobre IA bajo la ley de 2025 —, pero explica por qué «¿entrenas tus modelos con estos datos?» es una pregunta legal, no técnica.

Una honestidad más: México no tiene hoy regulación específica de la IA en salud — no existe una NOM sobre IA en atención clínica ni una ley federal de inteligencia artificial en vigor que hayamos podido verificar en fuentes oficiales, y tampoco encontramos guías de colegios mexicanos de psicología al respecto. El marco aplicable es el que acabas de ver: la ley de datos y las normas del expediente clínico.

Los referentes internacionales

La OMS: seis principios y una advertencia

La OMS publicó en junio de 2021 su informe Ethics and governance of artificial intelligence for health, con seis principios de consenso, de la autonomía humana a la rendición de cuentas. El primero conecta directo con tu consulta: «los humanos deben mantener el control de los sistemas sanitarios y de las decisiones médicas; la privacidad y la confidencialidad deben protegerse, y los pacientes deben dar un consentimiento informado válido a través de marcos legales apropiados de protección de datos» (traducción propia del comunicado oficial). El de responsabilidad añade que corresponde a las personas asegurar que la IA se use «en condiciones apropiadas y por personas debidamente capacitadas».

En enero de 2024 la OMS aterrizó esos principios en la IA generativa con su guía sobre grandes modelos multimodales (LMM, la tecnología detrás de las herramientas tipo ChatGPT), con más de 40 recomendaciones. Dos cosas importan. Primera: entre sus cinco aplicaciones en salud enumera las tareas administrativas, «como documentar y resumir las visitas de pacientes dentro de los expedientes clínicos electrónicos» — es decir, tu caso de uso está en su mapa. Segunda: sus riesgos documentados se leen como el índice de este artículo — afirmaciones falsas, inexactas, sesgadas o incompletas; el «sesgo de automatización» (dejar pasar errores confiando en el sistema); y riesgos de ciberseguridad que amenazan la información del paciente.

La APA: cómo evaluar una herramienta, paso a paso

La APA publicó en octubre de 2024 una guía práctica para evaluar herramientas de IA en trece pasos que terminan donde deben: documentar tu revisión y repetirla cuando cambien las políticas. Sus preguntas son quirúrgicas. Sobre datos: «toma nota, en particular, de si la empresa usa tus datos de usuario para entrenar el modelo de IA subyacente» (traducción propia). Sobre consentimiento: si ofrece formatos y pide constancia de que el paciente consintió antes de usar la herramienta. Su lista de verificación complementaria formula el punto jurídico en términos que sirven en cualquier país: ¿la empresa declara que cumple las leyes de privacidad de datos aplicables «en la jurisdicción donde ejerces»? En México, esa jurisdicción se llama LFPDPPP de 2025. Y cierra con un descargo que conviene imitar: la APA no respalda herramientas específicas; evaluar es tarea de cada profesional.

En julio de 2025 (fecha de su última actualización) la APA sumó una guía ética sobre IA en la práctica de la psicología — que aclara no representar política oficial de la APA, aunque se apoya en su Código de Ética. Tres recomendaciones suyas son accionables de inmediato: considerar añadir al consentimiento informado escrito cuándo, cómo y qué tipo de herramientas de IA usas; informar al paciente de su derecho a rehusar ciertas intervenciones apoyadas en IA; y conocer cómo se usan, almacenan o comparten los datos — con una salida clara: dejar de usar la herramienta ante dudas de seguridad. Unas guías arbitradas de salud mental de 2025 en la revista Healthcare añaden un principio simple: los estándares de confidencialidad que te obligan a ti aplican igual a tus herramientas.

Las preguntas para cualquier proveedor — incluidos nosotros

Destilado de todo lo anterior, este es el interrogatorio mínimo antes de que una herramienta toque datos de tus pacientes. Pide las respuestas por escrito: lo que no está por escrito no existe cuando algo falla.

¿Qué datos procesa y cuáles conserva? ¿Audio, transcripciones, notas? ¿Por cuánto tiempo? La minimización del artículo 12 es tu vara de medir.
¿Entrena sus modelos con datos de tus pacientes? Pregunta, no supongas — con ningún proveedor. Si la respuesta es sí: ¿con qué base legal, qué anonimización y qué opción real de negarte?
¿Actúa solo por cuenta tuya? ¿El contrato la define como encargada, limita las finalidades a las tuyas y excluye usos propios?
¿Puedes borrar? ¿Cómo se eliminan los datos de un paciente que retira su autorización, y qué constancia recibes?
¿Quién accede? ¿Qué personal del proveedor ve datos identificables, con qué controles y con qué registro?
¿Qué pasa tras una vulneración? ¿En cuánto tiempo te avisan y con qué detalle? Avisar al paciente «de forma inmediata» es obligación tuya (artículo 19), y sin su aviso no puedes cumplirla.
¿Qué medidas de seguridad documenta? No te conformes con la palabra «cifrado»: pide la documentación y archívala, como sugiere la APA.
¿Dónde queda el humano? ¿Está diseñada para que revises y apruebes cada salida, o para operar sin ti?

Dos advertencias. Ninguna respuesta transfiere tu responsabilidad: el artículo 13 la deja contigo aunque el fallo sea de un tercero. Y la lista aplica completa a gesell.ai: somos un proveedor de IA; haznos estas mismas preguntas y evalúa las respuestas con el mismo rigor que a cualquier otro.

El límite honesto: la IA se equivoca, y la nota firmada es tuya

Resuelto el capítulo de datos, queda el del contenido. Los grandes modelos de lenguaje «alucinan»: una revisión de 2025 en Healthcare Informatics Research los describe generando contenido fluido y verosímil que resulta incorrecto, sin sustento en los datos de origen o directamente fabricado — y advierte que entrenar modelos con datos de pacientes acarrea riesgos de memorización y reidentificación. Un estudio de 2025 en Communications Medicine plantó un detalle clínico falso en las instrucciones y midió cuántas veces los modelos lo repetían o elaboraban: entre el 50% y el 82% de las veces, y la mitigación mediante instrucciones bajó la tasa promedio del 66% al 44% — mejor, pero lejos de cero. Ojo con la lectura: es un escenario adversarial de apoyo a decisiones clínicas, no la tasa de error al redactar notas. La conclusión práctica sí viaja: la mitigación reduce el error sin eliminarlo, así que la revisión humana no es un paso opcional del flujo. Es el flujo.

Y eso tiene traducción normativa concreta: la NOM-004 exige que toda nota del expediente lleve el nombre completo y la firma de quien la elabora. La nota que un sistema redactó y tú firmaste es, legal y éticamente, tu nota — con sus aciertos y sus errores. La guía de la APA de 2025 lo dice igual: la IA debe aumentar la decisión profesional, no sustituirla, y el psicólogo responde por la decisión final. En una frase: la IA redacta borradores; tú revisas, corriges y firmas. Revisar bien un borrador es la misma disciplina que revisar tu propia nota de sesión: sección por sección, contra lo que de verdad pasó.

El consentimiento de tu paciente no es opcional

Queda la pieza que ningún contrato resuelve: tu paciente. Usar IA sobre el contenido de sesiones — audio, transcripción o registro escrito — es tratamiento de datos sensibles, y el artículo 8 no deja margen: consentimiento expreso y por escrito, con firma autógrafa o electrónica, antes de empezar y nunca por defecto. La guía ética de la APA de 2025 sugiere dónde ponerlo: en el consentimiento informado escrito, con cuándo, cómo y qué tipo de herramienta usas, y la opción real de decir que no. Nuestra guía de consentimiento informado desarrolla ese documento y esa conversación; la versión corta: el paciente sabe antes, consiente por escrito y puede cambiar de opinión después.

«Uso una herramienta que me ayuda a redactar mis notas a partir de mi registro de sesión. Antes de usarla contigo te contaré qué procesa, dónde se guarda y cómo pedir que se elimine. Si prefieres que no la use, no la uso, y tu tratamiento no cambia.»

Entonces, ¿es seguro?

Mal planteada, la pregunta no tiene respuesta: «la IA» no es segura ni insegura en bloque. Bien planteada, son tres preguntas con respuesta: ¿sé qué hace esta herramienta con los datos, y está por escrito?, ¿mi paciente consintió expresamente?, ¿reviso yo cada salida antes de que toque el expediente? Con tres síes, la IA puede ocupar un lugar tan defendible como cualquier otra pieza de tu práctica; con un no, el problema no es la IA: es ese hueco. gesell.ai está construido sobre el tercer sí: genera borradores de tus notas en formato SOAP, DAP, BIRP o GIRP a partir de tu registro de sesión y mantiene el expediente de cada paciente estructurado, siempre con tu revisión de por medio: cada borrador lo ajustas y lo apruebas tú, y la nota final es tuya. Los otros dos síes — las respuestas por escrito y el consentimiento de tu paciente — pídenoslos igual que se los pedirías a cualquiera.