Cómo se ensaya un asistente de IA en un hospital

Datos de pacientes, productos sanitarios, Esquema Nacional de Seguridad, castellano y catalán, y el tiempo que lleva a sus clínicos.


Cómo se ensaya un asistente de IA en un hospital. Antes de que un asistente responda a sus profesionales, lo pruebo con casos de su hospital y frente a criterios que el hospital firma antes de empezar. El informe fechado deja constancia de cada error y de su gravedad.

Lo que puede salir mal

Un ejemplo inventado de cómo puede fallar: Una enfermera de quirófano consulta la pauta de profilaxis antibiótica para una artroplastia de cadera. El asistente responde con la pauta del protocolo interno de 2019 y lo cita como fuente. El protocolo se revisó en 2023 y la pauta cambió. La respuesta cita un documento real del hospital, así que nadie la cuestiona, y si llega al paciente es un incidente de seguridad. Los errores así, graves y difíciles de detectar, son los primeros que busca el ensayo.

Preguntas que el ensayo incluiría:

Los casos se preparan con datos seudonimizados. Los datos de salud son una categoría especial del artículo 9 del RGPD, y nada sale de su entorno sin autorización escrita. El ensayo puede ejecutarse dentro del entorno del hospital, con sus controles y sus usuarios, de modo que se apoya en las medidas de seguridad que el hospital ya aplica, incluidas las del Esquema Nacional de Seguridad (ENS) si es su caso.

El ensayo le da pruebas de cómo se comporta el sistema con sus casos. Le indico cómo encajan en su evaluación de la conformidad según el Reglamento (UE) 2017/745 y en el trabajo de su organismo notificado.

El ensayo puede hacerse en las dos lenguas con los mismos casos, y el informe compara los resultados. El ensayo de aceptación en ambas cuesta 6.900 € más IVA. Validar unos 50 casos con su respuesta correcta suele llevar entre 6 y 10 horas de un profesional con experiencia.

Está escrito para que lo lea sin jerga un comité de calidad, de seguridad del paciente o de ética asistencial, con los criterios, los resultados, ejemplos de cada fallo y los límites del ensayo.

Qué supone la Ley de IA

Un asistente que busca y cita documentos internos, sin una finalidad médica propia, no figura en el anexo III. Si su finalidad prevista es médica, por ejemplo apoyar decisiones de diagnóstico o de tratamiento, puede ser un producto sanitario del Reglamento (UE) 2017/745. Si además su evaluación de la conformidad requiere un organismo notificado, es de alto riesgo (artículo 6, apartado 1, y anexo I), con requisitos aplicables desde el 2 de agosto de 2028. Aparte, el anexo III, punto 5, letra d, incluye desde el 2 de diciembre de 2027 los sistemas de triaje de pacientes en la atención sanitaria de urgencia.

En cualquier caso, si el asistente conversa con personas, deben saber que hablan con una IA, salvo que sea evidente (artículo 50, desde el 2 de agosto de 2026). Y quien lo desarrolla o lo usa en su organización debe tomar medidas que apoyen la alfabetización en IA del personal que trabaja con él (artículo 4). Si un sistema es de alto riesgo es una cuestión jurídica que valora su asesor. Yo no lo califico; el ensayo le da pruebas en los dos casos.

Un hospital público puede encargar el ensayo como contrato menor de servicios: sus 5.500 € sin IVA quedan por debajo del límite de 15.000 € del artículo 118 de la Ley 9/2017.