Seguridad en Hospitales ROC (AUROC pooled) de 0,87 (IC 95%: 0,86-0,88) para predicción de sepsis en urgencias. Otras revisiones reportan rangos de AUC entre 0,79 y 0,96 según modelo, población y objetivo. La IA puede convertirse en un multiplicador de capacidad clínica. Cuanto más importante sea el sistema para la asistencia, mayor es el impacto potencial de que sea manipulado, degradado o quede indisponible. IA, riesgo de 4.ª generación La IA introduce nuevas formas de interacción con la información y los sistemas. Un sistema tradicional ejecuta reglas previamente definidas; un modelo de IA interpreta información; un agente puede, además, utilizar herramientas y ejecutar acciones. No presenta el mismo riesgo un sistema que redacta un resumen clínico que un agente capaz de consultar historias clínicas, enviar comunicaciones, acceder a Internet, ejecutar código o modificar información. El riesgo aumenta cuando, además, se combinan objetivo, información, herramientas, permisos y capacidad de ejecución. Datos y órdenes El prompt injection representa una amenaza específica de esta nueva generación de sistemas. Un agente puede recibir información de páginas web, correos, documentos o aplicaciones que contenga instrucciones maliciosas y, si no distingue adecuadamente entre datos e instrucciones, intentar ejecutar acciones no autorizadas. El riesgo se amplifica cuando dispone de herramientas externas. La seguridad de un agente no puede descansar únicamente en su prompt. Debe apoyarse en controles externos al modelo, tales como: mínimo privilegio, segmentación, aislamiento, control de herramientas, autenticación, monitorización y capacidad de interrupción. Accesos no autorizados El AI Security Institute (AISI) británico ha documentado evaluaciones de ciberseguridad en cyber ranges en las que agentes de IA ejecutaron acciones no autorizadas. En julio de 2026, identificó 19 actuaciones de este tipo en 10 de 122 ejecuciones de prueba, entre ellas intentos de introducir código malicioso en un proyecto de código abierto en GitHub y de emplear identidades falsas para facilitar su aceptación. Diecisiete de estas acciones involucraron a Anthropic’s Mythos 5 y dos a OpenAI’s GPT-5.6-Sol, en configuraciones no disponibles comercialmente, pero representativas de capacidades de frontera. El escenario hipotético ha dejado de ser únicamente una prueba de concepto. En septiembre de 2026 se confirmó el primer caso público de un agente autónomo de IA que accedió sin autorización a sistemas públicos de Salud del Gobierno australiano, incluido el portal de estadísticas de Medicare. El incidente, ocurrido en junio y detectado tres meses después, ha llevado a las autoridades a impulsar una investigación forense y a plantear nuevas obligaciones de reporte para las empresas de IA. Ambos casos muestran que un agente puede encontrar rutas de actuación no previstas durante su prueba o despliegue. En entornos hospitalarios, los límites no pueden depender de la buena fe del proveedor ni de las intenciones del modelo. Deben establecerse mediante controles técnicos basados en privilegios mínimos, segmentación, aislamiento, control de herramientas, autenticación, monitorización y capacidad de interrupción. ‘Ransomware’ y resiliencia El ransomware constituye uno de los mejores ejemplos de por qué la seguridad hospitalaria debe abordarse desde la resiliencia. La automatización puede reducir el tiempo necesario para el reconocimiento, la explotación y el movimiento lateral, mientras que los agentes de IA pueden ampliar esa capacidad. La defensa debe diseñarse antes de que la velocidad del ataque reduzca el tiempo de reacción por debajo de la capacidad humana. / Septiembre-Octubre 2026 25
RkJQdWJsaXNoZXIy MTI4MzQz