La industria de la salud ha estado hablando de IA productiva durante los últimos años. La gente discutió casos de uso, exploró copilotos, probó resúmenes de documentos y exploró ganancias de productividad. La próxima conversación será diferente.
Estamos entrando en la era de los agentes de IA.
Los anuncios recientes de Epic sobre su plataforma Agent Factory y la ampliación de su cartera de asistentes con tecnología de inteligencia artificial indican un cambio significativo. En lugar de limitarse a generar contenido o responder preguntas, los agentes de IA están empezando a iniciar acciones. La visión de Epic incluye agentes que pueden razonar a través de tareas, acceder a múltiples sistemas y ejecutar acciones de acuerdo con patrones de gobernanza definidos.
Es emocionante. También es el centro de la seguridad y la gobernanza.
Ya no es una cuestión de si la IA puede crear una respuesta. La pregunta es: ¿estamos preparados para una IA que funcione?
De copilotos a compañeros
La IA generativa tradicional funciona principalmente como motor de recomendación. El usuario hace una pregunta, recibe una respuesta y es, en última instancia, responsable de la decisión.
La IA agente busca cambiar ese modelo.
Un agente de IA puede:
- Revisar información en múltiples aplicaciones
- Habilitar flujos de trabajo
- Programar citas
- Tramitar autorizaciones previas
- Proyectos de apelación
- Activar notificaciones
- Actualizar registros según reglas predefinidas
La plataforma Agent Factory de Epic está diseñada para permitir a las organizaciones de atención médica crear y administrar este tipo de agentes en flujos de trabajo operativos.
Sobre el papel, los beneficios son significativos. La reducción de la carga administrativa, un servicio al paciente más rápido, una mayor eficiencia de los médicos y procesos operativos optimizados son resultados convincentes. Según EpicLos sistemas de salud que utilizan flujos de trabajo habilitados por IA a través de Epic ya han informado resultados mensurables, incluida una reducción del tiempo de documentación, menos denegaciones y mejores experiencias de los pacientes.
Sin embargo, cada acción que realiza un agente introduce nuevas consideraciones de seguridad.
Los modelos de seguridad construidos en el pasado fueron diseñados para humanos
La mayoría de los programas de seguridad sanitaria se basan en una premisa relativamente simple: autenticar al usuario, autenticar el acceso, monitorear la actividad y responder a las infracciones.
Ese modelo se vuelve más complejo cuando el "usuario" es un agente de IA.
Considere un agente de autorización previa que acceda al EHR, al portal del pagador, al repositorio de documentos, al sistema de correo electrónico y a la aplicación de programación.
Preguntas que los CIO y CISO deberían hacerse:
- ¿Qué permisos tiene el agente?
- ¿Quién aprueba esos permisos?
- ¿Puede un agente llamar a otro agente?
- ¿Cómo auditamos cada acción que realiza un agente?
- ¿Qué pasa si el agente toma la decisión equivocada?
- ¿Cómo terminamos inmediatamente la actividad de un agente si se detecta un riesgo?
Estas no son preocupaciones sobre el estado futuro. Ésas son cuestiones de la gobernanza actual.
El desafío es que los agentes de IA a menudo requieren un acceso más amplio que la automatización de software tradicional porque deben razonar dentro de los sistemas y adaptarse dinámicamente a las condiciones cambiantes.
Cuanto más capaz sea el agente, más importante será el régimen.
La seguridad no es una ocurrencia tardía en la era de la IA de agentes
A medida que los agentes de IA evolucionan de asistentes a actores autónomos, los líderes tecnológicos deben repensar los modelos de gobernanza tradicionales. La conversación ya no se centra únicamente en lo que puede hacer la IA. Debería centrarse igualmente en lo que se le debería permitir hacer a la IA.
Aquí es donde muchas organizaciones comienzan a unirse en torno a un principio común: la innovación sin gobernanza genera riesgo.
En toda la industria, las empresas de tecnología líderes están enfatizando la IA basada en políticas, la supervisión humana, la interpretabilidad y la toma de decisiones auditable como requisitos fundamentales para la IA empresarial. Por ejemplo, Marco de IA del agente de Kindle Construido en torno al concepto de orquestar de forma segura los agentes de IA dentro de límites de gobernanza definidos en lugar de permitir una autonomía sin restricciones. El marco enfatiza la implementación de políticas, la gobernanza centrada en las personas, los flujos de trabajo auditables y la confianza a escala empresarial.
Desde mi perspectiva como CIO, esta es la conversación perfecta para cualquiera que esté considerando la IA como agente.
Las organizaciones de atención médica operan en uno de los entornos más regulados y de misión crítica de cualquier industria. Los datos de los pacientes, el apoyo a las decisiones clínicas, las transacciones financieras y los flujos de trabajo operativos requieren responsabilidad en cada paso. Como los agentes de IA son capaces de iniciar acciones, hacer recomendaciones y orquestar procesos complejos, la gobernanza ya no puede verse como un ejercicio de cumplimiento. Este será un requisito previo para la adopción.
Las organizaciones que obtienen el mayor valor de la IA de los agentes establecen marcos de confianza desde el principio, con la seguridad, la gestión de identidades, la supervisión y la responsabilidad humana integradas en el proceso de diseño desde el principio.
En la Parte 2, cubriré qué implementar: privilegios mínimos, identidades de agentes y monitoreo humano.
conectemos
Hable con los líderes de TI de atención médica sobre la preparación de la IA para su sistema de salud. Le ayudamos a planificar el régimen antes de que los agentes entren en funcionamiento.
La atención médica solo funciona con humanos al tanto.
Habla con nuestro equipo