Basándose en sus recientes directrices para el uso y la gobernanza de la IA clínica por parte de las organizaciones, la Asociación Médica Estadounidense proporcionó el jueves un desglose en profundidad de cómo cree que las diferentes partes deberían ser responsabilizadas por las decisiones, acciones y fallas relacionadas con la tecnología.
El último marco, del Centro para la Salud Digital y la IA de la AMA, aborda cuestiones de responsabilidad que, según el grupo, actualmente no tienen respuesta en los marcos de responsabilidad existentes. Esas estructuras harían a los médicos "responsables de los daños que no pueden prevenirse razonablemente, pero los pacientes pueden tener dificultades para buscar remedios cuando la IA causa daño", dijo.
Otros problemas clave con los marcos de responsabilidad existentes, dice la AMA, son la ambigüedad cuando la responsabilidad del producto se aplica a la IA; cómo las cláusulas contractuales y las exenciones de responsabilidad de los desarrolladores desvían la responsabilidad del control de riesgos; Y las organizaciones de atención médica implementadoras tienen varias responsabilidades relacionadas con la IA, como pruebas locales o monitoreo de resultados.
La AMA dijo que promoverá un marco de responsabilidad clínica de la IA que "reconoce que múltiples partes pueden ser consideradas responsables por el uso de la IA cuando algo sale mal" y luego alinea esa responsabilidad en función de la capacidad de una parte para prevenir daños. En áreas donde el control es la responsabilidad compartida se amplía, pero no se vuelve intercambiable y las responsabilidades de ninguna de las partes desaparecen porque la otra parte también asume algunas”, AMA. Brevemente escrito explicando su idea..
En cuanto a los médicos que prescriben la AMA, el marco de responsabilidad exige a los médicos "ser responsables del juicio clínico que pueden ejercer de manera significativa en función del uso previsto del sistema, las limitaciones conocidas y la información disponible en el momento de la atención".
El grupo también dijo que la supervisión médica "no sustituye la evidencia adecuada, el diseño apropiado del sistema o las condiciones necesarias para que la revisión clínica sea significativa". La AMA dijo que los médicos deberían tener la autoridad para rechazar un sistema de IA que no esté probado o cuya "validación clínica, uso o lugar en el estándar de atención sea incierto" sin penalización por parte de su organización.
"Los pacientes deben tener un recurso significativo cuando la IA clínica causa daño, y los médicos deben poder utilizar esta tecnología con la confianza de que refleja lo que pueden saber y controlar razonablemente", dijo el presidente de la AMA, Willie Underwood III, MD, en un comunicado sobre el marco de responsabilidad. "A medida que la IA asume más funciones clínicas, los desarrolladores, las organizaciones de atención médica y los médicos tienen responsabilidades importantes. Necesitamos expectativas claras para proteger a los pacientes, respaldar el juicio clínico sólido y garantizar que la responsabilidad recaiga en aquellos mejor posicionados para prevenir daños".
El marco de responsabilidad desglosa en detalle un aspecto del marco más amplio de gobernanza de la IA clínica que la AMA y su centro dieron a conocer a principios de este mes. Esos principios y áreas de enfoque guían cómo la AMA trabaja con proveedores y partes interesadas mientras aborda cuestiones como las licencias y la regulación de la tecnología de rápido movimiento.
"Estamos ansiosos por responder estas preguntas mediante prueba y error en la atención al paciente", dijo el director ejecutivo de AMA, John White, MD, a Fierce Healthcare a principios de este mes sobre el esfuerzo. "El nuevo marco de la AMA establece nuestra ambiciosa agenda para abordar estas preguntas… Nuestro trabajo con médicos, pacientes, desarrolladores de tecnología y formuladores de políticas informará cómo se puede gestionar el acceso basado en evidencia, el seguimiento del riesgo y la rendición de cuentas".