Asociación Médica Estadounidense (AMA) desplegado Un marco de gobernanza para soluciones de inteligencia artificial de agentes que realizan tareas clínicas.
La guía, creada por el Centro de Salud Digital e Inteligencia Artificial de la organización, tiene como objetivo garantizar que las tecnologías mejoren la atención al mismo tiempo que alinean la autoridad clínica y la responsabilidad. La empresa utiliza el término "".Mayor inteligencia”mientras se refiere a la IA para enfatizar su papel de apoyo en la medicina.
Un tema general del marco es que la autoridad clínica "debe ganarse mediante evidencia y mantenerse mediante desempeño demostrado". Señala que la autoridad y la supervisión evolucionarán junto con la evidencia, el desempeño, el riesgo y el cambio tecnológico.
Con base en esto, la AMA dice que su trabajo se centrará en definir el papel clínico de un sistema de IA, validar su desempeño y salvaguardias, determinar los límites apropiados a su autoridad y establecer la responsabilidad por su uso, incluidos los riesgos y resultados.
La organización utiliza esas áreas de enfoque para guiar cómo trabaja con proveedores y partes interesadas en materia de responsabilidad, licencias y enfoques regulatorios.
El director ejecutivo de AMA, John White, MD, dijo en una declaración enviada por correo electrónico a Fierce Healthcare que la IA está "avanzando hacia asumir funciones clínicas cada vez más importantes", lo que "plantea preguntas urgentes sobre la autoridad clínica, la supervisión y la responsabilidad".
"Estamos ansiosos por responder estas preguntas mediante prueba y error en la atención al paciente", afirmó White. "El nuevo marco de la AMA establece nuestra ambiciosa agenda para abordar estas cuestiones, incluidas las cuestiones críticas de responsabilidad, licencia y regulación. Informará nuestro trabajo con médicos, pacientes, desarrolladores de tecnología y formuladores de políticas para aprovechar la evidencia, cómo la supervisión debe evolucionar con el riesgo y cómo se debe gestionar la responsabilidad".
White continuó: "El momento de hacer este trabajo es ahora, mientras todavía tenemos la oportunidad de dar forma a cómo estas tecnologías entrarán en la práctica clínica".
Agent AI Framework es el último esfuerzo de la AMA para dar forma a cómo se utiliza y gestiona la IA en la atención sanitaria.
En mayo, la compañía lanzó un marco integral para proteger a los médicos de deepfakes no autorizados impulsados por IA. Su objetivo es cerrar las lagunas legales y, al mismo tiempo, modernizar la protección de la identidad de los médicos.
El marco se guía por siete principios políticos: reconocimiento de los médicos como un derecho protegido; prohibición del fraude médico fraudulento; Información, Elección y Retiro del Consentimiento; transparencia y etiquetado obligatorios; Responsabilidad compartida para prevenir la suplantación de identidad; Aplicación y soluciones prácticas y reducción de la carga administrativa.
En abril, la organización pidió a los legisladores que fortalecieran las salvaguardias contra los chatbots de IA en medio de su creciente uso para servicios de salud mental. Las salvaguardas recomendadas incluyen estándares más estrictos de protección de datos, estándares de transparencia y sanciones a las instituciones por prácticas fraudulentas.