Cómo navegar la revolución de la inteligencia artificial: Guía práctica para abogados de salud

En varias ocasiones ya hemos hablado de cómo el sector de la salud está atravesando una transformación impulsada por la inteligencia artificial (IA). Desde herramientas que apoyan las decisiones clínicas y diagnósticos, hasta asistencia en el ‘triage’ de pacientes, gestión de reclamaciones y análisis predictivos, por lo que no hay duda de que la IA ofrece beneficios significativos en velocidad, precisión y eficiencia, permitiendo un cuidado médico más eficiente y personalizado.

Aunque la data puede ser conflictiva, al menos al 2024, data confiable (Deloitte 2024 Health Care Outlook) advierte que al menos el 80 % de los hospitales en Estados Unidos usan IA para mejorar la atención al paciente y la eficiencia del flujo de trabajo. Además, una encuesta de la Asociación Médica Estadounidense indica que el 66 % de los médicos informaron haber usado IA para el cuidado de la salud en 2024, lo que marca un aumento del 78 % con respecto a 2023.

Sin embargo, esta evolución también introduce nuevos riesgos: sesgos algorítmicos, e incertidumbres sobre la responsabilidad ante errores sistémicos.

Paralelamente, la reciente estrategia del gobierno de Estados Unidos, liderada por las órdenes ejecutivas del presidente Donald Trump, anunciadas el 25 de julio de 2025, nos aproximan a establecer pilares claros para acelerar la innovación en IA, construir infraestructura y liderar en diplomacia y seguridad internacional sobre IA.

Como abogados especializados en salud, es esencial comprender estos desarrollos para asesorar eficazmente a los clientes y ayudarlos a manejar y monitorear los riesgos regulatorios, éticos y legales inherentes.

Contexto actual y tendencias en I A en salud

El 24 de julio de 2025, la administración Trump presentó su estrategia de IA, que se estructura en tres pilares:

• Acelerar la innovación en IA
• Construir infraestructura estadounidense de IA
• Liderar en diplomacia y seguridad internacional en IA

Estos pilares buscan consolidar el liderazgo global de Estados Unidos en esta tecnología y establecer un marco para su desarrollo responsable. En otro artículo ya habíamos discutido lo que fue la era del presidente Joe Biden sobre el tema. Ahora la estrategia busca impulsar la construcción de centros de datos, exportar tecnología y promover el desarrollo de la IA posicionando a Estados Unidos como potencia en IA a nivel mundial.

A nivel sectorial, la salud digital y la IA están en el centro de esta transformación. La Administración de Drogas y Alimentos (FDA, por sus siglas en inglés) ha señalado que el alcance de la salud digital incluye mHealth, tecnología de la información, dispositivos portátiles, telesalud, telemedicina y medicina personalizada. Se estima que el mercado global de salud digital, valorado en $260.9 mil millones en 2023, alcanzará más de $1.9 billones para 2033.

Riesgos y desafíos para el sector salud

El avance de la IA trae beneficios claros, pero también riesgos sustantivos que los abogados deben tener en cuenta para asesorar a sus clientes:

• Sesgos algorítmicos: Los modelos pueden reflejar prejuicios existentes en los datos de entrenamiento, afectando decisiones clínicas y administrativas.
• Incertidumbre sobre  responsabilidad: Muchas decisiones automatizadas no son transparentes, dificultando la atribución de responsabilidad en caso de errores.
• Errores sistémicos: Fallos en sistemas automatizados pueden tener consecuencias graves para pacientes y proveedores.
• Cumplimiento regulatorio: Las regulaciones evolucionan lentamente frente a la rápida innovación, generando incertidumbre legal.
• Adopción generalizada: La mayoría de los grandes hospitales en Estados Unidos ya utilizan IA para fines clínicos, pero pocos revisan los puntos de potencial exposición legal con personas adiestradas para el manejo de esos riesgos. La firma multinacional Willis Towers Watson, en su documento técnico publicado el 21 de julio titulado ‘AI in Healthcare: Who pays when AI fails?’, advierte sobre la importancia de evaluar, cuantificar y mitigar los riesgos relacionados con la IA.

Los autores señalan que, aunque la mayor utilización de IA probablemente amplificará las exposiciones existentes, especialmente en ciberseguridad, también abrirá nuevas vulnerabilidades. Algunas de éstas pueden estar cubiertas por pólizas de seguros existentes, y otras no. La estrategia más efectiva para gestionar estos riesgos en el sector salud consiste en aplicar metodologías probadas que evalúen y mitiguen estos riesgos de forma sistemática. Este enfoque proactivo en la gestión de riesgos y seguros es crucial para evitar responsabilidades imprevistas y garantizar una adopción segura y responsable de la IA en entornos clínicos y administrativos.

Preguntas clave para la evaluación de tecnologías de IA en salud

Antes de adquirir software de IA, es fundamental que proveedores de salud formulen preguntas claves para garantizar que estas tecnologías sean seguras y adecuadas para su organización y que se adapten a su cultura organizacional. A continuación, presento una lista de preguntas que se le debe recomendar a los clientes hacer, elaboradas con el apoyo de especialistas en inteligencia artificial:

• ¿Qué problema clínico resuelve esta herramienta de IA?
• ¿Qué evidencia respalda la seguridad, precisión y eficacia de la tecnología?
• ¿Cómo se integrará en los flujos de trabajo clínicos existentes?
• ¿Qué problema clínico resuelve esta herramienta de IA?
• ¿Resultará la IA en un mejor análisis de datos e ‘insights’? Esto puede apoyar decisiones basadas en evidencia.
• ¿Puede ayudar la IA al diagnóstico, en particular los algoritmos de aprendizaje automático, para diagnosticar enfermedades de una manera más precisa analizando imágenes médicas, resultados de laboratorio e historial del paciente?
• ¿Contribuirá a la medicina personalizada? La IA puede adaptar los planes de tratamiento según las características individuales del paciente, genética e historia clínica, potencialmente logrando intervenciones más efectivas y personalizadas.
• ¿Puede mejorar el compromiso del paciente? Las herramientas impulsadas por IA mejoran la participación del paciente brindando recomendaciones de salud personalizadas, recordatorios y asistentes virtuales.
• ¿Generará problemas de privacidad y ciberseguridad? Es importante determinar qué medidas de cifrado y autenticación se implementan para proteger la información sensible y si la solución cumple con HIPAA.
• ¿Habrá supervisión humana? Es recomendable preguntar si un humano evalúa las comunicaciones generadas por IA. La supervisión humana es crucial para identificar sesgos, inexactitudes y riesgos que los sistemas automatizados puedan pasar por alto.
• ¿Quién será responsable de la privacidad de los datos? Es importante determinar si el proveedor o la organización de salud es responsable de la protección de datos.
• ¿Son los algoritmos sesgados? Se debe asegurar que las herramientas usen datos adecuados. Comprender los datos extraídos de los algoritmos ayudará a mitigar sesgos y garantizar resultados equitativos para poblaciones diversas.
• ¿Existe riesgo de errores o diagnósticos incorrectos? La dependencia excesiva en IA para diagnósticos puede resultar en errores o tratamientos inadecuados si los algoritmos no están validados y monitoreados continuamente.
• ¿Cuándo se utiliza realmente IA y cuándo otros tipos de automatización? La transparencia sobre qué parte del proceso es IA es un aspecto ético importante y una preocupación que los abogados deben conocer.
• ¿Los usuarios saben que interactúan con IA? El sistema no debe engañar a los usuarios. En entornos hospitalarios y oficinas privadas, puede ser recomendable obtener autorización escrita del paciente para usar IA en la consulta.
• ¿Qué pasos de mantenimiento se están implementando?, ¿Cómo será la visión a largo plazo sobre costos de mantenimiento?, ¿Cómo se ve ese proceso?
• ¿Cómo se gobernará y mantendrá el uso de datos durante y después de la implementación? Se deben considerar flujos de datos, acuerdos con terceros BAA, seguridad, auditorías y cumplimiento con regulaciones emergentes.

La doctora Crystal Clack, MS, RHIA, CCS, CDIP, consultora para Microsoft, enfatiza que, siguiendo el juramento hipocrático, todo esfuerzo debe dirigirse a garantizar que la IA no cause daño. La idea es que, haciendo las preguntas correctas, los profesionales puedan tomar decisiones informadas y protegerse contra posibles responsabilidades legales o de seguridad. Antes de comprar e implementar una solución, recomienda a los profesionales hacerse preguntas adicionales: 

• ¿Cómo funciona el proceso de implementación y cuál es el plazo estimado?
• ¿Qué recursos, personal e infraestructura tecnológica, se necesitan?
• ¿Existen mejores prácticas para asegurar una implementación exitosa?
• ¿Cómo se integrará con los sistemas existentes y qué soporte se ofrece para migración y capacitación?
• ¿Qué mecanismos de monitoreo post-implementación existen y con qué frecuencia se evalúa el rendimiento?
• ¿Qué medidas de seguridad protegen los datos durante y después de la implementación?

Este conjunto de preguntas ayuda a definir los límites de gobernanza, a prevenir riesgos y a garantizar que la adopción de IA sea ética, segura y eficiente.

Recomendaciones prácticas para abogados de salud

Para asesorar eficazmente a sus clientes en este entorno en rápida evolución, los abogados deben implementar acciones concretas:

• Mantenerse informado y actualizado: Monitorear cambios regulatorios, incluyendo las directrices de la FDA, leyes de privacidad (HIPAA, GDPR) y las órdenes ejecutivas del gobierno federal y estatal. Seguir casos judiciales y regulatorios relacionados con responsabilidad, sesgos y privacidad en IA.
• Implementar políticas y procedimientos claros: Desarrollar y revisar regularmente políticas sobre uso responsable de IA. Incluir protocolos para auditorías, detección de sesgos y gestión de errores. Evaluar si se establecerán procedimientos de consentimiento informado, explicando a los pacientes el papel y los riesgos de la IA. La transparencia en el uso de IA, es decir, saber cuándo una herramienta está usando IA frente a otros tipos de automatización. Es un aspecto ético fundamental que los abogados deben tener en cuenta en sus recomendaciones.
• Negociar contratos y cláusulas clave con proveedores de IA: Asegurar cláusulas que contemplen protección de datos, propiedad intelectual, responsabilidades por errores y cumplimiento regulatorio. Definir responsabilidades en caso de fallas o daños.
• Capacitar y certificar a los profesionales de salud: Asesorar en programas de capacitación obligatorios. Vigilar requisitos futuros de certificación o formación especializada por la Junta de Licenciamiento de Puerto Rico.
• Monitorear y gestionar riesgos legales y éticos: Recomendar la creación de comités internos de gobernanza de IA. Documentar el juicio clínico en decisiones asistidas por IA. Elaborar planes correctivos ante errores o fallos del sistema.
• Vigilar la jurisprudencia y casos regulatorios: Mantenerse informado sobre litigios relacionados con responsabilidad, privacidad y sesgos en IA. Adaptar políticas en función de las decisiones judiciales.

Conclusión

La revolución de la IA en salud ofrece oportunidades sin precedentes, pero también exige una evaluación cuidadosa de riesgos legales, éticos y regulatorios. Los abogados que asesoran en salud deben estar al día con las estrategias gubernamentales, las nuevas regulaciones y la jurisprudencia para proteger a sus clientes y promover una adopción responsable de estas tecnologías.

La clave para el éxito reside en la preparación, la vigilancia constante a través de los comités y estructuras de manejo de riesgo y en la implementación de políticas sólidas que integren innovación, ética y cumplimiento normativo.