Calce: Lcdo. Alejandro Mercado Martínez, Triple-S Management Corporation.
La tecnología está transformando la prestación de servicios de salud. Aplicaciones móviles, plataformas digitales y sistemas basados en inteligencia artificial se han convertido en herramientas clave para los proveedores, ayudándolos a mejorar la eficiencia operativa, optimizar recursos y ofrecer una atención más ágil, precisa y centrada en el paciente.
Pero, es fundamental garantizar que la información de los pacientes sea precisa, esté actualizada y en cumplimiento de regulaciones, aún algunas pendientes de definir. “Han propuesto el ‘algorhythm change protocol’ para tratar de estructurar los cambios a la tecnología y el riesgo que pudiera tener a los pacientes”, planteó el licenciado Alejandro Mercado, experto en descubrimiento electrónico (e-Discovery) y leyes de privacidad.
Durante la Séptima Conferencia Anual sobre Derecho de la Salud, que organizó la Asociación de Hospitales de Puerto Rico (AHPR) a principios de agosto, Mercado se refirió a los planes detallados que describen procedimientos y análisis de datos que usan fabricantes para implementar y controlar cambios en un algoritmo de software, como dispositivo médico, para asegurar que sea seguro y eficaz tras la alteración.
Advirtió que la nueva tecnología debe ser ajustada a las características de la población local de pacientes. Además, señaló que se debe velar por que la data no refleje sesgos algorítmicos o resultados erróneos por sesgos humanos.
“Ya estamos viendo situaciones donde no necesariamente se va a representar o reflejar lo que es la población de Puerto Rico. Una herramienta adoptada en Estados Unidos para una población del estado de la Florida no va a reflejar la situación de los asegurados de Puerto Rico”, sostuvo, al reiterar que podría haber una correlación equivocada.
Mercado señaló que no se ha definido cuál será el enfoque del gobierno federal con relación a este tema. Recordó que en octubre de 2023 el entonces presidente de Estados Unidos, Joe Biden, aprobó una orden ejecutiva ‘Sobre el Desarrollo y Uso Seguro, Protegido y Confiable de la Inteligencia Artificial’. La orden ejecutiva 14110 fue revocada en enero de este año.
“Estamos buscando un esquema que indique dónde se encuentra el gobierno federal en este tema”, dijo al advertir que el fin del aparato federal es desarrollar una tecnología para beneficio de Estados Unidos.
Comentó que los Centros de Servicios Medicare y Medicaid (CMS) han informado que, de emitirse una determinación sobre información, lo más importante es que haya una persona involucrada en el proceso para asegurar que cualquier terminación de cubierta u otro asunto se realice a través de un ser humano que lo valide para asegurar que se incluyen y toman en consideración las características de esa persona.
Por otra parte, Mercado mencionó el ‘National Artificial Intelligente Initiative Act 2020’, ley que coordina las inversiones federales y facilita nuevas asociaciones público-privadas en investigación, estándares y educación en inteligencia artificial para garantizar que Estados Unidos lidere a nivel mundial su desarrollo y uso responsable. También mencionó que la Asociación Médica Americana ha advertido que este tipo de aparatos pudieran descansar en opiniones médicas que no necesariamente reflejan la realidad.
Mercado también llamó la atención a los “modelos ópacos”. La inteligencia artificial opaca, también conocida como ‘de caja negra’ son sistemas que resuelven problemas y toman decisiones en función de datos y operaciones ocultos al público general. Muchos funcionan con algoritmos de aprendizaje automático entrenados por los desarrolladores de software. Por ejemplo, los asistentes de voz, como Alexa y Siri.
“Está el que implementa, versus el que desarrolla la herramienta. No tienen las mismas responsabilidades”, dijo al advertir que, bajo este sistema, es importante que la operación corra a base de sus necesidades.
Además, señaló que la información debe tener fundamentos empíricos. “Esa data que nos están ofreciendo tiene que reflejar lo que para nosotros es la información y en la que descansamos diariamente. Que cumpla con los principios de objetividad y cumplimiento con las leyes”, expresó.
La Agencia para la Investigación y la Calidad del Cuidado de la Salud (AHRQ) ha implementado unos conceptos guías, dijo y señaló que en Puerto Rico hay varios proyectos en discusión. “Lo único ahora mismo es la Regla 108 de Seguridad Cibernética del Comisionado de Seguros. En un pequeño párrafo dice que, si descansa en inteligencia artificial, se sigan estos parámetros”, sostuvo.
Como recomendación al adquirir una herramienta de este tipo, Mercado urgió a indagar el tipo de inteligencia artificial que le ofrecen, así como el impacto y posible alcance de su operación. También sugirió velar el impacto sobre la operación que tendrían sus fallas. Además, cuánto tiempo lleva en el mercado y su historial. Destacó que se debe considerar la data que están aplicando y las tecnologías.
Cambios en consideración, desarrollo, soporte y mantenimiento fueron otros aspectos que mencionó se deben tomar en cuenta durante esta evaluación. “Es difícil poner un precio al riesgo, algunos están esperando y otros argumentando qué las pólizas actuales cubren. Lo importante es tomar esto en consideración y hablar con su ‘broker’ para ver cómo las pólizas actuales les cubre o excluye”, dijo.
Advirtió que urge conocer cuál es el plan de acción del gobierno federal al respecto y señaló el ‘White House 2025 AI Action Plan’. Durante la presentación de este plan en julio se informó que identifica más de 90 acciones de política federal en tres pilares: acelerar la innovación, construir infraestructura de IA estadounidense y liderar la diplomacia y la seguridad internacionales. Mercado explicó que lo que se busca es que, cuando se entrene esa herramienta, sea con data objetiva y esté apoyada científicamente.
“Creo que son cosas positivas. Vamos a ver cómo acaban”, concluyó Mercado.
