Entrevista a Claudia Madies, experta en Derecho Sanitario, Bioderecho y Sistemas de Salud.
La irrupción de la inteligencia artificial y las nuevas tecnologías en las áreas de salud plantea nuevos desafíos para profesionales y pacientes. En este contexto, la regulación del uso de estas herramientas se vuelve un debate cada vez más urgente.
Ethica dialogó sobre el tema con la Dra. Claudia Viviana Madies, quien es abogada; especializada en Derecho Sanitario, Bioderecho y Sistemas de Salud; magíster en Sistemas de Salud y Seguridad Social por la Universidad ISALUD, y en Bioética y Derecho por la Universidad de Barcelona. Actualmente, trabaja junto al Consejo en una propuesta para regular el uso de la inteligencia artificial en la actividad médica.
En este diálogo, analiza los desafíos que plantea la incorporación de la IA al sistema de salud y la necesidad de establecer reglas claras sobre la responsabilidad de los distintos actores que intervienen en el ecosistema digital.
¿A quién corresponde la gobernanza en salud en el entorno digital?
El ejercicio profesional, dentro del ecosistema de entornos digitales, con la irrupción de la IA y las nuevas tecnologías, pasa de ser una relación bilateral a un acto mucho más complejo, donde intervienen múltiples actores, como el desarrollador o los administradores de las plataformas, así como profesionales independientes, como los ingenieros, que toman decisiones y definen algoritmos que no son determinados por los profesionales de la salud. Entonces, no sólo se complejiza esa relación, sino que se genera una caja negra, que es todo aquello que no se ve sobre estos desarrollos tecnológicos. En el sector salud, los profesionales quedan, junto con los pacientes, bastante vulnerables, porque no saben cuáles son los criterios por los cuales se hacen estos desarrollos.
Los profesionales de la salud, en especial los médicos, firman y asumen responsabilidades muy directas. En cambio, el paciente está muy ajeno a todo este proceso. El sector salud puede tener alguna gobernabilidad cuando contrata una plataforma, si la quiere usar, pero todavía no hay suficiente divulgación del riesgo al que se exponen los profesionales y los pacientes con estos desarrollos y hace falta una regulación para prevenirlos. Tiene que haber un sistema, dentro de ese ecosistema, que defina los mecanismos para prevenir esos desvíos. Para eso hace falta regulación. En el sector bancario, por ejemplo, uno viaja a cualquier país y puede hacer extracciones, pagar y, en general, acceder a sus datos. Eso no pasa en salud. No nos llevamos nuestros datos a otro país y no tenemos definidas cuáles son las responsabilidades.
Los principales interesados en avanzar con este tema son los profesionales de la salud, que son tan vulnerables como los pacientes, porque para el paciente la responsabilidad la asume su médico. El paciente no entiende que atrás hay otros desarrollos en los cuales el profesional no es responsable. Ese deslinde de responsabilidades hay que atenderlo para que todos estén protegidos y para que los desarrolladores, ingenieros, financiadores y administradores de esas plataformas también asuman las responsabilidades que les caben en la gestión de salud. Otro tema que muestra la fragilidad de los sistemas son los hackeos, por ejemplo, recientemente, se dio esta situación con los laboratorios de análisis clínicos. La gente no podía acceder a sus estudios clínicos previos porque estaban hackeados los sistemas.
¿Quiénes hackean los sistemas?
Ciberdelincuentes.
¿Para extorsionar a los dueños de los laboratorios?
Sí. Como la atención sanitaria es un continuo, la gente se queda sin la herramienta para su prestación médica, con lo cual el daño es inmediato. No es sólo el uso del dato, es la falta de acceso, porque se paran todos los sistemas y uno no puede disponer de sus antecedentes. Este accionar delictivo tendría que estar tipificado claramente, con agravantes. Salud necesita trabajar estos temas en profundidad y rápido.
¿La ley de protección de datos personales no alcanza?
No, porque la ley de protección de datos personales es siempre dentro del marco lícito. Es decir, pauta cómo se ceden y cómo se autoriza el uso de datos, pero estamos hablando ya de un delito que requiere una ley penal más dura para estos casos. La ley de protección de datos habla de que los datos de salud son sensibles, pero una regulación general no alcanza. Hace falta ser más específico y también generar mecanismos para que la gente pueda disponer de esa información. Y cuando uno administra plataformas también. ¿Cuáles son los seguros en esas plataformas para tener la ciberseguridad necesaria? Recién ahora se empieza a hablar de eso.
Hay quienes dicen que nunca hay que ser ni el primero ni el último. Y algunos se preguntan, ¿no es demasiado pronto para regular el uso de la inteligencia artificial en el acto médico, teniendo en cuenta que esto avanza y la aceleración tecnológica es feroz?
Lo que pasa es que ya es tarde, no es que es muy pronto. Tenemos metida la inteligencia artificial en nuestras casas, en nuestros teléfonos. Nuestros hijos le preguntan a la IA cómo se trata una enfermedad. Nosotros somos capaces de cometer esa imprudencia sin estar seguros de que atrás hay un médico o una plataforma debidamente controlada. Como pacientes, podemos pecar de consultar a la IA y validar lo que dice sin que haya un profesional atrás. Hay que explicar los riesgos que corren a los profesionales y a los pacientes que operan con la IA. Los riesgos en el mundo están más o menos analizados. Hay directrices, hay normas que se empiezan a establecer en Europa, hasta el Papa acaba de sacar un documento vinculado a la IA. Ya tenemos algunos parámetros de lo que es aceptable y lo que no al operar con IA. Tenemos que empezar a conocer e involucrarnos más. Cuando bajamos una aplicación, firmamos siempre un consentimiento. A lo mejor estamos usando tecnología, como WhatsApp, para consultar a nuestro médico, y con él no firmamos nada. Los consentimientos son larguísimos, la letra pequeña es complicada de comprender, pero en salud hay que entender lo que a uno se obliga. No solo hay que firmar un consentimiento para ser atendido, sino que hay que firmar si el médico o si un servicio de salud va a usar IA. Hay que entender cuáles son los riesgos que uno asume, quién es la autoridad que va a tomar medidas si se genera un perjuicio. El médico debe entender hasta dónde llega su responsabilidad y hasta dónde es responsable el que desarrolló los algoritmos del mecanismo que está usando, porque se complejiza el acto médico. Ya no es de a dos, hay otros actores y hace falta que eso se trabaje. Hay poca claridad sobre esas responsabilidades y el profesional se torna vulnerable. Todo esto hay que controlarlo más de cerca para que el sistema sea equitativo, justo, transparente y dé garantías, todo en un marco de calidad y seguridad al paciente. Hace falta abordar este tema que involucra actores que son ajenos al sector salud, que provienen del sector tecnológico.
Teniendo en cuenta la intervención de actores internacionales, ¿quién tiene jurisdicción sobre la actuación de esos actores?
Hay un debate internacional sobre la soberanía del dato digital. Hay quienes dicen que un ciudadano tiene que ser dueño de todos sus datos y que todos los sectores tienen que reportar a esa persona y seguirla donde vaya. Es decir, tendríamos una nube propia. Estamos lejos de que esto funcione así, como sucede en el sistema bancario. Pero en salud todavía no llegamos a ese nivel de consenso. Estamos recién pensando en qué sistemas van a soportar que se administren estos datos. En ese marco hay que tener claro que el dueño de los datos es el paciente. Nuestra legislación ya dice eso cuando habla de historia clínica digital. En paralelo, hay que generar los mecanismos de interoperabilidad dentro del sistema que den garantía a todos los usuarios. Eso requiere desarrollos tecnológicos regulatorios y consensos que no están totalmente definidos. Ese proceso es relativamente lento en relación con el avance de la tecnología, que va ocupando espacios sin la regulación. Se va generando una suerte de validación ante ese silencio. Es muy importante que los profesionales de la salud asuman un liderazgo en esto, porque son los que están corriendo el mayor riesgo junto con los pacientes.
El Consejo de Médicos ya está trabajando en esa línea. ¿Esto demuestra que hay un dejar hacer por parte del Estado?
Creo que todos los actores, siendo Argentina un país federal, hacen sus movimientos de acuerdo con los problemas que van detectando, que definen como prioritarios por alguna casuística. No todas las provincias avanzan igual, Nación avanzó en varias regulaciones como la receta digital o la historia clínica digital. Pero no es la regulación sola, es el sistema que soporta la regulación. Porque después tenés una regulación maravillosa, pero no el sistema de interoperabilidad o la carga de los algoritmos adecuados. Lo que hay que desarrollar es exigente y se necesita de todos. Hay sociedades que avanzaron más rápido. No es que estamos tan atrasados, sino que nos faltan los consensos. Identificar el problema, diagnosticarlo adecuadamente y generar una agenda concertada para resolverlo. La salud pública es un elemento muy importante y hace falta que el Estado esté presente. Pero no solo es un problema de Estado, en esto nos tenemos que involucrar todos. Es importante que tomemos conciencia de los riesgos que corremos si no lo hacemos. Todos. Los usuarios, los pacientes y los profesionales de la salud en primer lugar, porque son los que tienen la información. Sobre todo, el médico cuando prescribe si no cuida los recursos, y es su responsabilidad, esos se van a otro lado. El profesional de la salud tiene un importante rol en esto.
