En noviembre de 2021, el Comité Especial del Parlamento Europeo sobre la IA en la Era Digital (Comité AIDA) presentó su proyecto de informe sobre la inteligencia artificial (IA) en la era digital. El informe aboga por un enfoque muy permisivo de la regulación de la IA para estimular la innovación y fomentar la competitividad de la UE. Sin embargo, subestima los posibles riesgos específicos del desarrollo y el uso de la IA en el contexto de la salud y carece de soluciones reales para traducir el potencial en acción. Identificamos cinco deficiencias y hacemos un llamamiento al regulador para que las aborde.
Jorge Félix Cardoso, M.D., M.A. es asistente parlamentario en el Parlamento Europeo
Hannah van Kolfschooten, LL.M. es investigadora de doctorado en el Centro de Derecho para la Salud y la Vida de la Universidad de Amsterdam.
Diogo Nogueira Leite, M.Sc. es investigador de doctorado en ciencias de la salud en el Centro de Investigación en Tecnología y Servicios de Salud de la Universidad de Oporto.
Tjaša Petročnik es investigador de doctorado en TILT/TILEC, Universidad de Tilburg
Henrique Vasconcelos, doctor en medicina.
Los autores escriben a título personal.
La salud es más amplia que la asistencia sanitaria
Cuando se habla de IA en o para la salud, no sólo se habla de un diagnóstico de cáncer o de la personalización de la terapéutica en la clínica; el ámbito de la prestación sanitaria se está ampliando desde los sistemas sanitarios formales hasta nuestros dispositivos inteligentes, implicando activamente a los (pre)pacientes y consumidores. Pensemos en la cada vez más frecuente IA aplicaciones de fitnessque tienen el potencial de ampliar el acceso a los recursos que mejoran la salud, eliminando de la ecuación a los «guardianes» de la sanidad convencional.
Sin embargo, en el informe se considera que estas herramientas son un mero medio para aliviar la presión sobre los sistemas sanitarios, aunque puedan afectar a las actitudes sanitarias y comportamientos de los usuarios, o incluso provocar graves daños si no funcionan de forma óptima. Además, como los datos sanitarios son escasos y deseables, podemos esperar que estas herramientas de IA orientadas al consumidor actúen progresivamente como una vía para obtener dichos datos. El uso incorrecto podría dar lugar a violaciones de la privacidad, a la discriminación de los derechos civiles basada en los registros sanitarios o al aumento de la desigualdad en materia de salud. Por lo tanto, la regulación de la IA debería tener en cuenta que las prácticas sanitarias basadas en la IA también tienen lugar fuera de los entornos sanitarios formales y abordarlas adecuadamente.
Beneficios exagerados de la IA sanitaria
Sin duda, las aplicaciones de la IA en la práctica clínica y la investigación sanitaria son muy prometedoras. Sin embargo, al leer el informe de AIDA, uno puede tener la impresión de que la IA se utiliza ampliamente y con éxito en los entornos clínicos. Aunque la lucha contra el COVID-19 ha acelerado la investigación de las nuevas tecnologías en el ámbito de la salud, ésta (hasta ahora) ha producido pocos resultados sólidos y generalizables. Mientras que algunos algoritmos de IA pueden rendir con gran precisión sobre el papel, incluso comparable a la de los especialistas humanos, podrían no hacerlo tan bien en el mundo real práctica clínica. Las expectativas de la IA en la salud parecen infladas ya que los prometidos eventos transformadores han por ahora se han limitado en su mayor parte a entornos controlados por laboratorios. Además, el informe AIDA parece equiparar falsamente más diagnósticos con mejores resultados clínicos. Sin embargo, no siempre es así. sobrediagnóstico puede incluso resultar más perjudicial que beneficioso. En última instancia, la aplicación de tecnologías de IA en contextos sanitarios requiere algoritmos precisos e inversiones en infraestructuras, profesionales y recursos asistenciales.
Subdiagnóstico de los riesgos tanto para los individuos como para la sociedad
Mientras que los beneficios de la IA parecen estar sobrediagnosticados, el informe de AIDA parece restar importancia a los riesgos. Reconoce correctamente algunos de ellos, en particular, los perjuicios para el bienestar de los individuos debidos, por ejemplo, a los diagnósticos erróneos y a los problemas de responsabilidad relacionados. Pero, al centrarse en los riesgos individuales, el informe pasa por alto los riesgos y daños sociales más amplios de la IA. A diferencia de los errores médicos «humanos», los errores de los sistemas de IA pueden tener un impacto mucho mayor: los errores técnicos del sistema de IA podrían provocar lesiones masivas en los pacientes debido a su uso generalizado. Además, la IA podría funcionar mejor en subpoblaciones mejor estudiadas o mejor representadas en los conjuntos de datos de entrenamiento, lo que reflejaría los prejuicios sociales existentes. Por ejemplo, cuando la IA se utiliza para ayudar a los profesionales de la salud a diagnosticar cánceres de piel,el sistema suele utilizar bases de datos de imágenes de libre acceso que a menudo no incluyen imágenes de personas de color. En consecuencia, estos sistemas pueden conducir a un infradiagnóstico de las personas de color. Esto no sólo perjudicaría directamente la salud de los miembros individuales de (ya) grupos marginados; sino que también podría profundizar la (existente) socioeconómico desigualdades en términos de acceso a la salud y resultados sanitarios. Por tanto, parece que el informe no tiene en cuenta estas implicaciones sociales en favor de los posibles beneficios económicos.
Los pacientes no son meros puntos de datos; son seres humanos con derechos fundamentales
Los riesgos de la IA en la salud van mucho más allá de los riesgos sanitarios. La IA funciona con datos, pero los datos no son sólo una entrada; se «recogen por personas, de personas y para personas«. Los sujetos de los datos y los afectados por la IA son seres humanos con derechos fundamentales como la dignidad, la no discriminación y la privacidad. Por ejemplo, el informe no aborda la naturaleza de caja negra de muchos sistemas de IA; la falta de comprensión de cómo la IA llega a sus conclusiones dificulta las explicaciones de los médicos y la comprensión de los consejos de la IA por parte de los pacientes, lo que puede perjudicar las prácticas sanitarias existentes de suministro de información y consentimiento informado como parte integrante del derecho a la salud. Además, las personas que buscan asistencia se encuentran en una situación específica de vulnerabilidad debido a la asimetría de la información y a la aversión al riesgo. Por lo tanto, el enfoque de la UE sobre la IA en la salud no sólo debe garantizar la protección de los derechos fundamentales específicos de la salud en el diseño, el despliegue y el uso de las herramientas de IA en la salud, sino también abordar la voluntad de los ciudadanos de proporcionar y conservar los datos de salud y formas de gobernarlos adecuadamente.
El desarrollo de la IA en el ámbito de la salud requiere un enfoque específico
El desarrollo de soluciones para la salud es diferente del desarrollo de productos convencionales porque toca el cuerpo y la vida de las personas de una manera que no tiene ningún otro sector. La introducción de la IA en la salud amplía la necesidad de contar con equipos multidisciplinares que reúnan los conocimientos de la (bio)medicina, la ciencia de los datos, las ciencias del comportamiento y la ética y el derecho. Al no identificar esta heterogeneidad, concretamente mediante el reconocimiento de la necesidad de una regulación específica del sector, el informe no aborda las necesidades de los pacientes, los profesionales y también los desarrolladores y la industria.
Por lo tanto, el informe de la AIDA debería reconocer la naturaleza especial de la IA en el contexto de la salud y exigir una regulación adecuada de los riesgos para los pacientes o consumidores como individuos afectados y la sociedad. Al fin y al cabo, la salud es cosa de todos, y los algoritmos ya han entrado en las consultas de los médicos y en nuestras salas de estar. Asegurémonos de que realmente están aquí para hacernos más saludables.
