La importancia de la regulación de la inteligencia artificial en atención sanitaria y otros campos: lecciones desde Hollywood

Carlos Yair Durán Martínez

Responsable del Grupo de Trabajo de Salud Digital SEMG. Vicesecretario SEMG.

En un mundo cada vez más digital y tecnológico, la inteligencia artificial (IA) se ha consolidado como una herramienta poderosa para transformar diversos ámbitos de la sociedad. La creciente relevancia de la IA en la toma de decisiones y la automatización de procesos también plantea muchas cuestiones y desafíos éticos¹ que requieren una regulación adecuada. Tomando como ejemplo la huelga de los actores de Hollywood, es esencial analizar la importancia de construir un marco regulatorio sólido para su implementación en el ámbito de la salud y en otros sectores.

Como pionera en la adopción de nuevas tecnologías, la industria del entretenimiento enfrenta grandes desafíos relacionados con la IA: la redefinición de los papeles y amenazas potenciales a la integridad de los trabajadores. La huelga de actores de Hollywood de 2023 proporciona información valiosa sobre cómo los rápidos avances tecnológicos afectarán a los profesionales de diversas industrias. La creciente incorporación de IA en la producción de películas y series ha puesto en entredicho el lugar de los actores, guionistas, creadores de efectos especiales y otros profesionales en el ámbito cinematográfico, y ha generado preocupación sobre su futuro en la industria.

En la intersección entre la medicina y la tecnología se ha producido una revolución silenciosa y ha cambiado la forma en que abordamos la atención sanitaria como médicos de atención primaria². Es innegable que la IA tiene el potencial de optimizar la prestación de la atención médica, mejorar el diagnóstico, personalizar el tratamiento y mejorar la eficiencia de los sistemas de salud^2,3; sin embargo, al igual que en Hollywood, su implementación puede generar inquietudes entre los profesionales de la medicina y de otros campos, un cambio de paradigma en el que pacientes y profesionales pueden verse agraviados o afrontar dificultades para adaptarse a los cambios tecnológicos.

Si bien es importante reconocer que la IA ofrece numerosos beneficios⁴, se constata que también conlleva riesgos importantes, incluida la falta de transparencia en las decisiones algorítmicas, la protección de datos y el sesgo inherente en los datos utilizados para su entrenamiento. Por tanto, es responsabilidad de la sociedad, incluyendo a los médicos generales y de familia, buscar una regulación adecuada que garantice la protección de los profesionales y el bienestar de los pacientes.

Para lograr una regulación efectiva de la IA, es necesario considerar algunos aspectos clave:

1. Transparencia. Diversos países y organizaciones internacionales han reconocido la importancia de establecer un marco regulatorio global para la IA. El 14 de junio de 2023 el Parlamento Europeo adoptó una postura negociadora sobre la Ley de IA⁵, y definió como prioritario que dichos sistemas sean seguros, transparentes, trazables, no discriminatorios y respetuosos con el medio ambiente.
2. Ética en la IA. Se ha convertido en una preocupación creciente, motivo por el cual se deben establecer principios éticos claros para guiar el desarrollo y la implementación de la IA en la sanidad y otras áreas, garantizando la transparencia, la equidad y la responsabilidad, principios fundamentales para que los sistemas de IA sean justos y confiables y respeten los derechos humanos y la dignidad de los pacientes y profesionales.
3. Adaptación y formación continuas. Es esencial que los profesionales médicos y otros sectores afectados por la incorporación de la IA reciban la formación adecuada para comprender y utilizar estas tecnologías de manera eficiente.
4. Protección de datos y privacidad. La recopilación y el uso de datos para entrenar a los algoritmos deben llevarse a cabo de manera segura y responsable, deben ajustarse a las leyes de protección de datos existentes y respetar la privacidad de los individuos.
5. Sesgo y discriminación. Los algoritmos de IA pueden estar sujetos a sesgos implícitos en los datos de entrenamiento, lo que puede llevar a decisiones discriminatorias. La regulación debe abordar este problema y exigir que las soluciones de IA sean equitativas y no perpetúen prejuicios sociales⁶.
6. Responsabilidad legal. La cuestión de la responsabilidad legal en el caso de daños causados por sistemas de IA es un aspecto importante que debe ser regulado. La claridad sobre quién debe asumir la responsabilidad de las decisiones tomadas por los algoritmos en casos de errores o mal funcionamiento de la IA es esencial para proteger a los usuarios y profesionales afectados.
7. Pruebas y certificaciones. La regulación puede requerir pruebas y certificaciones independientes para garantizar que los sistemas de IA cumplan con los estándares establecidos en términos de seguridad, precisión y ética.
8. Evaluación de impacto. La regulación puede requerir que las organizaciones realicen evaluaciones de impacto antes de implementar sistemas de IA, para analizar posibles efectos negativos y adoptar medidas preventivas.
9. Cooperación internacional. Dado que la IA no tiene fronteras, la cooperación internacional es esencial en la regulación de esta tecnología. Los países deben trabajar juntos para establecer estándares comunes y abordar los desafíos globales que presenta la IA.

En conclusión, la huelga de los actores de Hollywood hace sonar la alarma de que la tecnología (incluida la IA) tiene el potencial de cambiar radicalmente nuestras vidas; su impacto en el ámbito de la sanidad y en otras esferas debe abordarse con prudencia y bajo un riguroso marco regulatorio tanto en lo ético, como en lo legal. Como médicos generales y de familia, tenemos la responsabilidad de velar por el bienestar de nuestros pacientes y de garantizar que la IA se utilice de manera ética y responsable, sin desplazar a los profesionales de la salud, sino complementando y mejorando la calidad de la atención que brindamos.

El desafío actual es aprovechar el potencial de la inteligencia artificial para avanzar en el campo de la medicina y en otras áreas, sin perder de vista los principios éticos y la protección de los derechos fundamentales. Una regulación adecuada y una aproximación integral y colaborativa pueden garantizar que la IA se convierta en un aliado que promueva la salud y el bienestar de la sociedad en su conjunto.

Bibliografía

1. Wiens J, Saria S, Sendak M, Ghassemi M, Liu VX, Doshi-Velez F, et al. Do no harm: a roadmap for responsible machine learning for health care. Nat Med. 2019; 25(9): 1337-40.
2. Mistry P. Editorials artificial intelligence in primary care. Br J Gen Pract. 2019; 69: 422-3.
3. Liaw W, Kakadiaris IA, Doubeni CA, Wilkinson JM, Korsen N, Midthun DE. Primary care artificial intelligence: A branch hiding in plain sight. Ann Fam Med. 2020; 18(3): 194-5.
4. Turcian D, Stoicu-Tivadar V. Artificial intelligence in Primary Care: An overview. En: Studies in Health Technology and Informatics. IOS Press BV; 2022. p. 208-11.
5. Eprs. BRIEFING EU Legislation in Progress. [citado 23 Oct 2023]; Disponible en: https://www.europarl.europa.eu/RegData/etudes/BRIE/2021/698792/EPRS_BRI(2021)698792_EN.pdf
6. D’Elia A, Gabbay M, Rodgers S, Kierans C, Jones E, Durrani I, et al. Artificial intelligence and health inequities in primary care: A systematic scoping review and framework. Fam Med Community Health. 2022; 10 (Suppl 1): e001670.