2.1. Inteligencia Artificial

La IA emerge en la mitad del siglo XX con el surgimiento de los ordenadores y la idea de solución de problemas computacionales basados en la lógica proposicional. Sin embargo, la idea fue desechada producto de la imposibilidad de su implementación en la esfera práctica de manera inminente ⁽⁹⁾. El desarrollo del hardware, el aumento de la capacidad de almacenamiento y la velocidad de procesamiento de datos ha permitido el desarrollo exponencial de esta rama de las ciencias computacionales.

La IA está llamada a ser una de las grandes revoluciones en el mundo postmoderno. Su uso actual se extiende a diferentes áreas desde los llamados dispositivos inteligentes (relojes, teléfonos, computadoras, autos, dispositivos biomédicos) hasta procesos de trabajo en la industria, la ciencia, la educación, la salud y la sociedad ⁽¹⁰⁾. Palabras como bigdata, chatbot, asistentes virtuales, smartphone, smartwatch, redes neuronales, machine learning y deep learning llegan a nuestros días en una avalancha que nos atrapa en un pantano cibernético.

La definición de IA es amplia, aunque el consenso la conceptualiza como el conjunto de programas computacionales que permiten el almacenamiento, procesamiento de datos y toma de decisiones a partir de experiencias previas, simulando el aprendizaje humano ⁽¹¹⁾. Entiéndase por experiencia previas a un conjunto de datos que reflejan la realidad.

Existen dos variantes fundamentales de IA en la actualidad: robots no mecánicos y los robots mecánicos ⁽¹²⁾. Los no mecánicos son programas informáticos que generan una respuesta no mecánicam como por ejemplo los chatbots, asistentes virtuales (Siri, Alexa, Copilot, etcétera) y los productos smart, entre otros (relojes, teléfonos, televisores), todos de gran aceptación por los consumidores. Los robots mecánicos implican una respuesta mecánica y su apariencia puede ser humanoide o no. En este grupo encontramos a los androides, zoonoides, multiarticulados (robots industriales, robots domésticos) entre otros.

La IA también puede clasificarse en IA fuerte, débil y general. La IA fuerte aprende y genera respuestas autónomas por parte del robot, mientras que la IA débil genera las mismas respuestas (limitadas) y solo el cambio en la programación puede modificar la respuesta. La IA general es aquella que permite un aprendizaje diverso a lo largo del tiempo sin olvidarlas en el futuro. Debido a su complejidad, es solo un planteamiento teórico sin desarrollo en la práctica ⁽¹³⁾.

La creación de máquinas que aprenden (machine learning, deep learning y natural language proccesing) intentan imitar la estructura del cerebro humano basado en las redes neuronales artificiales. Estas redes no son más que elementos procesadores de información interconectados entre sí y organizados en capas, permitiendo la comunicación mediante la entrada y salida de información del sistema ⁽¹⁴⁾.

El aprendizaje del robot se logra mediante tres mecanismos: por supervisión de datos, no supervisado y reforzado. En el primer caso el ser humano programa las acciones del robot según se considera correcto e incorrecto por parte del programador. A partir de la categorización de los datos de entrada, se establece un algoritmo lógico proposicional para generar una respuesta. En el segundo caso los datos primarios introducidos y un conjunto de normas lógicas iniciales conllevan a respuestas las cuales son “decididas por el robot” a partir de la información de entrada. La máquina puede ir incorporando nuevos patrones de respuesta sin el concurso permanente del ser humano, aunque la realización de un entrenamiento supervisado por los programadores es decisiva en alcanzar la autonomía robótica ⁽¹⁰⁾.

El aprendizaje por refuerzo conlleva aprendizaje por ensayo y error, recibiendo continuamente retroalimentación del desarrollador. El agente artificial reacciona a las señales de su entorno que representan el estado de este. Las acciones realizadas por el agente influyen en el estado del entorno. El objetivo principal es tomar decisiones que garanticen la máxima recompensa. Cuando la máquina toma una decisión correcta, el supervisor otorga una recompensa por la última acción realizada en forma de evaluación ⁽¹⁴⁾.

Un análisis simple revela un conjunto de ventajas de los robots sobre el hombre en funciones donde peligre la salud o se busque una mayor eficiencia en los procesos productivos (no es necesario periodos de descanso, alimentación y sueño). A juicio del filántropo Bill Gates, ⁽¹⁵⁾ la IA es “tan fundamental como la creación del microprocesador, el ordenador personal, internet y el teléfono móvil”, y es llamada a revolucionar áreas de nuestra vida actual como la educación, la salud y los procesos de trabajo.

3.2 Inteligencia artificial y Medicina de laboratorio

El uso de la IA en la atención en salud comienza a revolucionar este servicio y derecho humano en la sociedad postmoderna. Tiene aplicaciones relevantes en el ámbito quirúrgico, la rehabilitación de pacientes y el diagnóstico médico ⁽¹⁶⁾, aunque aún se encuentra en una fase inicial, distante de sus mayores potencialidades ⁽¹⁷⁾.

La automatización del laboratorio clínico ha sido una de las primeras aspiraciones en el área del diagnóstico médico. En la década de los 90 surgen los robots mediando la intención de mejorar los procesos de diagnóstico. Estos aumentaron la capacidad de procesamiento de las muestras, la confiabilidad de los resultados y disminuyó el tiempo de respuesta, tan importantes para un diagnóstico eficiente ⁽¹⁸⁾. Su aplicación fue principalmente en la etapa analítica de resultados limitando la potencialidad de esta tecnología.

Hoy en día el laboratorio clínico se organiza en sistemas modulares que ejecutan las funciones correspondientes de registro, procesamiento y salida de información. Los robots automatizados modulares ejecutan funciones como transportar el espécimen biológico, tomar muestras para análisis, ejecutar pruebas diagnósticas y presentar los resultados al paciente. Sin embargo, hasta el presente no se ha logrado un sistema de laboratorio inteligente que tenga la suficiente flexibilidad para realizar un proceso de automatización total ⁽¹⁹⁾.

El uso de la IA débil en la ML tiene diferentes alcances como son la selección de pruebas y la predicción, generación e interpretación de resultados en el proceso de diagnóstico ⁽¹⁷⁾. En los primeros años el uso de la IA en la ML consistió en el procesamiento de datos. A partir de las medidas de absorbancia o tramitancia de la luz, se construyen curvas patrón (modelos matemáticos de regresión lineal) para estimar concentraciones de determinados analitos como el colesterol, la glucosa, la creatinina entre otros ⁽⁴⁾. De manera similar se procede para calcular la carga viral utilizando la PCR en tiempo real (qPCR). El cálculo del Ct (umbral del ciclo) en los ensayos de qPCR y su representación gráfica en función del número de copias del material genético permite extrapolar los valores de muestras desconocidas asignando un estado patológico o no según sea el resultado ⁽²⁰⁾. Otro ejemplo es el cálculo de riesgos de padecer enfermedades empleando modelos matemáticos y variables clínicas del paciente como las concentraciones de proteínas séricas y la identificación de gammapatías monoclonales asociadas a enfermedades mediante la técnica de electroforesis de proteína ⁽²¹⁾. El sistema de IA permite identificar el área bajo la curva para cada subgrupo de proteínas del suero sanguíneo y diagnosticar la gammapatía en el paciente. Este sistema aún no ha sido ampliamente adoptado por las entidades de laboratorio clínico, las cuales siguen utilizando el método tradicional donde el especialista humano dictamina el diagnóstico definitivo.

Una de las áreas de mayor aporte de la IA a la ML es el procesamiento de imágenes. La integración de redes neuronales artificiales ha permitido aumentar el rendimiento del procesamiento de las imágenes digitales con mayor poder de resolución. Esto ha sido aplicado a áreas específicas como el uroanálisis ⁽²²⁾, la hematología ⁽²³⁾ y la oncología ⁽²⁴⁾ por mencionar algunas.

Al generar una imagen del sedimento urinario, el sistema de IA (machine learning) puede comparar estos datos no estructurados con una base de datos previamente introducida al robot permitiendo llegar a un diagnóstico del estado del paciente. En el campo hematológico se diagnostican enfermedades a partir de la morfología de las células ⁽²⁵⁾ (eritrocitos y malaria, por ejemplo), aunque existen reportes de resultados no óptimos en el diagnóstico por una baja especificidad ⁽²⁶⁾.

También la microbiología ⁽²⁷⁾ y la citometría de flujo ⁽²⁸⁾ poseen herramientas que realizan diagnóstico a partir del análisis matemático de las imágenes obtenidas del cultivo de los microorganismos o de los datos plasmados en la citometría. La compleja interpretación que debe hacer un tecnólogo para el diagnóstico queda simplificada a la lectura crítica y aprobación por parte este.

En el área de la microbiología, la IA tiene un papel fundamental en identificar las diferentes especies y subespecies microbianas que conforma el microbioma del ser humano. La informática de la microbiología clínica utiliza progresivamente la IA. La información genómica de bacterias aisladas, los resultados microbianos metagenómicos de muestras originales, los espectros de masas registrados a partir de aislados bacterianos cultivados y las fotografías digitales son ejemplos de enormes conjuntos de datos en microbiología clínica que pueden utilizarse para construir diagnósticos de IA ⁽²⁹⁾.

La IA ha contribuido a la predicción del estado de los pacientes oncológicos pronosticando la metástasis ósea del cáncer prostático ⁽³⁰⁾. Además, se reporta el diagnóstico certero de cáncer de pulmón ⁽³¹⁾, útero ⁽³²⁾, próstata ⁽³³⁾ y los gliomas ⁽³⁴⁾ con sensibilidad y especificidad superiores al 95%. También ha tenido un papel relevante en la individualización del tratamiento del cáncer mediante radiaciones ⁽³⁵⁾, o en la selección del tratamiento idóneo ⁽³⁶⁾ para el paciente con cáncer (software Watson for Oncolgy, IBM). En todos los casos la sensibilidad, especificidad y la curva ROC (Curva de Respuesta del Operador) del modelo de AI empleado son suficientes para ser el método de diagnóstico o de tratamiento elegido.

La automatización mediante IA tiene ventajas en el diagnóstico clínico en sus etapas preanalítica, analítica y postanalítica. Además, supone un incremento de la eficiencia y satisfacción del cliente con los servicios en salud asociado a la mejora de las actividades de los servicios y la reducción del tiempo de espera ⁽³⁷⁾.

La etapa preanalítica logra un mayor control de los especímenes biológicos en el proceso de diagnóstico y su uso por los diferentes módulos. Se optimiza el uso del espécimen entre las diferentes unidades modulares logrando un mejor flujo de las muestras. Además, se minimizan los errores en el proceso de registro del paciente y el análisis clínico a realizar. También los sistemas de algoritmos analíticos valoran la pertinencia de las pruebas diagnósticas, aliviando la responsabilidad de los directores de laboratorios clínicos en la toma de decisiones de cuales analitos incluir en la batería diagnóstica del paciente ⁽³⁸⁾. Se debe resaltar que la IA podría valorar la inclusión o eliminación de pruebas emitidas por el médico lo que podría ser un área de conflicto entre el hombre y la tecnología.

En la etapa analítica, la IA ha disminuido el tiempo de diagnóstico y elevado el volumen de actividad tanto de pacientes como de pruebas diagnósticas a realizar. El aporte más relevante puede ser el re-enrutamiento de muestras con resultados dudosos a una nueva prueba para asegurarse del resultado. Además, disminuye la exposición del tecnólogo a las muestras biológicas lo que minimiza los riesgos de accidentes laborales y la adquisición de enfermedades trasmitidas por la sangre u otros fluidos ⁽³⁸⁾.

En la etapa post analítica se agilizan los procesos de reportes de resultados, la validación de estos y su emisión correspondiente a las dependencias de salud. Se han diseñado Sistemas de Apoyo a la Decisión Diagnóstica (DDSS, del inglés Diagnosis Decision System Support) los cuales contribuyen a la toma de decisiones en el diagnóstico de laboratorio siendo otra área de posibles conflictos entre el robot y el tecnólogo ⁽³⁹⁾. También se pronuncian por integrar los resultados del laboratorio con la condición clínica-terapéutica del paciente logrando una armonización de su proceso de salud-enfermedad.

4.1. Sociedad, IA y ML

El uso de la IA en la medicina invita a la reflexión del papel de la tecnología en la sociedad y su uso por parte del ser humano. ¿Es pertinente implementar la IA en la ML? Evidentemente resulta tentadora la introducción de dicha tecnología, sin embargo, el análisis contextual de cada laboratorio clínico y la evaluación objetiva del volumen de actividad, el nivel de atención y los servicios de salud que brinda deben ser la base en la decisión de adhesión a la tecnología. El imperativo tecnológico no debe superar la lógica humana en su implementación. En caso contrario, los costos y la dilación en el proceso de implementación podrían deteriorar la asistencia en salud y descuidar la atención de los pacientes y la población en general.

Es imprescindible recordar que la inclusión de esta tecnología en la ML no es equivalente a incremento de la calidad en los servicios. La tecnología solo es un componente dentro del sistema de gestión de la calidad del laboratorio clínico y su adopción errada puede dar al traste con el fin de la ML y la calidad de los servicios, la que solo se logra a través de un proceso continuo de mejora del trabajo en el laboratorio y el establecimiento de programas y espacios para ello ⁽¹⁾.

En el marco de la implementación responsable de la tecnología de IA en la ML, es prioritario la inclusión de las partes interesadas. ¿Qué opina y conoce la sociedad sobre este cambio que se gesta en la atención en salud?

Investigaciones recientes muestran que los pacientes ⁽⁴²⁾ y galenos ⁽⁴³⁾ manifiestan elevada satisfacción por el uso de la IA en el proceso de atención en salud. El paciente expresa una alta preferencia por los asistentes virtuales, las consultas online y la correspondencia electrónica. Sumergidos en la inmediatez y la urgencia de la vida postmoderna, los pacientes resaltan ventajas como evitar las filas, los elevados tiempos de espera y poder simultanear el diagnóstico médico con otras actividades. Habría que indagar si esta preferencia se mantiene en el diagnóstico de enfermedades catastróficas como el cáncer y las enfermedades neurodegenerativas, por mencionar algunas. En el caso del galeno, razones como el aumento de la eficiencia del proceso de diagnóstico es suficiente para su uso, aunque cabe mencionar que existe la preocupación y el temor de ser desplazado por el robot en ciertas funciones.

La introducción de la IA en la ML debe hacerse de manera paulatina, con el concurso de todas las partes interesadas, sobre todo los pacientes. Aún existe un amplio desconocimiento de la IA por parte de la sociedad civil que debe ser superado simultáneamente con su implementación. La participación conjunta de médicos, especialistas de laboratorio clínico, tecnólogos, desarrolladores de IA y pacientes es decisiva en la aceptación social de esta tecnología.

La comunicación oportuna y colegiada sobre los modos de actuar, accesibilidad, beneficios, riesgos, reparación por daños y futuro de la IA en la ML debe ser puesta sobre la mesa de diálogo con todas las partes interesadas, incluyendo decisores de políticas en salud y gobernantes políticos. Los avances en este sentido son escasos a nivel global, aunque los principales bloques implicados como China, Estados Unidos y la Unión Europea muestran avances locales sobre la gobernanza de dicha tecnología en la sociedad ⁽⁴⁴⁾ y la existencia de códigos éticos para el uso de la IA en diferentes áreas de la vida humana ⁽⁴⁵⁾.

4.2. Relación IA - profesional - paciente

Un aspecto controversial en la introducción de la IA a la ML es la relación entre robot-profesional-paciente. La clarificación de roles y funciones en el proceso diagnóstico debe ser una prioridad en aras de establecer los mecanismos, las funciones y las tareas de los participantes durante el diagnóstico médico.

Existe inquietud sobre la suplantación del especialista humano por el robot en el proceso de diagnóstico ⁽⁴⁶⁾. La supuesta humanización laboral del especialista de laboratorio puede implicar el desentrenamiento y pérdida de competencias, un cese de sus funciones y la exclusión del hombre por el uso de la máquina, generando una forma de discriminación en las instituciones de salud y un dilema ético en el uso de la tecnología: innovación-desempleo o no innovar-empleo. El justo término medio sería la solución.

Actualmente el uso de una IA débil en el ámbito de la ML hace que la supervisión del tecnólogo médico sea necesaria. Aunque la autonomía del robot con IA es cuestionable, el papel de la supervisión humana va siendo cada vez menos imprescindible. El empleo de sistemas inteligentes fuertes con alto grado de autonomía (si se le puede llamar así) en áreas como el diagnóstico patológico conminan a la reflexión.

Los autores conciben la IA como una herramienta del proceso de diagnóstico, siendo el profesional médico el principal elemento en la toma de decisiones a partir de la información brindada por la máquina y la evaluación conjunta del paciente. Las posibles contradicciones entre la decisión de la máquina y el especialista de ML deben ser resueltas por la racionalidad humana con la ayuda de la precisión de la máquina. La emisión del informe final de resultados, aunque realizado con el apoyo de la tecnología, debe ser concluido por el componente humano.

En cuanto a la relación robot-profesional-paciente se establece una interdependencia de esta triada donde habría que definir los roles y funciones de cada participante en el diagnóstico. El robot debe fungir como asesor-consultor en el proceso de diagnóstico; sin embargo, en algunos casos ya se proclaman decisores del diagnóstico médico. Las funciones de consultor-decisor deben ser asignadas en función de la capacidad para generar una respuesta certera, el grado de independencia y el nivel de confianza del paciente en el diagnóstico. Esta situación nos acerca a una dicotomía entre el paternalismo de la máquina versus la autonomía del paciente y del tecnólogo. ¿Podrá el robot ponerse en la posición del otro durante el diálogo con el paciente, familiares y personal médico?

Algunas investigaciones han mostrado que la confianza de los pacientes en el diagnóstico de enfermedades de difícil pronóstico es mayor si es realizada por un médico real que un sistema de IA o un especialista de IA en ML ⁽⁴⁷⁾. Esta confianza aumenta si el paciente escoge a su médico y este decide utilizar la IA para el diagnóstico ⁽⁴⁸⁾. Además, se ha encontrado que el nivel de confianza está influenciado por otras variables sociales como el grado de instrucción, el tipo de patología a tratar y la percepción de la eficacia de otras IA como los dispositivos inteligentes de uso común ⁽⁴⁹⁾. Algunas vías para mejorar la confianza hacia la IA son hacer más robustos los resultados diagnósticos, aumentar la transparencia en el funcionamiento de la tecnología y fomentar la equidad su uso ⁽⁵⁰⁾. Sin embargo, puede surgir el conflicto de pacientes que no confíen en la IA para el diagnóstico médico. ¿Existirán alternativas diagnósticas para estos pacientes para que el paciente elija con libertad su atención médica?

Un impacto del uso de la IA en la ML es la desestimación del método clínico, unido al sobreuso de la tecnología en el diagnóstico médico ⁽⁵¹⁾. Esto ha repercutido en el alejamiento del paciente limitando la comprensión del fenómeno singular que es el proceso de salud-enfermedad en el ser humano. Para algunos autores la relación asumida con la IA por parte de la comunidad médica es errónea. Se propone un tránsito opuesto al actual, de modo que desate al profesional médico del trabajo administrativo y le permita fraternizar en mayor medida con el paciente ⁽⁵²⁾.

Otro aspecto en debate es la posibilidad de humanizar el robot desde una perspectiva ética y emocional ⁽⁵³⁾. Dotar al robot de una moral implica la capacidad de una reflexión sobre lo que es correcto y bueno, de la comprensión del mundo en la profundidad de los actos y de la integración de fenómenos, incluyendo la subjetividad humana. El robot moral debe tener una conciencia de sí y del mundo, haciendo que sus actuaciones tengan un componente ético, evitando situaciones que atenten contra la dignidad humana. ¿Será posible la construcción de un robot moral?

Existen proyectos de investigación que trabajan en este sentido, desarrollando sistemas complejos de aprendizaje y conciencia artificial ⁽⁵⁴⁾ . Algunos de los más conocidos son Project Consciousness (MIRI), Self-Aware AI (Google DeepMind), Neural Episodic Control (DeepMind), NEuROCOG (uE), Neural Simulators (Anthropic), AI Self-Consciousness (MIT) entre otros. La humanización del robot desde las emociones debe mostrar empatía y compromiso con el paciente y su estado de salud, de modo que este se sienta identificado con el robot y colabore de manera activa en el diagnóstico, aspiración con limitaciones tecnológicas hasta el momento actual.

Algunos filósofos y científicos han planteado que la IA puede contribuir a la mejora moral del hombre ⁽⁵⁵⁾. El robot moral puede hacer reflexionar al médico sobre los conflictos o dilemas morales en su entorno laboral y sugerir el actuar más justo integrando la perspectiva biopsicosocial del paciente. Al mismo tiempo el robot puede identificar conflictos éticos presentes o latentes en el ejercicio de la profesión, siendo considerados en la toma de decisiones. En la actualidad existe IA aplicada a la donación de órganos y la toma de decisiones durante la asignación a los donantes ⁽⁵⁶⁾ de una manera justa y científicamente acertada.

La humanización moral del robot sugiere varias preguntas a responder por parte de bioeticistas, desarrolladores y otras partes interesadas, anticipando situaciones que podrían ser controversiales en un futuro.

A juicio de los autores el uso de la IA no debe marginar el contacto de los seres humanos y la percepción de calidez, bondad, protección y confianza que ofrece el encuentro presencial del personal sanitario con el paciente. Evitar la despersonalización del paciente al no poder compartir sus emociones y sentimientos en este proceso de diagnóstico exige una solución a esta problemática. La relación robot-especialista-paciente debe estar fundada en una interacción dialógica que propicie la autonomía de los seres humanos y la heteronomía del robot. Se deben enmarcar los límites de actuación del robot de modo que las decisiones finales sean propiciadas por un profundo proceso de comunicación entre el profesional de la salud y su paciente, con la intervención del robot como principal asesor en el proceso de diagnóstico. La relación debe limitar el paternalismo tecnológico por parte de la máquina y propiciar la libertad de los seres humanos en la toma de decisión.

4.3. Accesibilidad a la ML con IA

Un aspecto para resolver en la sociedad es la creciente brecha de accesibilidad a los servicios en salud (costos y acceso a la tecnología). La implementación de la IA en la ML implica un proceso de transferencia tecnológica que vislumbra una alta inversión de recursos por parte del sistema de salud. En este punto surgen algunas preguntas relevantes como:

¿Tendrá la población de menos recursos económicos la posibilidad de utilizar estos avances tecnológicos en el diagnóstico de las enfermedades? ¿En qué medida se incrementarán los costos de los servicios médicos por el uso de la IA y si estos pueden ser asumidos por el sistema de salud? ¿Se incrementarán los impuestos a los ciudadanos por esta mejora en los servicios médicos? Estas preguntas deben ser analizadas de modo que la inversión no se convierta en una carga adicional para el gobierno o la ciudadanía y las políticas públicas en salud incluyan un plan de gestión de esta situación.

También debe considerarse la brecha tecnológica entre países desarrollados y en vías de desarrollo, relacionado con la transferencia tecnológica. La brecha digital es una realidad fehaciente entre norte y sur, ricos y pobres, erigiéndose como una barrera para la implementación equitativa de la IA en la ML. Aún se mantienen las diferencias de equidad en el acceso tecnológico entre norte y sur en el uso de las TIC como Internet, la comunicación digital y otras, situación que se vivió durante la pandemia de COVID-19 ⁽⁵⁷⁾ y los problemas que surgieron en la educación y la atención en salud. La implementación de la IA, sin antes haber solucionado la brecha digital, margina a los más pobres e incrementa la inequidad en el uso de la tecnología. Si solo los más ricos tienen el acceso a la tecnología, la justicia en la atención médica seria mancillada y se priva el derecho humano a la salud en aras del tecnicismo médico. Las promesas de equidad en el acceso a las TIC y la transferencia tecnológica entre Norte y Sur no han sido cumplidas ¿Será diferente la situación para la IA en la ML?

La solución debe incluir un programa de transferencia tecnológica de modo que los países en vías de desarrollo sean capaces de asimilar la tecnología de una manera suave y orientada por los países desarrollados. Solo la cooperación internacional, la transferencia de tecnología de manera justa entre los países desarrolladores y consumidores de IA puede aliviar la creciente brecha tecnológica, propiciando una base de hardware y software equitativa para el desarrollo de la medicina digital.

4.4. Confidencialidad de datos, IA y ML

La aplicación de sistemas inteligentes en la ML conlleva el registro, almacenamiento y uso de un volumen elevado de datos personales y del estado de salud de los pacientes a través de sistemas de IA y la Big Data ⁽⁵⁾. Existe una gran preocupación de las partes interesadas por salvaguardar la intimidad y privacidad de los datos. Algunos de los temas más controversiales son el uso y la protección de los datos generados durante el proceso de diagnóstico.

La protección de los datos almacenados debe ser una política propia de la institución de salud de modo que se garanticen la accesibilidad y privacidad de estos a pacientes y personal médico autorizado. El registro de los datos debe estar contenido en un software profesional con potentes sistemas de anonimización y seguridad digital, de modo que se minimice el acceso no autorizado al sistema, las brechas en el sistema de información y con ello la pérdida de privacidad del paciente ⁽⁶⁷⁾.

Algunos autores consideran la donación de los datos al sistema de salud con vistas a su mejora y perfeccionamiento como una obligación moral de los pacientes ⁽⁶⁸⁾. Esta visión colectivista maximiza el deber hacia la comunidad y minimiza la individualidad del paciente lo que genera desencuentro entre profesionales y pacientes. También se propone prescindir de un consentimiento informado para el uso de datos almacenados cuando no sea posible acceder al paciente o los costos por ello sean insufragables. Estas consideraciones dejan al paciente desprovisto de protección frente a posibles situaciones que laceren la intimidad o potencien la discriminación a partir de su condición de salud y el mal manejo de los datos por entidades empleadoras, de seguro u otras en la sociedad.

Para algunos autores la institución de salud debe declarar de manera explícita sus intenciones con los datos al momento de la colección, así como en el futuro mediato. El Dr. Enrico Coiera considera que no basta con tener un sistema de salud eficiente si después este vende los datos de sus pacientes al mejor postor y se pierde la confianza del paciente en el sistema sanitario ⁽⁶⁹⁾. Según Larson y colaboradores, en el año 2018 periodistas del New York Times develaron una relación comercial entre Memorial Sloan-Kettering Cancer Center and Paige.AI la cual consistió en dar acceso a millones de cortes histológicos almacenados en sus bases de datos a cambio del 9 % en la sociedad ⁽⁶⁸⁾. Evidentemente los intereses económicos y el fin de los datos tienen un soporte no ético, lo que cuestiona el uso de los datos y la ruptura de la confidencialidad del paciente. De manera paradójica en algunas regiones del mundo como Estados Unidos, está normalizada la venta de datos de clientes y pacientes.

También se debe plasmar las posibles retribuciones a los pacientes en caso de ganancias económicas por el uso de estos datos. Se vivieron abusos relacionados con los beneficios al paciente durante el icónico caso de Henrietta Lacks ⁽⁷⁰⁾ y pueden repetirse en el marco de la IA en la ML. El uso de un consentimiento informado que el paciente debe aceptar puede ser una alternativa de solución ética. Su redacción debe ser comprensible por parte del paciente de modo que pueda dar el libre consentimiento del manejo de los datos.

Por último, hay que contemplar la posibilidad de un robot con IA fuerte que muestre autonomía en la decisión del manejo de datos. ¿Cómo operar frente a esta situación y que normativas éticas y legales deberían asegurar el buen uso de la información por parte de un robot con IA? Los desarrolladores deben tener la última palabra limitando este potencial riesgo mediante una programación restrictiva del robot.

4.5. Aspectos legales de la IA y la medicina

La implementación de la IA en el servicio de salud y la ML debe ir aparejada de un sólido marco legal ⁽¹⁶⁾, de modo que proteja tanto a los desarrolladores como los usuarios y marque los modos de actuación frente a posibles conflictos.

Los juristas por el momento se debaten en cuanto al futuro legal de la IA fuerte que ensombrece el panorama. Estas limitaciones incluyen la no definición de un estatus jurídico del robot y el otorgamiento de un estatus legal donde se asuma la responsabilidad por daños o perjuicios producto de la toma de decisiones. Para algunos juristas, la responsabilidad penal aplicada al robot es similar a la responsabilidad penal aplicada a entidades corporativas, sentando un precedente relevante en la asignación de responsabilidad civil y penal a entes no humanos ⁽⁵⁴⁾. La asignación de una responsabilidad jurídica es relevante ante situaciones en el contexto médico como mala praxis, impericia o negligencia médica, donde el daño al paciente es palpable y la toma de acciones legales contra los implicados es frecuente. Estas situaciones deben ser deslindadas de manera diferencial para esclarecer posibles daños a la integridad del paciente o del especialista médico. La actual paradoja está en el otorgamiento o no de una personalidad jurídica a estos robots que aún no son autónomos, pero podrían serlo en un futuro cercano.

Esta responsabilidad legal pone en punto de mira al propio robot, sus desarrolladores, la empresa médica que los usa, los comercializadores y el médico que hizo el diagnóstico. ¿Quién asumirá la responsabilidad del daño provocado al paciente en el diagnóstico médico? Quizás el enfoque gradual y proporcional para la solución de este dilema debe ser razonado desde el estado actual de la tecnología y el grado de participación de las partes en el diagnóstico médico. Opiniones especializadas hablan de la necesaria modificación del actual panorama legal con vistas a contextualizar e incluir la IA en el marco jurídico ⁽⁹⁾. Resolver la paradoja de la responsabilidad por productos defectuosos o la autonomía consciente del robot resulta imprescindible para solucionar posibles conflictos en el ámbito de la medicina y la IA.