1. IA: aplicaciones y riesgos

En palabras del papa Francisco, “la galaxia digital, y en concreto la IA, está en el centro mismo del cambio de época que estamos viviendo” ⁽¹⁾. Las circunstancias por las que el 28 de febrero de 2020 condujeron a la primera firma del Llamamiento de Roma por la Ética de la IA ⁽²⁾ y a todas las acciones y reacciones que siguieron, son muy complejas. Para aclarar las razones que llevaron a este llamamiento, es necesario ilustrar su contexto histórico y sus objetivos.

Según la definición oficial de la Unión Europea, que dedica atención y amplios recursos al tema ⁽³⁾, la IA “es la habilidad de una máquina para mostrar capacidades similares a las humanas, como el razonamiento, el aprendizaje, la planificación y la creatividad”. Permite a un sistema tecnológico comprender su entorno, relacionarse con lo que percibe, resolver problemas y, sobre todo, actuar para alcanzar un objetivo concreto. El mecanismo parece bastante sencillo: un ordenador recibe datos (ya preparados o recogidos a través de sensores específicos, como una cámara), los procesa y ofrece una respuesta. El núcleo del debate en torno a la IA -lo que hace única y enormemente poderosa a esta tecnología específica- es su capacidad para actuar por sí misma; adapta su comportamiento en función de la situación, analiza los efectos de sus acciones anteriores y trabaja de manera autónoma.

En sí misma, la IA no es una novedad actual ⁽⁴⁾, pero los avances en cuanto a la potencia computacional, la disponibilidad de ingentes cantidades de datos y el desarrollo de nuevos algoritmos en los últimos años le han permitido dar un salto adelante a una escala que hace época.

¿Existen riesgos? Sí, en gran cantidad y de distinta naturaleza. Un primer aspecto para tomar en cuenta es su omnipresencia, de la que pocas personas son plenamente conscientes. La IA se utiliza a diario en la publicidad y las compras en línea para ofrecer sugerencias basadas, por ejemplo, en compras anteriores, búsquedas y otros comportamientos registrados digitalmente; en la traducción automática; en el desarrollo de vehículos de conducción autónoma; en la ciberseguridad, para reconocer tendencias en el flujo continuo de datos; en la detección de noticias falsas y desinformación, para identificar palabras o expresiones sospechosas; en el transporte, en las plantas de fabricación, en la cadena de suministro agrícola y alimentaria, en la administración pública y finalmente en todos los activos de naturaleza económica.

Todo esto no tiene lugar en escenarios de ciencia ficción y no son predicciones descabelladas, no se trata de ganar a campeones humanos en una partida de ajedrez ⁽⁵⁾, ni escribir un guion teatral ⁽⁶⁾, tampoco crear obras de arte ⁽⁷⁾ que proporcionan a los medios de comunicación titulares atractivos. Los usos mencionados hasta ahora ya son posibles y reales en muchas partes del planeta.

Sin embargo, hay tres áreas, entre otras, en la aplicación de la IA que merecen especial atención ya que se acercan especialmente a la dimensión del individuo y hacen más tangible lo que está ocurriendo en el mundo de la tecnología.

2. Seguridad, cuidado de ancianos y salud

El primer ámbito se refiere a la seguridad, o más bien a lo que en 2019 Shoshana Zuboff denominó “capitalismo de la vigilancia” ⁽⁸⁾. Según Zuboff, profesora de la Harvard Business School, la principal preocupación en el ámbito de la IA surge de la falta de límites definidos y perceptibles, lo que permitiría a los grandes actores de Silicon Valley construir “una nueva lógica económica” ⁽⁹⁾, según criterios que “configurarán el entorno moral y político de la sociedad del siglo xxi y los valores de nuestra civilización de la información” ⁽⁹⁾. Los gigantes de la IA, empezando por Google, dice el académico, intentan redefinir el mercado mundial gracias a:

Su capacidad para encontrar datos que los usuarios habían optado por mantener privados y para deducir la amplia información personal que los usuarios no habían facilitado. Estas operaciones fueron diseñadas para eludir la conciencia del usuario y, por tanto, eliminar cualquier posible fricción ⁽⁹⁾.

Entre los muchos datos que se facilitan libre e inconscientemente a la Web a través de las redes sociales o los dispositivos electrónicos, Zuboff menciona por ejemplo, información sobre personas que conocemos, los hábitos de sueño, el nivel de decibelios de la música que suena en el salón familiar, los pasos de las zapatillas de correr, la propia ubicación (que algunas aplicaciones detectan cada dos segundos), el mapeo del suelo realizado por los robots aspiradores y mucho más. En su libro The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power, Zuboff hace alusión a un informe de la empresa Facebook de 2017 que habla de “conocimientos psicológicos detallados” que pueden “señalar el momento exacto en que un adolescente necesita un ‘estímulo de confianza’ y es, por tanto, más vulnerable a una configuración específica de ‘empujones’ y señales publicitarias” ⁽⁹⁾.

Desde esta perspectiva tecnológica, el valor del ser humano reside en la producción de un flujo constante de datos. La enorme cantidad de datos que se recogen constantemente constituye en sí misma un punto de reflexión. Es evidente que esto hace aflorar temas delicados que merece la pena mencionar. En este contexto, trataremos brevemente dos de los más relevantes: i) la confidencialidad y la privacidad; y ii) el consentimiento informado.

El tema de la confidencialidad y la privacidad de este flujo constante de datos es un asunto importante que debe tomarse en cuenta. De hecho, ¿qué ocurre con estos datos? ¿cuál es la forma adecuada de almacenarlos para preservar la privacidad de los usuarios? El Reglamento General de Protección de Datos de la Unión Europea (GDPR), también conocido como Reglamento 679/2016 es un buen punto de partida. En Italia, la operatividad del GDPR está garantizada por el Decreto Legislativo 101/2018, que modifica el Código de Privacidad 196/2003. Sin embargo, no es evidente cómo gestionar los datos procedentes de la IA, especialmente debido su desarrollo que es cada vez más rápido. Para ilustrar esta complejidad, el derecho de supresión (RTBF) o derecho al olvido (art.17), que establece el derecho a eliminar la información privada sobre una persona en Internet, parece menos obvio para ser aplicado en el contexto de la IA, especialmente en el delicado tema de la salud; las nuevas tecnologías basadas en dicha teconología recopilan información estrictamente confidencial sobre los pacientes, y es aún más importante comprender cómo se deben almacenar adecuadamente estos datos. La cibersalud es la nueva frontera de la medicina y conlleva sus consecuencias. Un ejemplo interesante es una aplicación relativamente reciente de la IA implementada en la Clínica Mayo llamada Sensely ⁽¹⁰⁾. Se refiere a un asistente virtual que interactúa con los pacientes y les ayuda en el seguimiento de su salud. En su sitio web oficial podemos leer el lema siguiente: “Aumentar el acceso. Reducir costos. Mejorando la salud”; sin embargo, y como se mencinó anteriormente, esta aplicación no está exenta de problemas en cuanto al cuidado en el manejo de la privacidad de los datos. Lo mismo ocurre con la IA aplicada a la genética humana en general ⁽¹¹⁾.

El consentimiento informado, un tema delicado en sí mismo, puede explicarse en términos del derecho de las personas a saber y, lo que es aún más delicado, a comprender lo que ocurre con su persona y lo que está relacionado con ella. En algunas circunstancias, puede resultar difícil informar adecuadamente a los usuarios sobre el tratamiento de sus datos; a veces, lo borroso de esta información es confuso a propósito; por ejemplo, las llamadas “cookies” que se nos invita a aceptar cada vez que navegamos suelen ser difíciles de gestionar o de evitar. Como destaca Gefenas ⁽¹²⁾, un ejemplo interesante de los cambios de paradigma en lo que respecta a las tecnologías emergentes y al consentimiento informado lo proporcionan los biobancos, que son “fundamentales para alcanzar los ambiciosos objetivos de [...] la medicina, ya que son cruciales para descubrir diferentes tipos de biomarcadores para diagnosticar, tratar o prevenir diversas enfermedades humanas” ⁽¹²⁾. No obstante, no cabe duda de que es delicado cómo i) almacenar adecuadamente los datos recogidos (de hecho, de forma similar a la aplicación de la IA antes mencionada en el contexto del sistema sanitario) y ii) informar a los pacientes sobre el proceso de obtención de datos, su almacenamiento, su tratamiento y sus derechos a lo largo del proceso. Las tecnologías emergentes están poniendo en entredicho el derecho de los pacientes (y de los ciudadanos en general) a estar debidamente informados y a que sus datos personales estén protegidos del dominio público; por tanto, es evidente que la IA, un paso más en términos de nuevas tecnologías, reclama por sí misma una regulación específica para preservar el derecho de las personas a saber.

Un segundo ámbito de reflexión es el de los llamados senior care, la atención médica a las personas mayores. Según un reciente informe de la revista médica británica The Lancet, en el contexto de los cuidados a largo plazo de las personas mayores, las intervenciones mejoradas con IA son “innovaciones prometedoras que podrían remodelar el panorama global” ⁽¹³⁾.

La situación es la siguiente: en los países con mayor desarrollo económico la población envejece, los cuidadores no remunerados (es decir, familiares o voluntarios) son cada vez más escasos y los remunerados son cada vez más costosos. En este contexto, la adopción de servicios tecnológicos que “ayuden a las personas en las actividades de la vida diaria y fomenten la participación social y la gestión de las enfermedades crónicas” ⁽¹³⁾ es bienvenida, aunque no sean servicios otorgados por personas. Los rastreadores biométricos vestibles, capaces de detectar cambios físicos repentinos o caídas y emitir una alarma, llevan bastante tiempo en el mercado. Hay diferentes sistemas y diferentes técnicas: AiCure hace uso de las cámaras de los smartphones y de un algoritmo de IA para controlar la toma de medicación por parte de ancianos que pueden tener problemas de vista, destreza, cognición o pérdida de memoria ⁽¹⁴⁾; ElliQ, desarrollado por Israel Intuition Robotics, puede entretener a los ancianos con conversaciones sencillas, recordarles que tomen su medicación, acompañarles en actividades físicas ligeras e integrarse con plataformas de mensajería y redes sociales, para permitir a la familia monitorizar a distancia el estado del anciano ⁽¹⁵⁾. Las propuestas del laboratorio californiano Cherry Labs, cuyo objetivo es “más seguridad, más productividad y menos costos” ⁽¹⁶⁾, ayudan a las personas mayores a gestionar la última parte de su vida, siempre que estén dispuestas a equiparse con seis cámaras de IA con grabadoras de sonido, acepten el uso del reconocimiento facial y la posibilidad de que los familiares y cuidadores controlen en tiempo real cómo y dónde se encuentra el paciente ⁽¹⁷⁾.

Para la IA, la tercera edad es un tema de estudio enfocado en desarrollar soluciones sostenibles. Esto lleva a temas delicados, como el esfuerzo por aumentar la longevidad de las personas y disminuir sus deficiencias y discapacidades físicas y mentales.

De hecho, no hay que olvidar que, incluso en el desarrollo de la IA, “necesitamos el toque humano”, como sugiere Takahashi ⁽¹⁸⁾. El peligro de la despersonalización de la medicina debido a la aplicación de la IA es tangible y puede repercutir en la calidad de la atención. En concreto, la relación médico-paciente puede verse afectada por la aplicación de la IA, ya que “los médicos están perdiendo su monopolio sobre las habilidades médicas y que, como consecuencia, los pacientes no respeten a los médicos tanto como antes”. Teniendo en cuenta la responsabilidad profesional que forma parte de la profesión médica, la erosión de la estrecha relación entre médicos y pacientes es una crisis que no puede ignorarse. Los médicos deben ser conscientes del impacto de esta crisis y buscar formas de evitar tal desastre” ⁽¹⁸⁾. Y esto es especialmente cierto en la atención a los ancianos, en la que los pacientes son sujetos frágiles no sólo por ser pacientes, sino también por ser un grupo de población vulnerable.

Desde este punto de vista, debemos seguir un enfoque antropocéntrico desde una perspectiva jurídica ⁽¹⁹⁾: no sólo en el plano teórico, sino también en el práctico, es importante no olvidar la centralidad de la dignidad humana cuando el proceso de toma de decisiones es automático y se delega en la IA. Como sugiere Spiller, este supuesto es un elemento clave para analizar dos principios fundamentales:

Por un lado, está el principio de lo digital por defecto: una estrategia basada en la presunción de que la tecnología puede contribuir positivamente a la eficiencia de los procedimientos de toma de decisiones para convertirlo en un nuevo derecho. Por otro, en cambio, están las cuestiones relativas al denominado principio de no exclusividad: procesos que garantizan el derecho a impugnar decisiones basadas en datos ante un operador humano experto ⁽¹⁹⁾.

Además, no es obvio que la consecución de los increíbles descubrimientos realizados gracias a la IA contribuya en un futuro a un sistema sanitario más equitativo. De hecho, como afirma Rigoli ⁽²⁰⁾, por un lado:

Los avances graduales mediante el uso de la inteligencia artificial en muchos aspectos de los servicios sanitarios permiten ampliar el alcance y los beneficios del conocimiento y la curación [...]. Al mismo tiempo, un número inquietante de estudios comienzan a mostrar cómo este potencial es también un amplificador de políticas sesgadas [y] puede reflejar las tendencias hacia la exclusión y la discriminación, o alternativamente, servir como una herramienta para facilitar y mejorar el acceso de la población vulnerable tanto para la atención como para la prevención ⁽²⁰⁾.

Además, la IA tiene el potencial “de amplificar las injusticias existentes, la falta de transparencia (incluso para sus propios diseñadores) del funcionamiento interno de la mayoría de los algoritmos, así como la producción y distribución global de aplicaciones de IA” ⁽²⁰⁾, lo que hace especialmente delicada su aplicación cuando se trata de poblaciones vulnerables.

Un último ejemplo se refiere a uno de los campos que involucra a los individuos en su dimensión más tangible: la salud. Según PricewaterhouseCoopers ⁽²¹⁾ (una red multinacional de empresas de servicios profesionales que opera en 158 países), la IA es claramente eficaz en la llamada detección precoz, en la que identificar enfermedades como el cáncer con precisión en las primeras fases, marca la diferencia. El caso del cáncer de mama es emblemático, donde la IA elimina casi por completo los falsos positivos: la precisión alcanzada es del 99% y se eliminan los costos de biopsias innecesarias ⁽²²⁾.

Entre los principales actores del sector figura DeepMind Health, una empresa británica controlada por Alphabet (matriz de Google) que saltó a la fama inicialmente por la precisión de sus diagnósticos. Entrenado para identificar diez patologías oculares a partir de escáneres ópticos, su sistema proporcionó indicaciones exactas en el 94% de los casos: porcentajes dignos de los mejores especialistas. Al mismo tiempo, sin embargo, adquirió los datos sensibles de 1,6 millones de pacientes sin haberles otorgado ninguna información previa. Los datos recogidos por el sistema incluían detalles de ingresos, altas, accidentes, enfermedades, cuidados críticos, pero también diagnósticos de VIH o depresión, sobredosis y otras urgencias.

En respuesta al escándalo, DeepMind Health creó un comité ético y posteriormente, en 2018, la empresa fue adquirida en su totalidad por Google y el asunto quedó aparcado. El año pasado, la empresa añadió el llamado “problema del plegamiento de proteínas” a su cartera de soluciones. El logro, celebrado por la Asociación Estadounidense para el Avance de la Ciencia como “Descubrimiento del año en 2021” ⁽²³⁾, consiste en identificar las proyecciones 3D, es decir, la estructura, de más de 200.000 proteínas conocidas. Esto debería conducir a una comprensión más profunda y rápida de las enfermedades y a la creación de nuevos medicamentos ⁽²⁴⁾.

Así como en otros campos, también en los de la salud, la medicina y la biología, el problema fundamental de la IA está representado por su asombrosa eficiencia. La IA procesa cantidades ingentes de datos en tiempos humanamente inaccesibles. Crea conexiones y relaciones entre elementos diversos. Analiza y perfila a los usuarios con una precisión asombrosa. Sobre todo, es una poderosa herramienta que ejecuta órdenes con precisión para obtener resultados. Al mismo tiempo, sin embargo, fragmenta tanto al ser humano como la relación entre médico y paciente en los llamados miniproblemas: una persona es atendida a través de un algoritmo, una app, sensores, análisis de datos y mucho más.

3. Llamamiento de Roma y desarrollo de una nueva algor-ética

En el contexto descrito hasta ahora, es quizás este último ejemplo el que se refiere al cuidado de la persona, aquel que ilustra más claramente un riesgo que emerge en todos los campos: la fragmentación hiperespecialista producida por las tecnologías más avanzadas puede hacer perder de vista la dimensión humana.

Cómo superar esta fragmentación y cómo acoger la urgencia se responde con lo expresado por el papa Francisco en las siguientes palabras: “¿Es necesario desarrollar razones sólidas que promuevan la perseverancia en la búsqueda del bien común, incluso cuando no se perciba ninguna ventaja inmediata?” ⁽²⁵⁾ Esta es la pregunta que en 2020 llevó a la Pontificia Academia para la Vida a organizar la conferencia “RenAIssance: por una inteligencia artificial humanista”, y a promover conjuntamente, el 28 de febrero del mismo año en Roma, la firma de una llamada a la responsabilidad.

Este documento, denominado Llamamiento de Roma por la Ética de la IA, fue firmado en primer lugar por monseñor Vincenzo Paglia, presidente de la Academia Pontificia para la Vida, Brad Smith, presidente de Microsoft, John Kelly III, director ejecutivo adjunto de IBM, Qu Dongyu, director general de la FAO, y la entonces ministra de Innovación Tecnológica y Digitalización, Paola Pisano, en nombre del Gobierno italiano, con la presencia y el respaldo del entonces presidente del Parlamento Europeo, David Sassoli ⁽²⁾.

La idea que subyace a la Convocatoria de Roma parte de la constatación de que las nuevas tecnologías, por muy potentes que sean, no pueden considerarse meros instrumentos para desempeñar determinadas funciones con mayor rapidez y eficacia.

La verdadera novedad es que esta nueva ola de tecnologías de la información se clasifica a sí misma, no como una tecnología determinada, sino como una tecnología general, es decir, como un tipo de tecnología que no realiza una única tarea específica, sino que cambia la forma en que hacemos todas las cosas ⁽²⁶⁾.

Al operar de este modo, la IA cambia la forma en que entendemos la realidad y a nosotros mismos, y plantea cuestiones radicales sobre la identidad del sujeto humano.

Para orientar los retos de la IA hacia el respeto de la dignidad de todo ser humano, el Llamamiento de Roma propone una algor-ética ⁽²⁷⁾, es decir, una ética de los algoritmos, no como instrumento de restricción, sino para proporcionar dirección y orientación. En palabras del pontífica, la algor-ética pretende:

Asegurar una revisión competente y compartida de los procesos por los que integramos las relaciones entre los seres humanos y la tecnología actual. En nuestra búsqueda común de estos objetivos, los principios de la doctrina social de la Iglesia pueden aportar una contribución decisiva: la dignidad de la persona, la justicia, la subsidiariedad y la solidaridad. Son expresiones de nuestro compromiso de estar al servicio de cada individuo en su integridad y de todas las personas, sin discriminación ni exclusión. La complejidad del mundo tecnológico nos exige un marco ético cada vez más claro, para hacer realmente efectivo este compromiso ⁽²⁸⁾.

El público objetivo es la sociedad en su conjunto, organizaciones, gobiernos, instituciones, empresas tecnológicas internacionales: todos son necesarios para compartir un sentido de responsabilidad que garantice a toda la humanidad un futuro en el que la innovación digital y el progreso tecnológico sitúen al ser humano en el centro.

Con el objetivo de promover una nueva algor-ética y compartir sus valores, los firmantes se comprometen a exigir el desarrollo de una IA que no se limite a obtener más beneficios o a sustituir gradualmente a los seres humanos en el lugar de trabajo; quienes lo suscriben también se comprometen a respetar seis principios fundamentales.

Los principios del Llamamiento de Roma son: transparencia, que por principio los sistemas de IA deben ser comprensibles; inclusión: deben tomarse en cuenta las necesidades de todos los seres humanos para que se puedan beneficiar de manera conjunta y ofrecer a todos los individuos las mejores condiciones posibles para expresarse y desarrollarse; responsabilidad: quienes diseñen y apliquen soluciones de IA deben hacerlo basándose en la responsabilidad y la transparencia; imparcialidad: no crear ni actuar según prejuicios, salvaguardando así la equidad y la dignidad humana; fiabilidad: los sistemas IA deben poder funcionar de manera fiable; seguridad y privacidad: también deben funcionar de forma segura y respetar la privacidad de los usuarios ⁽²⁹⁾.

Una contribución importante sobre el desarrollo de principios éticos en el ámbito de la IA y los sistemas digitales es el artículo publicado en Nature por Sinibaldi, que fomenta un enfoque y un debate transdisciplinarios ⁽³⁰⁾.

4. Llamamiento de Roma y Fundación RenAIssance

La primera firma de la Llamada de Roma en 2020 fue un acontecimiento histórico y también un gran comienzo. Del mismo modo que dentro de la bioética existen distintas ramas del conocimiento que participan en un debate permanente destinado a encontrar la mejor manera de cuidar a los seres humanos en la era de la tecnología, la Llamada de Roma reunió a sus primeros socios. A la convocatoria respondieron socios institucionales, como portadores de valor; tecnológicos, que implementan soluciones; y políticos, que regulan los límites de uso y gestión del mundo digital. La convocatoria de Roma tomó forma sobre la base de estos antecedentes y cuyo paso fundamental fue el tener aspiraciones compartidas de dignidad personal, justicia, subsidiariedad y solidaridad con socios capaces de marcar la diferencia.

Sin embargo, el Llamamiento de Roma no es sólo un momento simbólico de encuentro y adhesión; es ante todo un movimiento cultural que pretende provocar cambios, como se demostró durante la pandemia a pesar de las innumerables dificultades causadas por el distanciamiento forzoso y la imposibilidad de encuentros físicos entre realidades diferentes.

La COVID-19, que paralizó todo el planeta, puso de relieve el valor profético del Llamamiento de Roma. En un momento en que el encuentro presencial se hizo imposible, cuestiones como la gestión de datos, la relación entre médico y paciente, el papel del ser humano en la realización del trabajo, la privacidad y muchos otros aspectos captaron la atención de una serie de actores que hasta hace poco habían mostrado poco interés por la urgencia de una ética de la IA. Una mayoría de empresas han intentado hacer suya esta visión. Es interesante observar que incluso el mundo académico reconoció que carecía de herramientas intelectuales capaces de formar a sus miembros y, en consecuencia, decidieron tanto sumarse al llamamiento como desarrollar planes de estudios capaces de colmar esta laguna educativa.

La creación de la Fundación RenAIssance confirma el interés de la Santa Sede por un diálogo universal en la frontera entre la humanidad y la tecnología. El 12 de abril de 2021, el papa Francisco, a propuesta de monseñor Vincenzo Paglia, presidente de la Pontificia Academia para la Vida, instituyó esta institución con personalidad jurídica canónica pública. Ubicada en el Estado de la Ciudad del Vaticano a la que pertenece y en cuyo nombre actúa, la Fundación RenAIssance, sin ánimo de lucro, tiene como objetivo apoyar la reflexión antropológica y ética sobre el impacto de las nuevas tecnologías en la vida humana, y está inscrita en la lista de organizaciones no lucrativas (ONL) en la gobernación del Estado de la Ciudad del Vaticano.

Para alcanzar estos objetivos, la Fundación renAIssance pretende promover una reflexión antropológica y ética sobre la IA y las nuevas tecnologías entre personas cualificadas por su compromiso científico, eclesial, cultural, empresarial y profesional en la sociedad, asimismo, fomentar las iniciativas científicas y la colaboración con organismos internacionales, estados soberanos, universidades, centros de investigación, empresas privadas y públicas que desarrollen actividades, servicios y estudios en el campo de la IA para difundir la Convocatoria de Roma por la Ética de la IA y promover la recaudación de fondos para apoyar estas actividades.

La convocatoria sigue atrayendo el compromiso de muchos. En los dos años transcurridos desde que se firmó por primera vez, la Llamada de Roma ha sido objeto de una cuidadosa y constante difusión en organizaciones como Oracle, Facebook, la Fundación Mozilla, la Unesco, el Instituto de Bioética de la Universidad Católica de Buenos Aires, el Laboratorio de Tecnología Humana de la Universidad Católica de Milán, el MIT e innumerables otras.

Junto al debate entre las distintas partes interesadas, el interés por la aplicación concreta de la IA se puso de manifiesto en septiembre de 2020 con la organización del evento en línea que se llamó IA, alimento para todos. Diálogo y experiencias. En este contexto, la FAO, Microsoft e IBM se unieron a la Academia Pontificia para la Vida en el relanzamiento de los esfuerzos para desarrollar formas inclusivas de IA y promover formas sostenibles de lograr la seguridad alimentaria y nutricional ⁽³¹⁾. El evento de alto nivel se centró en identificar formas concretas en las que la IA puede contribuir al objetivo de alimentar a una población mundial estimada en casi 10,000 millones de personas para 2050, salvaguardando al mismo tiempo los recursos naturales y afrontando retos como el cambio climático y el impacto de acontecimientos mundiales como la pandemia de COVID-19.

5. Perspectivas

El impacto mediático del Llamamiento -su capacidad para percibir y dar forma a un sentimiento universal de urgencia- fue recompensado en 2021 por la Universidad de Stanford, que incluyó el Llamamiento de Roma en su Informe sobre el Índice de IA, clasificándolo como uno de los cinco temas de mayor actualidad del año anterior en el ámbito del uso ético de la IA ⁽³²⁾. Dicho informe constituye un prestigioso reconocimiento internacional: elaborado por el Institute for Human-Centred AI de la misma universidad, es un documento exhaustivo que anualmente esboza, recopila, analiza y presenta datos sobre la IA con el objetivo de proporcionar datos imparciales, rigurosamente auditados e internacionales a políticos, investigadores, gestores, periodistas y público en general con vistas a desarrollar, reflexionar y ampliar el conocimiento de esta tecnología específica. Además, merece especial atención la aplicación de la IA en el sistema sanitario, extremadamente sensible por su relación directa con sujetos frágiles.

También cabe destacar en 2021 la presentación del Llamamiento de Roma a la Coalición para la Libertad en Línea, una asociación de 32 gobiernos comprometidos a trabajar juntos para apoyar la libertad en Internet y proteger los derechos humanos fundamentales (libertad de expresión, asociación, reunión y privacidad en línea) en todo el mundo.

Con el tan esperado debilitamiento de la pandemia de COVID-19 y la consiguiente posibilidad de volver a viajar, se vislumbran en el horizonte algunos acontecimientos importantes: a finales de octubre de 2022, en Indiana, Estados Unidos, en la Universidad de Notre Dame, representantes de universidades de todo el mundo firmarán el Llamamiento de Roma en el marco de la Cumbre Mundial de Universidades.

En enero de 2023, tendrá lugar en Roma la primera firma interreligiosa de un documento sobre la ética de la IA, en la que representantes de las tres religiones abrahámicas (hebraísmo, cristianismo e islamismo) se unirán para pedir el desarrollo de una IA que respete los principios del documento. Está previsto que las principales religiones asiáticas debatan y firmen el Llamamiento a finales del año 2023 en Tokio.

La idea de confrontar valores universales compartidos, alejándose de un modelo puramente occidental, representa el nuevo horizonte: un horizonte basado en respetar, a cada paso, la singularidad y la dignidad del ser humano. Con este objetivo en mente, la ambición es ampliar el acuerdo para incluir más firmas de diferentes religiones y culturas.