I. Introducción

La inteligencia artificial (IA) refiere a los sistemas o máquinas que imitan la inteligencia humana para realizar diversas tareas. Gracias al aprendizaje automático, estos sistemas pueden mejorar iterativamente a partir de la información que recopilan. La IA se trata del conjunto de algoritmos, tecnologías y técnicas implicadas para que los softwares o las máquinas puedan realizar funciones cognitivas enfocadas en la toma de decisiones, la resolución de problemas, la búsqueda, la comprensión de imágenes, el procesamiento de datos y la interpretación de la información (^{Gutiérrez et al., 2018}).

En el contexto general, el uso de la IA en los gobiernos de muchos países se ha expandido en la última década. Gobiernos de países como Estados Unidos, China y Corea del Sur, así como la mayoría de los países de la Unión Europea, comenzaron a utilizar la IA para optimizar sus procesos organizacionales para una mejor prestación de servicios, para impulsar la interacción con los ciudadanos y para la toma de mejores decisiones (^{Valle-Cruz et al., 2020}). De hecho, autores como ^{Ronzhyn y Wimmer (2018)}, ^{Charalabidis et al. (2019)} y ^{Misuraca et al. (2020)} consideran que la implementación y el uso de la IA en el gobierno es una nueva etapa de desarrollo del gobierno electrónico, conocida como gobierno electrónico 3.0.

En el contexto particular de la pandemia de COVID-19 y el estado derivado conocido como la “nueva normalidad”,¹ el uso de la IA por parte de los gobiernos ha adquirido mayor relevancia (^{Bonales et al., 2020}; ^{Cascón-Katchadourian, 2020}; ^{Cotino-Hueso, 2020}; ^{Rivera-Eisenmann, 2021}). Esto se debe a que las administraciones públicas de todo el mundo se han visto en la necesidad de acelerar aún más sus estrategias de IA para la vigilancia y el monitoreo del comportamiento de la pandemia y de la población en general, para el seguimiento de los ciudadanos infectados con la enfermedad, para generar mapas informativos y modelos predictivos, así como para la prestación de servicios públicos y el intercambio de información a través de medios digitales (^{Sandoval-Almazán et al., 2020}). El uso de la IA ha permitido procesar y analizar la gran cantidad de información que ha producido la pandemia y que ha contribuido a la generación de estrategias que permiten mitigar algunos de sus impactos.

Es así como los chatbots se han convertido en una de las principales herramientas que utiliza la IA y que están siendo utilizados con mayor frecuencia en el ámbito público. De acuerdo con la Encuesta de Gobierno Electrónico de la Organización de las Naciones Unidas (ONU) de 2020, el número de gobiernos que utilizan chatbots en sus portales nacionales se duplicaron de 28 en 2018 a 59 en 2020. Con la llegada y permanencia de la pandemia de COVID-19, esta tendencia continúa al alza; por ejemplo, en marzo de 2020, la Organización Mundial de la Salud (OMS) lanzó un chatbot por WhatsApp para compartir consejos e información respecto a la COVID-19.

A partir de ese momento, la mayoría de los gobiernos nacionales y locales comenzaron a implementar sus propios chatbots a propósito de la pandemia, los cuales funcionan por WhatsApp, Facebook y otras redes sociales y plataformas. De esta manera, en la actualidad los chatbots son la principal herramienta para compartir información sobre la COVID-19, para el monitoreo y control de los contagios, para el seguimiento de los enfermos y sus síntomas, 88 así como para los trámites y dudas de los respectivos procesos de vacunación.

En el caso de México, los chatbots que funcionan a partir de IA también han comenzado a ser utilizados en los últimos años, con el propósito de contribuir a la gestión de la pandemia de COVID-19. Algunos ejemplos son los siguientes: MARCia del Instituto Mexicano de la Propiedad Industrial (IMPI), Susana Distancia y Dr. Armando Vaccuno de la Secretaría de Salud, Sam Petrino del gobierno municipal de San Pedro Garza García en el estado de Nuevo León, Victoria y Adelita sin Delito del gobierno de la Ciudad de México. Los chatbots como MARCia y Adelita sin Delito fueron creados para mejorar y facilitar la atención ciudadana, el intercambio de información, la atención de reportes y la prestación de servicios públicos. Por su parte, los chatbots como Sam Petrino y Victoria fueron implementados inicialmente para cumplir los objetivos antes mencionados, incorporando posteriormente funciones para atender temas relacionados con la COVID-19. Por último, los chatbots como Susana Distancia y Dr. Armando Vaccuno fueron creados exclusivamente con motivo de la pandemia de COVID-19.

El uso de los chatbots en el gobierno, al igual que todas las herramientas que funcionan a partir de IA, han generado ciertos debates en los ámbitos público y académico en cuanto a las preocupaciones éticas que emergen al implementar dichas herramientas. Esto se debe a que, si bien el uso de ciertas tecnologías -como es el caso de la IA- puede representar una oportunidad para mejorar la gestión de algunos servicios, también puede aumentar la desigualdad en el acceso y el control de la información, acrecentar la vulnerabilidad y privacidad de los datos personales, generar mal uso de los datos, hacer difusa la responsabilidad del gobierno y dificultar la alineación de valores en los servicios públicos (^{Ronzhyn y Wimmer, 2019}).

Por ejemplo, los chatbots permiten la toma de decisiones de forma automatizada, lo que se traduce en una falta de transparencia y en una disociación de la responsabilidad, pues no está claro cómo se toman las decisiones ni quién se hace responsable en caso de tomar una mala decisión por parte de los algoritmos utilizados. Estas preocupaciones éticas pueden tener repercusiones negativas para los usuarios y la ciudadanía en general, además de que resultan ser fundamentales al momento de que los usuarios acepten o adopten las diferentes herramientas que utilizan la IA (^{Misuraca et al., 2020}).

En el contexto de la pandemia de COVID-19, la OMS mencionó que las herramientas de gobierno electrónico, como los chatbots, son fundamentales para hacerle frente a este problema. Adicionalmente, este organismo internacional menciona que la pandemia sorprendió de manera legal a muchos gobiernos alrededor del mundo, pues no se tienen los marcos regulatorios adecuados para gestionar muchas tecnologías que utiliza el gobierno electrónico, como la IA. En este sentido, dicho organismo enfatizó que la urgencia por ₈₉ utilizar estas tecnologías y la ausencia de marcos regulatorios no deben ser un pretexto para vulnerar la privacidad, la protección y la transparencia en torno al uso de datos personales (^{OMS, 2020}). Tal y como menciona Parselis: “El interés por estudiar y gestionar la trazabilidad de contagios en una pandemia no puede generar tecnologías que lesionen derechos individuales a la privacidad que el Estado debe garantizar, además de auditar el proceso de diseño y gestión de dicha tecnología” (2020: 326).

Para ello, la OMS emitió una serie de recomendaciones que deben seguir todas las herramientas de gobierno electrónico que sean utilizadas con motivo de la pandemia de COVID-19 para garantizar el derecho a la información y la privacidad, y son las siguientes: deben ser de carácter voluntario; tienen que ser transparentes en cuanto a la recopilación, almacenamiento y uso de los datos; deben de priorizar la privacidad de los usuarios (especialmente de aquellos que resulten positivos para COVID-19); los datos deben almacenarse de forma descentralizada; es necesario contar con protocolos estrictos de ciberseguridad, y los datos se deben conservar por un tiempo limitado (^{OMS, 2020}).

En este sentido y dada la coyuntura actual, es de gran relevancia identificar y analizar cuáles son las principales preocupaciones en torno a los valores éticos que emergen al implementar chatbots con IA en el gobierno con motivo de la pandemia de COVID-19. Esto se hace con el fin de proponer marcos regulatorios innovadores que garanticen que esas herramientas sean implementadas bajo un marco ético para beneficio de los usuarios y los ciudadanos, favoreciendo así su aceptación y adopción. Por lo tanto, la pregunta que conduce esta investigación es la siguiente: ¿cuáles son las principales preocupaciones éticas y legales, fundamentalmente con respecto a la transparencia y al derecho a la información, implicadas en la implementación de chatbots basados en IA en México en el contexto de la pandemia de COVID-19?

Para responder esta pregunta se analiza el caso particular de dos chatbots implementados por el gobierno federal de México a propósito de la COVID-19: Susana Distancia y Dr. Armando Vaccuno. El objetivo de esta investigación es identificar y analizar las principales preocupaciones éticas que emergen al implementar y utilizar estos chatbots, las cuales son: 1) rendición de cuentas; 2) transparencia; 3) privacidad; 4) confianza, y 5) inclusión.

En este artículo se plantea como hipótesis que el gobierno mexicano cuenta con un marco legal débil e inadecuado ante los retos éticos que implica la implementación de la IA dentro de la esfera pública. Esa carencia genera afectaciones a la transparencia, la rendición de cuentas y la privacidad de los usuarios, vulnerando el derecho a la información y generando una percepción de desconfianza y exclusión, lo cual se traduce en un bajo nivel de apropiación por la sociedad.

La metodología de la investigación consiste en un análisis exploratorio, en el que se efectuó un sondeo abierto de percepción ciudadana para identificar la opinión de los usuarios en torno a las cinco preocupaciones éticas men cionadas. El cuestionario que conforma el sondeo fue diseñado a partir de la aplicación Google Forms, lo que permitió difundir el cuestionario a través de redes sociales, como Facebook y WhatsApp, así como por correo electrónico.

La estructura del trabajo es la siguiente: en el segundo apartado se mencionan los principales conceptos y las preocupaciones éticas relacionadas con la IA y los chatbots en el gobierno; en el tercer apartado se describe la metodología empleada para el diseño y la aplicación del sondeo de percepción ciudadana; en el cuarto apartado se desarrollan los casos estudiados y se analizan los resultados obtenidos mediante el sondeo, y en el último apartado se plasman las principales conclusiones de este trabajo, las limitaciones y las futuras líneas de investigación.

II. Gobierno electrónico, inteligencia artificial, chatbots y preocupaciones éticas con respecto a la transparencia y el derecho a la información

El gobierno electrónico se refiere al uso, desarrollo e implementación de las tecnologías de la información y comunicación (TIC) en el sector público, con el fin de mejorar y hacer más eficientes los procesos organizacionales (LunaReyes et al., 2015), proveer nuevos y mejores servicios públicos (^{Massal y Sandoval, 2010}), promover la transparencia y la rendición de cuentas (^{Seo et al., 2018}) y generar mecanismos más eficientes de participación democrática (^{Misuraca et al., 2020}).

El uso de las TIC en las tareas cotidianas del gobierno comenzó a principios de la década de los sesenta al introducir computadoras para la automatización de algunas tareas repetitivas (^{Luna-Reyes et al., 2015}). Sin embargo, es hasta la década de los noventa cuando el fenómeno del gobierno electrónico se reconoce propiamente como tal,² al introducir la Internet en las organizaciones públicas para hacer más eficientes los procesos organizacionales y la prestación de servicios, principalmente sustituyendo muchas de las transacciones que eran realizadas en papel por transacciones electrónicas y digitales (^{Charalabidis et al., 2019}).

En las últimas décadas, el fenómeno del gobierno electrónico se ha expandido y se ha vuelto más complejo. Esto se debe principalmente a que los gobiernos de todo el mundo han utilizado las TIC con mayor intensidad en sus ⁹¹ tareas cotidianas, y para ello han introducido tecnologías cada vez más complejas, como las nuevas generaciones de Internet, las redes sociales, el cómputo en la nube, el Big Data y, más recientemente, la IA. De acuerdo con autores como ^{Nam (2013)}, ^{Valle-Cruz y Sandoval-Almazán (2014)}, ^{Ronzhyn y Wimmer (2018)}, ^{Charalabidis et al. (2019)} y ^{Misuraca et al. (2020)}, la introducción e implementación de estas tecnologías en el gobierno se conoce como gobierno electrónico 3.0.

Países como Estados Unidos, Corea y China, así como la mayoría de los países de Europa, tienen estrategias nacionales de gobierno electrónico centradas en la IA para la optimización de sus procesos organizacionales, la prestación de servicios y la toma de decisiones (^{Valle-Cruz et al., 2020}). Por otro lado, algunos gobiernos han implementado proyectos aislados que tienen como eje el uso de la IA y que se han convertido en casos exitosos a nivel nacional (^{Sandoval-Almazán et al., 2020}).

La IA se refiere a las funciones cognitivas típicamente asociadas con la inteligencia humana, pero que son realizadas por parte de las máquinas, las computadoras y los softwares, con el objetivo de resolver problemas a partir de algoritmos y técnicas de aprendizaje automático que recopilan información para adquirir conocimientos, permitiendo la toma de decisiones autónomas (^{Ronzhyn y Wimmer, 2018}). La IA tiene un gran potencial para transformar las funciones del gobierno, ya que puede hacer los procesos más eficientes y precisos, mejorar la interacción con los ciudadanos al recopilar y procesar mayor cantidad de información, brindar servicios de mayor calidad y de carácter personalizado, realizar una mejor toma de decisiones y permitir el diseño y la evaluación de políticas públicas (^{Valle-Cruz et al., 2020}).

Con la llegada de la llamada “nueva normalidad”, los gobiernos nacionales y locales de todo el mundo se han visto en la necesidad de acelerar aún más sus estrategias de gobierno electrónico. La IA es una de las tecnologías que ha mostrado un creciente incremento de su uso debido a dicha situación, y se ha utilizado principalmente para la prestación de servicios a distancia, para la vigilancia y el monitoreo del comportamiento de la pandemia y de la población en general, así como para generar mapas informativos y modelos predictivos de los contagios (^{Sandoval-Almazán et al., 2020}). Estas estrategias han permitido de cierta manera mitigar los impactos de la pandemia.

El uso generalizado e intensivo de las TIC en los gobiernos ha generado impactos positivos en los últimos años y en la coyuntura inmediata. Sin embargo, esto también implica grandes retos en torno al derecho de acceso a la información, pues se han generado mayores brechas como resultado de la diversidad de acceso y uso de las TIC por parte de los distintos estratos poblacionales. Adicionalmente, la falta de legislaciones o marcos normativos que brinden confianza a las y los usuarios sobre el uso de la información recopilada ha provocado que gran parte del debate público y académico referente al tema se centre en abordar los problemas éticos que surgen cuando el gobierno implementa estas tecnologías.

En términos generales, la ética en el gobierno se refiere al sistema de valores y normas que está implicado en todos los procesos de gobierno, desde la selección de los problemas públicos, los métodos para definirlos y su racionalidad hasta el desempeño de las instituciones públicas y sus funcionarios (^{Bautista, 2007}; ^{Uvalle, 2014}). Es fundamental que el espacio público a cargo de los gobiernos sea regulado por valores normativos que definan ventajas, restricciones y sanciones, así como un sistema de incentivos que motive a los individuos a obrar con sentido constructivo en la vida democrática (^{Uvalle, 2014}). La legalidad, la imparcialidad, la justicia, la igualdad, la libertad, el pluralismo, la responsabilidad, la inclusión, la participación y la transparencia son algunos de los valores de un gobierno democrático que tienen como horizonte la preservación del interés público, generar conductas en favor de la vida colectiva y el sentido de pertenencia a la vida comunitaria, así como asegurar el bienestar general de los ciudadanos y los grupos de interés (^{Uvalle, 2014}; ^{Ronzhyn y Wimmer, 2019}). Por lo tanto, la ética de gobierno es el elemento fundamental para garantizar la confianza y la legitimidad del gobierno ante la sociedad, lo cual es vital en cualquier sistema democrático, en donde los ciudadanos esperan que la acción pública sirva a la pluralidad de intereses con equidad y que se administren los recursos de forma correcta (^{Bautista, 2007}).

En términos particulares y en el contexto actual en el cual el uso de las TIC por parte del gobierno se ha intensificado, la ética en el gobierno adquiere mayor relevancia. Esto se debe a que dichas tecnologías permiten generar, recolectar, almacenar, procesar y distribuir importantes cantidades de información, gran parte de la cual está conformada por datos personales de los usuarios que utilizan los servicios públicos; estos datos son considerados sensibles, pues contienen información sobre la identidad, las características y las acciones de los ciudadanos (^{Luna-Reyes et al., 2015}). Adicionalmente, el uso de estas tecnologías acentúa la relación desigual entre el gobierno y los ciudadanos, ya que el gobierno tiene el control de la información, mientras que los ciudadanos pueden ser dependientes y vulnerables (^{Ronzhyn y Wimmer, 2019}). Finalmente, las TIC tienen un potencial transformador en la vida y los valores públicos; por lo tanto, pueden ser usadas para modificar las conductas ₉₃ de los ciudadanos (^{Ronzhyn y Wimmer, 2019}). En este sentido, resulta fundamental que la implementación de estas tecnologías por parte de los gobiernos sea enmarcada dentro de un marco ético que cuente con un sistema de valores y normas enfocadas en salvaguardar el bienestar de los individuos y la sociedad en general.

^{Ronzhyn y Wimmer (2019)} realizan una exhaustiva revisión de la literatura e identifican diez valores en torno a los que se han manifestado preocupaciones éticas cuando se habla de gobierno electrónico: 1) inclusión; 2) privacidad; 3) uso de datos; 4) calidad y precisión de la información; 5) transparencia; 6) rendición de cuentas; 7) propiedad de la información; 8) confianza; 9) alineación de valores, y 10) costos.

Las preocupaciones éticas sobre estas categorías son consideradas una de las principales barreras para la transformación digital en el ámbito gubernamental en la actualidad. Esto se debe a que la falta de consideración o el incumplimiento de estos valores éticos genera afectaciones en los derechos de los usuarios y los ciudadanos. Dichas afectaciones provocan que la aceptación y adopción de las nuevas tecnologías por parte de los usuarios y los ciudadanos se pueda ver comprometida. Por ejemplo, aquellas nuevas tecnologías que no son consideradas transparentes y que no garanticen la privacidad de la información de los usuarios no generarán confianza y, por lo tanto, no serán aceptadas por la ciudadanía en general ni utilizadas por los usuarios potenciales.

En otras palabras, para que estas tecnologías sean aceptadas y utilizadas, y generen impactos positivos dentro de la sociedad, además de contar con características técnicas superiores, es necesario que se respeten el derecho a la información, la transparencia y la rendición de cuentas, y que existan condiciones necesarias para la protección de datos y privacidad de la información, restricciones claras sobre el uso, distribución y almacenamiento de los datos, así como mecanismos de ciberseguridad para evitar el robo de datos.

En el contexto particular del uso de la IA en el gobierno, el debate sobre las preocupaciones éticas se ha vuelto aún más recurrente y complejo (^{Valle-Cruz et al., 2020}; ^{Misuraca et al., 2020}). Esto se debe a que el uso de estas tecnologías aumenta exponencialmente la recopilación, la generación, el almacenamiento, el procesamiento, el uso y la difusión de la información y, por consiguiente, de los datos personales de los ciudadanos, generando así una mayor vulnerabilidad (^{Ronzhyn y Wimmer, 2018}). De acuerdo con ^{Ronzhyn y Wimmer (2019)}, las principales preocupaciones éticas asociadas al uso de la IA en el gobierno son:

En el contexto actual de la pandemia de COVID-19, en donde las herramientas de IA han adquirido mayor difusión e importancia, resulta fundamental analizar las preocupaciones en torno a estos valores éticos en busca de un mayor entendimiento de su dinámica e impactos. Esto se hace con la finalidad de generar propuestas que eventualmente se traduzcan en lineamientos y marcos regulatorios innovadores que garanticen que las nuevas tecnologías serán implementadas bajo un marco ético que minimice los riesgos para los usuarios, y con ello favorecer una mayor aceptación por parte de los ciudadanos y un mayor uso por parte de los usuarios (^{Oszlak, 2020}).

Este trabajo pretende contribuir con dicho propósito y se enfoca al análisis de los chatbots, que son una de las herramientas que utilizan IA y que figuran como una de las principales estrategias del gobierno electrónico que se están implementando en todo el mundo.

Los chatbots son interfaces que simulan una conversación humana a partir de la IA y el aprendizaje computacional, lo cual permite asociar el lenguaje introducido y la toma de decisiones para brindar algún tipo de información o un servicio de forma autónoma (^{Cabello et al., 2018}; ^{Rivera-Eisenmann, 2021}). Los chatbots no sólo sirven para responder preguntas sencillas, sino que también son asistentes digitales que aprenden a través de la interacción para ofrecer una comunicación cada vez más inteligente y personalizada. Adicionalmente, los chatbots funcionan las 24 horas del día, los siete días de la semana, con lo que se puede obtener una respuesta prácticamente inmediata, reduciendo drásticamente el tiempo de respuesta de los servicios tradicionales (^{Herrera-Monje, 2021}).

En el caso de su aplicación en el gobierno, los chatbots pueden permitir brindar información básica con fines de transparencia, rendición de cuentas y prestación de servicios; no obstante, sobre todo y a partir del aprovechamiento del Big Data y el cómputo en la nube, los chatbots pueden usarse para el aprovechamiento de grandes conglomerados de datos para comprenderlos, procesarlos y analizarlos, lo que puede apuntar al mejoramiento en la prestación de servicios y el fomento a la participación directa de la ciudadanía, todo esto de forma automatizada y con un aprendizaje constante (^{Rivera-Eisenmann, 2021}).

Al igual que otras herramientas que utilizan la IA, el uso de chatbots se ha incrementado durante la pandemia de COVID-19, pues los gobiernos han visto en esta herramienta un aliado para la prestación de información y servicios a distancia, para compartir información sobre el virus y la enfermedad derivada, para monitorear y controlar los contagios, para el seguimiento de los enfermos y sus síntomas, así como para los trámites y dudas sobre la disponibilidad hospitalaria y los procesos de vacunación (^{Cascón-Katchadourian, 2020}; ^{Cotino-Hueso, 2020}; ^{Herrera-Monje, 2021}; ^{Peña-Torres et al., 2022}).

En este trabajo se aborda el caso de dos chatbots: Susana Distancia y Dr. Armando Vaccuno, que han sido implementados en el gobierno de México por motivos de la COVID-19. Se analizan las preocupaciones éticas referentes a los siguientes valores de gobierno: 1) rendición de cuentas; 2) transparencia; 3) privacidad; 4) confianza, y 5) inclusión. También se generan una serie de recomendaciones y lineamientos para la implementación ética de este tipo de herramientas. En el siguiente apartado se describe la metodología empleada para este fin.

III. Metodología

Para cumplir con el objetivo de este trabajo, la metodología se dividió en dos partes. En la primera parte se presentó un análisis exploratorio para conocer las principales características de los chatbots Susana Distancia y Dr. Armando Vaccuno, así como los debates éticos que han generado sobre los datos personales, la privacidad, la transparencia, la confianza, la inclusión y la responsabilidad. Este ejercicio exploratorio se basó en el análisis documental hemerográfico, en el cual la información que se recopiló, seleccionó y procesó proviene de diferentes fuentes externas, como artículos académicos, artículos periodísticos, documentos de instituciones mundiales y documentos de organismos nacionales.

En la segunda parte se aplicó un sondeo abierto a la población para identificar la percepción de la ciudadanía sobre los chatbots Susana Distancia y Dr. Armando Vaccuno en México. Se buscó identificar la opinión de los usuarios sobre cinco valores éticos que generan preocupaciones y están relacionados con el uso de la IA en el gobierno y el derecho de acceso a la información, los cuales son: 1) la responsabilidad; 2) la privacidad; 3) la inclusión; 4) la transparencia, y 5) la confianza.

La elección metodológica del sondeo como herramienta responde a los siguientes criterios: permite recolectar información sobre la opinión pública de los ciudadanos de forma ágil; es adecuado para hacer análisis empírico exploratorio y conocer el panorama general de un tema en particular; es rápido y conciso, y puede ser aplicado a través de medios como la Internet y las redes sociales. El cuestionario que conforma el sondeo que se usó fue diseñado a partir de la aplicación Google Forms. Esto permitió difundir el cuestionario a través de redes sociales, como Facebook y WhatsApp, así como por correo electrónico, aplicándolo durante abril de 2022. La población objetivo del sondeo fueron personas mayores de quince años que habitan en el territorio mexicano.

El cuestionario consta de tres secciones. En la primera sección se preguntan datos generales de los participantes, como edad, género, último grado de estudio y sector en el que laboran; también se pregunta si han utilizado algunos de los chatbots Susana Distancia y Dr. Armando Vaccuno. Si los participantes han utilizado alguno de estos chatbots, el sondeo continúa en la segunda sección; si no los han utilizado, el sondeo continúa en la tercera sección.

En la segunda sección se pregunta a los participantes la principal razón por la que han utilizado los chatbots mencionados. Posteriormente, se les hacen cuatro preguntas de cada una de las preocupaciones éticas que son objeto de este trabajo. Por otro lado, en la tercera sección se pregunta a los participantes la principal razón por la que no han utilizado los chatbots. Después, se hacen las mismas preguntas que a aquellos que sí utilizaron la aplicación. Cabe mencionar que todas las preguntas realizadas en el sondeo son de opción múltiple.

Es necesario puntualizar que el sondeo no permite generalizar ni presentar resultados concluyentes sobre el comportamiento poblacional y se pueden presentar sesgos, dado que su diseminación se ubica sobre todo en población urbana con cierto nivel de escolaridad, acceso a Internet y medios digitales. Además, al usarse como estrategia “la bola de nieve”, se conecta fundamentalmente con un círculo de personas con características similares o cercanas. No obstante, a pesar de las limitaciones, en este trabajo se considera que, dada la coyuntura de lo que significa el uso de los chatbots elegidos, era un instrumento que valía la pena utilizar para poder recopilar información lo más rápido posible. Finalmente, se reconoce que el número de respuestas también es una limitante; sin embargo, la tendencia coincide con otro tipo de análisis que han levantado este tipo de percepciones.

IV. Chatbots y COVID-19: ética, responsabilidad y acceso a la información en México

V. Conclusiones

El desarrollo y uso de la IA puede tener un gran impacto en muy diversas áreas de la vida económica y social. Los sistemas autónomos podrían permitir avanzar en el procesamiento de grandes datos de información y contribuir con una mejor toma de decisiones. La actual pandemia de COVID-19 marcó un punto de inflexión para el uso de esta tecnología dentro del gobierno, ya que fue utilizada de manera intensiva en diversas herramientas para el monitoreo y control de los contagios, así como para la prestación de servicios a distancia. Esto permitió contener la propagación de la enfermedad y mitigar algunos de los efectos negativos de la pandemia, y observar así de forma inmediata los beneficios del uso de la IA en la esfera pública.

A pesar de los beneficios esperados y observados de la IA, su uso también plantea grandes retos importantes sobre la forma en que este tipo de tecnología actúa y los riesgos asociados. Si bien se arguye que las decisiones basadas en IA pueden ser más informadas y carentes de sesgos y subjetividad, esto no es del todo cierto, ya que dichas decisiones son susceptibles a inexactitudes, sesgos y discriminación.

Asimismo, existe una persistente preocupación por la falta de transparencia no sólo en la forma en que se procesa la información y el tipo de uso y almacenamiento de ésta, sino también en la inteligibilidad de muchas de las decisiones, poniendo en duda la rendición de cuentas por parte de las organizaciones públicas que utilizan dicha tecnología. Esto ha sido motivo de diversas controversias que han llegado al ámbito judicial en distintos países, ya que hay fuertes sospechas de la puesta en marcha de prácticas de control y vigilancia resultado de la recopilación de datos, además de que no hay suficiente transparencia en cuanto a la privacidad de los usuarios y sus datos personales.

Todo lo anterior genera nuevas preocupaciones en torno a los valores éticos, el derecho a la información, la equidad y el riesgo que el uso de la IA representa para los derechos humanos. Se trata de un tema que en ningún país ha sido plenamente resuelto y que en el contexto mexicano todavía se carece de espacios de discusión y aún menos de materiales normativos sobre la ética en el uso de la IA. En este sentido, valdría la pena poner especial atención en los instrumentos que promueven algunas organizaciones internacionales, como la UNESCO, los cuales buscan generar marcos regulatorios y políticas nacionales e internacionales que permitan establecer condiciones éticas en el uso de la IA.

Dada la multiplicidad de aristas que se despliegan alrededor del tema, esta investigación se concentró en cinco valores éticos que generan preocupaciones relacionadas con el derecho de acceso a la información: la transparencia, la rendición de cuentas, la privacidad, la confianza y la inclusión. Adicionalmente, debido a las múltiples herramientas que utilizan IA, este trabajo centró su análisis en los chatbots, una herramienta que se ha difundido con mayor rapidez y, especialmente, con motivo de la pandemia de COVID-19.

Para analizar dichas preocupaciones éticas en el uso de chatbots, se aplicó un sondeo abierto a la población para identificar opiniones y percepciones, fundamentalmente, en el uso de dos chatbots en México: Susana Distancia y Dr. Armando Vaccuno, los cuales fueron elegidos dada la promoción para su uso durante la pandemia y por ser declarados en diversas ocasiones como parte de una estrategia fundamental del denominado “gobierno electrónico”.

Si bien se reconoce que el sondeo no es representativo del comportamiento poblacional y no puede generalizarse dadas sus características metodológicas, éste fue un instrumento útil que permitió analizar algunas de las preocupaciones mencionadas. De los resultados se destaca que hay un porcentaje importante de personas que, a pesar de conocer los chatbots, no han hecho uso de ellos, pues el número de personas que no han utilizado los chatbots resulta mayor en comparación de aquellos que sí los han utilizado. Esto podría estar relacionado con los altos niveles de desconfianza que se reportaron en el sondeo, los cuales son consecuencia de la falta de transparencia, de mecanismos para la rendición de cuentas y de medidas adecuadas para salvaguardar la privacidad de los datos personales de los usuarios. De hecho, tanto los usuarios como los no usuarios manifestaron una falta de información acerca de cómo son tratados y procesados los datos que se recopilan, una falta de credibilidad en la responsabilidad por parte del gobierno ante el funcionamiento de estas herramientas y, además, un alto nivel de preocupación sobre el uso, distribución y protección de sus datos personales.

A pesar de la desconfianza asociada a la falta de transparencia, rendición de cuentas y privacidad, las personas sondeadas dijeron considerar a los chatbots como un instrumento útil que favorece el derecho a la información a través de medios digitales. En términos de políticas públicas, esto puede representar una oportunidad para que los gobiernos hagan un uso más constante de este tipo de tecnología, siempre y cuando se subsanen los vacíos de información sobre los temas antes mencionados y, sobre todo, porque esto se relaciona directamente con el derecho a la información y a la transparencia, elementos que son piedra angular en el gobierno electrónico.

De modo que si los gobiernos en México, en sus distintos niveles, quieren transitar hacia el uso de este tipo de tecnologías digitales, se requiere desarrollar marcos normativos que expresen claramente qué tipo de información se recaba, cómo se procesa, quién queda a cargo de su tratamiento y almacenamiento, las instancias responsables de un mal funcionamiento y de las decisiones tomadas, así como el aseguramiento para que no haya fugas de información que vulneren la privacidad de los usuarios. También es necesario recalcar y asegurar que estas tecnologías no serán utilizadas como una medida de control y vigilancia de la población.