I. Introducción

El advenimiento de la tecnología deepfake ha traído consigo un nuevo paradigma con importantes ramificaciones sociales en una era caracterizada por los rápidos avances de la inteligencia artificial (IA) y sus diversas aplicaciones (^{Karnouskos, 2020}). La proliferación de los deepfakes, que implican la manipulación de contenidos audiovisuales mediante inteligencia artificial (IA) para lograr un efecto altamente realista, supone una amenaza significativa para múltiples industrias, tales como el cumplimiento de la ley, la política y los medios de comunicación (^{Pawelec, 2022}). En ese contexto, la tecnología deepfake se está extendiendo por las plataformas digitales, lo que presenta una compleja interacción de consideraciones éticas, tecnológicas y legales (^{Li & Wan, 2023}). Como resultado, los académicos y los responsables políticos requieren contar con una comprensión profunda de la cuestión y tomar medidas proactivas para abordarla.

Big Data proporciona vastos volúmenes de datos necesarios para entrenar modelos de IA, permitiendo que los algoritmos de ML y DL aprendan de grandes cantidades de ejemplos y variaciones (^{Nikolakopoulos et al., 2023}). La IA, en su núcleo, habilita la simulación de procesos cognitivos humanos, facilitando la creación de contenidos que imitan comportamientos y apariencias humanas de manera convincente (^{Staab, 2023}). El aprendizaje automático, particularmente el aprendizaje profundo, emplea redes neuronales profundas que pueden identificar y replicar patrones complejos en datos visuales y auditivos.

Estas redes son capaces de generar imágenes y videos hiperrealistas mediante técnicas como las Generative Adversarial Networks (GANs), que son fundamentales en la producción de deepfakes (^{Naitali et al., 2023}). Esta fusión de la creación de contenidos multimedia impulsada por la IA ha simplificado notablemente la producción de imágenes realistas pero generadas, difuminando los límites entre realidad y ficción como nunca antes. (^{Singh & Dhiman, 2023}). El desarrollo de la tecnología deepfake subraya su naturaleza interdisciplinaria y su importancia académica, ya que cruza las ciencias de la computación, la psicología cognitiva y los estudios de los medios de comunicación, a la vez que se basa en los principios del aprendizaje automático y las redes neuronales (Whittaker et al., 2023).

El debate en torno a los deepfakes en el ámbito académico abarca múltiples campos y aborda diversas preocupaciones, que van desde los efectos psicológicos de los medios de comunicación engañosos hasta las consecuencias sociopolíticas de la difusión de información errónea (^{Hameleers et al., 2024}). Los investigadores estudian activamente los intrincados procesos que intervienen en la creación y utilización de deepfakes, abordando cuestiones fundamentales relativas a la autenticidad, la legitimidad y la confianza en la era digital (^{Etienne, 2021}). (Etienne, 2021). Por otra parte, la naturaleza en constante evolución de la tecnología deepfake pone de relieve la necesidad permanente de una investigación interdisciplinaria exhaustiva para dilucidar sus impactos multifacéticos en la sociedad en su conjunto (^{Vasist & Krishnan, 2022}).

El uso generalizado de la tecnología deepfake supone un peligro importante para las instituciones democráticas mundiales y la credibilidad de los debates públicos (^{Berenzen, 2023}), debido a que los deepfakes permiten crear contenido audiovisual muy realista, aunque pero completamente inexistente o parcialmente modificado, lo que provoca divisiones dentro de las comunidades, socava la confianza en las fuentes mediáticas establecidas e influye en la opinión pública a escala mundial (^{Pawelec, 2022}). Las consecuencias de la difusión incontrolada de deepfakes son amplias y significativas, y exigen la aplicación de normativas proactivas y un enfoque académico inmediato. Estas consecuencias abarcan no solo la difusión de información errónea por parte de individuos malintencionados, sino también el potencial de actividades ciberdelictivas y la explotación del porno de venganza.

La acuciante necesidad de comprender mejor la compleja relación entre los avances en inteligencia artificial (IA) y los marcos jurídicos en la lucha contra el fraude digital ha impulsado la realización del presente artículo que aborda los aspectos tecnológicos y jurídicos en torno al deepfake. Esta revisión bibliográfica tiene como objetivo consolidar los conocimientos existentes, identificar las áreas donde se necesita más investigación y ofrecer ideas sobre posibles vías para futuras investigaciones e intervenciones políticas mediante el análisis de trabajos académicos de diversas disciplinas. Asimismo, el presente estudio pretende concientizar a los responsables políticos, los profesionales del derecho y los desarrolladores de tecnología sobre la importancia de la adaptación proactiva frente a las amenazas en evolución impulsadas por la IA. Para ello, examina las capacidades tecnológicas de la tecnología deepfake y los retos normativos asociados a ella.

Mediante este trabajo, se resalta la necesidad de contar sistemas jurídicos sean proactivos y adaptables al panorama en rápida evolución de la inteligencia artificial y su aplicación en la generación de contenidos multimedia realistas, aunque completamente inexistentes o parcialmente modificados. De ese modo, se pretende fomentar una comprensión integral de las conexiones entre los avances tecnológicos, los marcos jurídicos y las implicancias sociales en el ámbito de la tecnología deepfake.

La presente investigación se realizó a través de una revisión de literatura pertinente en relación con las dimensiones tecnológicas y jurídicas de la tecnología deepfake. Se llevó a cabo una investigación bibliográfica exhaustiva utilizando bases de datos acreditadas como Google Scholar, Scopus y Web of Science, incorporando términos de búsqueda como “deepfake “, “artificial intelligence” y “legal frameworks”. La búsqueda se restringió por fecha de publicación para abarcar trabajos de los últimos cinco años.

Los criterios de inclusión para este estudio abarcaron trabajos académicos, análisis jurídicos y documentos oficiales que analicen la tecnología deepfake, su impacto social y los enfoques normativos. Los criterios de exclusión consistieron en artículos de opinión y fuentes no revisadas por pares. Los artículos elegidos se evaluaron en función de su pertinencia, rigor e importancia, prestando especial atención a las perspectivas interdisciplinarias. La pertinencia se determinó considerando aquellos artículos que abordan directamente la intersección entre la inteligencia artificial, la generación de contenidos multimedia y los sistemas jurídicos. El rigor se evaluó en dos dimensiones principales. En primer lugar, el rigor con la teoría de la inteligencia artificial se clasificó como alto, medio o bajo, dependiendo de la profundidad y precisión con la que los artículos aplican y discuten las teorías y técnicas de inteligencia artificial. En segundo lugar, el rigor con la teoría del derecho se evaluó de manera similar, basándose en cómo los artículos integran y aplican conceptos jurídicos relevantes.

La revisión se centró en dar prioridad a los artículos que demostraban metodologías sólidas, y marcos teóricos cohesionados. En el proceso de síntesis de la literatura, se utilizaron técnicas de análisis temático y síntesis narrativa para mejorar la comprensión de los temas clave y ofrecer recomendaciones para futuras investigaciones e intervenciones mediante políticas públicas. Los resultados se integraron para presentar un examen exhaustivo de las dimensiones jurídicas y tecnológicas del deepfake, destacando la necesidad de una colaboración interdisciplinar y un ajuste proactivo para abordar eficazmente este problema emergente.

II. Inteligencia artificial, Big Data y aprendizaje automático

La definición de inteligencia artificial (IA) plantea que las máquinas sean capaces de imitar los procesos cognitivos humanos para mostrar comportamientos conscientes (^{Ng & Leung, 2020}). Lograr esta simulación requiere una colaboración entre las capacidades de las máquinas y la inteligencia humana. El conocimiento empírico humano, derivado de percepciones y experiencias, influye en la formación de opiniones y procesos de pensamiento (^{Glikson & Woolley, 2020}).

La intersección entre Big Data, inteligencia artificial (IA), aprendizaje automático (ML) y aprendizaje profundo (DL) es crucial para el desarrollo de deepfakes, ya que cada uno de estos componentes aporta capacidades esenciales para su creación y perfeccionamiento. La sinergia entre estas tecnologías no solo mejora la precisión y realismo de los deepfakes, sino que también acelera su desarrollo, planteando desafíos significativos en términos de ética, seguridad y regulación en el ámbito digital.

La importancia de los grandes conjuntos de datos reside en su capacidad para ser examinados mediante algoritmos de inteligencia artificial (IA), lo que facilita el reconocimiento de tendencias y la pronta aplicación de soluciones utilizando datos contextuales (^{Jagatheesaperumal et al., 2022}). La integración de la IA con los macrodatos es crucial para manejar y comprender amplios conjuntos de datos; su ausencia haría inviable la creación de auténticos materiales deepfake (^{Gambín et al., 2024}). Un componente integral de la IA es el aprendizaje automático o deep learning, mediante el cual una máquina adquiere conocimientos sustanciales sobre un tema concreto, los comprende y, posteriormente, aprovecha estos conocimientos para realizar funciones designadas (^{Khuat et al., 2022}).

Por ende, la creación eficaz de contenidos deepfake auténticos depende en gran medida de la interdependencia de amplios conjuntos de datos y técnicas avanzadas de aprendizaje automático. La sinergia entre estos componentes eleva la precisión y la autenticidad, enfatizando la calidad experiencial de los datos (Waseem et al., 2023). En esencia, la fusión de la inteligencia artificial, los vastos recursos de datos y el sofisticado aprendizaje automático significa una transición revolucionaria en la que los sistemas informáticos se esfuerzan por emular y mejorar las funciones cognitivas similares al comportamiento humano. (^{Tariq et al., 2023}).

III. Deepfake

La aparición del término “deepfake”, como combinación de “deep” (profundo) y “fake” (falso), se define como el uso de técnicas de aprendizaje profundo para fabricar contenidos mediáticos engañosos. Este término engloba tanto el proceso de creación como los medios manipulados resultantes (^{Heidari et al., 2023}). La tecnología deepfake permite alterar el contenido de los medios de comunicación sin interacción directa con el material original, lo que implica esencialmente la sustitución del rostro de una persona por el de otra en material mediático auténtico (^{Mukta et al., 2023}).

Es esencial aclarar que las manipulaciones van más allá de la sustitución facial, pues abarcan todo el físico, incluidas partes específicas del cuerpo asociadas a un individuo concreto (^{Ayers, 2021}). Asimismo, la tecnología deepfake trasciende los medios visuales para permitir manipulaciones de audio, especialmente en contextos de vídeo. Esta tecnología puede alterar auténticamente un diálogo hablado y generar contenidos en los que aparezcan personas pronunciando declaraciones que en realidad nunca hicieron (^{Farid, 2022}).

IV. Dilemas legales asociados a la tecnología Deepfake

La utilización de la tecnología deepfake presenta importantes dilemas éticos y jurídicos, a pesar de sus posibles ventajas (^{Diakopoulos & Johnson, 2021}). Principios jurídicos fundamentales como la protección del bienestar físico y espiritual, el derecho a la intimidad y el respeto de la vida personal y familiar están en peligro (^{Rizzica, 2021}). En la misma línea, elementos clave como la libertad de búsqueda artística y científica, junto con el derecho a expresar ideas y puntos de vista individuales, cobran una importancia crucial en el contexto del deepfake (^{Mammadzada, 2021}). En particular, la maleabilidad de las percepciones humanas plantea una grave amenaza. Por ejemplo, entidades malintencionadas podrían crear vídeos engañosos utilizando la imagen de alguna persona en contextos inapropiados, lo que podría dar lugar a extorsión (^{Greenough, 2022}).

Las implicaciones de la tecnología deepfake van más allá del ámbito personal, adentrándose en la esfera de la seguridad nacional, como ejemplifica un caso conmovedor de un vídeo de Jordan Peele en el que aparece la imagen falsa de Barack Obama (^{Bode et al., 2021}). Estos vídeos deepfake tienen el potencial de influir en la dinámica social y las relaciones internacionales, alertando a los organismos gubernamentales sobre cuestiones pertinentes. Reconociendo la gravedad de la situación, el Comité Permanente Selecto de Inteligencia de la Cámara de Representantes de Estados Unidos destaca la amenaza que supone el uso indebido de los sistemas de información en la creación de contenidos deepfake, que puede poner en peligro tanto a las personas como a la seguridad nacional (^{Pantserev, 2020}).

Las repercusiones de la tecnología deepfake en el ámbito jurídico abarcan una serie de implicancias complejas, pues si bien pueden utilizarse sistemas de información en su desarrollo, el mero acto de producir contenido deepfake no necesariamente constituiría necesariamente un delito (^{Montasari, 2024}). Por ese motivo, durante la determinación de la culpabilidad, la intencionalidad desempeña un papel fundamental (^{Kirchengast, 2020}). Por otro lado, el acto de generar material deepfake requiere un análisis de intencionalidad para explotar este contenido con objetivos de cometer fraude (^{Busacca & Monaca, 2023}).

V. Estrategias a nivel internacional para contrarrestar los peligros que presenta la tecnología deepfake

La creciente preocupación por el impacto de la tecnología deepfake ha puesto de relieve la necesidad de un examen detallado en el ámbito del derecho penal y la política para evaluar los avances jurídicos como paso fundamental hacia la aplicación de futuras medidas legales destinadas a mitigar los riesgos inherentes asociados a la tecnología deepfake. En ese sentido, el enfoque principal de este análisis gira en torno a las legislaciones que siguen evolucionando, tanto en Estados Unidos como la Unión Europea.

Avances regulatorios en Estados Unidos para abordar los desafíos de la tecnología deepfake

En la batalla legal global para combatir los riesgos asociados a la tecnología deepfake, Estados Unidos se ha situado como uno de los países pioneros en este ámbito. En el Estado de Virginia, la Virginia Assembly Bill 602 prohíbe la venta o distribución de contenido deepfake, lo que abarca el uso no autorizado de imágenes de particulares. Inicialmente, la difusión de imágenes auténticas y lascivas con fines de coacción o acoso se consideraba ilegal según las disposiciones del Código de Procedimiento Penal de Virginia sobre delitos de obscenidad. Posteriormente, el 18 de marzo de 2019, se implementó un ajuste para abarcar contenido explícito manipulado, lo que refleja un reconocimiento temprano de las amenazas en evolución que plantea la tecnología deepfake (^{Kugler & Pace, 2021}).

En el estado de Texas se implementó el 1 de septiembre de 2019, para hacer frente a la amenaza de los videos deepfake en las elecciones, la Texas Bill 751, una enmienda al Código Electoral de Texas, que prohíbe la creación y difusión de videos deepfake dentro de los 30 días de una elección, con el objetivo de dañar a los candidatos o manipular los resultados electorales. Los videos deepfake en este contexto se refieren a videos engañosos que retratan a individuos participando en acciones que en realidad no realizaron. Del mismo modo, el 22 de enero de 2019, Massachusetts presentó el proyecto de ley H.3366, que se centra en la regulación de la creación y distribución de contenido deepfake, especialmente dirigido a aquellos que producen o difunden deepfakes con fines maliciosos (^{Langa, 2021}).

En California se presentó el proyecto de ley 730 de la Asamblea (Berman) para hacer frente a la creciente amenaza que suponen los deepfakes. El proyecto de ley establece la prohibición de difundir, exhibir o compartir contenidos deepfake. En particular, la legislación prohíbe el uso de material deepfake para engañar a los votantes o dañar la reputación de los candidatos en las contiendas electorales (^{Lussier, 2022}). El 12 de junio de 2019, a nivel federal, se presentó la DEEP FAKES Accountability Act, una iniciativa legislativa que propone la creación de un registro de identidades fabricadas mediante tecnología avanzada y tiene como objetivo combatir la propagación de la desinformación facilitada por la tecnología deepfake (^{Kugler & Pace, 2021}).

La DEEP FAKES Accountability Act impide la creación de contenidos deepfake con la intención de difamar o desacreditar mediante representaciones de desnudos o actividades sexuales. Tipifica como delito las acciones que instiguen a la violencia, interfieran en las funciones oficiales, manipulen los debates sobre políticas públicas o perturben los procesos electorales. Asimismo, la legislación distingue entre grabaciones inalteradas y las modificadas sustancialmente mediante técnicas de deepfake. En algunos casos, puede haber excepciones para el uso de material deepfake ante circunstancias específicas, como medidas de seguridad nacional o pública (^{Langa, 2021}).

Por otro lado, la propuesta legislativa conocida como Deepfake Task Force Act recomienda crear un equipo especializado que se ocupe de identificar y evaluar los riesgos vinculados a la tecnología deepfake, así como de formular estrategias y políticas para mitigarlos. La propuesta es un componente fundamental de iniciativas de seguridad más amplias destinadas a salvaguardar los intereses nacionales de los peligros que plantea la tecnología deepfake y a ofrecer recursos legales a las víctimas afectadas por deepfakes maliciosos. La propuesta se encuentra actualmente en proceso legislativo en los Estados Unidos, en el marco del 117º Congreso (20212022), y debe ser revisada por el Comité de Seguridad Nacional de la Cámara de Representantes. (Congreso de Estados Unidos, 2022).

Marco regulatorio en la Unión Europea ante los desafíos de la Inteligencia Artificial y los deepfakes

En febrero de 2019, el Parlamento Europeo aprobó la Directiva (UE) 2018/958, la cual se centra principalmente en abordar cuestiones relacionadas con deepfakes dentro del sistema de justicia penal (^{Duminica & Ilie, 2023}). En colaboración con la Alianza Europea de IA, se plantean directrices que fomenten una estrategia europea cohesiva sobre el desarrollo de la IA. La motivación de esta directiva se debe a la urgente necesidad de un enfoque consolidado a escala de la UE para contrarrestar las considerables inversiones en IA de los rivales mundiales, especialmente China y Estados Unidos (^{Leiser, 2022}). Cabe destacar en esta Directiva su énfasis en abordar las amenazas potenciales para la democracia y los derechos fundamentales que plantea el uso malintencionado de la IA, en particular en lo relativo a la seguridad digital, el bienestar público y la autonomía individual.

Esta iniciativa construyó un marco que penaliza las prácticas que implican manipulación de la percepción con el fin de contrarrestar los efectos negativos de la IA, en particular en los casos en que el contenido personalizado distorsiona la realidad y tiene efectos desfavorables (^{Mahashreshty, 2023}). Del mismo modo, las medidas legislativas en Europa se centran en la lucha contra las estrategias engañosas, concretamente en el contexto de la influencia en las elecciones mediante la creación de contenidos falsos.

Adicionalmente, el Parlamento Europeo y el Consejo presentaron el 21 de abril de 2021 la propuesta de Reglamento de Inteligencia Artificial, con el objetivo de crear normas uniformes en el marco de la Ley de Inteligencia Artificial. Esta iniciativa establece responsabilidades claras, justas y explícitas a los proveedores y usuarios de sistemas de IA para garantizar la seguridad y el cumplimiento de la normativa vigente que protege los derechos fundamentales. El documento establece directrices basadas en el principio de transparencia, especialmente en lo relativo a las tecnologías deepfakes y chatbot (^{Tahraoui et al., 2023}).

Los retos que plantea la información errónea se destacan en la Guía de la Comisión Europea para mejorar la normativa sobre desinformación, especialmente en relación con la crisis de COVID-19. En el documento se abordan diversos modos de manipulación, incluidas amenazas emergentes como la tecnología deepfake, exigiendo estrategias eficaces para combatir estas prácticas engañosas. En medio de este amplio panorama normativo, la Unión Europea está formulando proactivamente medidas estrictas para protegerse contra los efectos adversos de la inteligencia artificial y la información falsa (^{Bayer et al., 2021}).

De acuerdo a ^{Casals (2023}), la Ley de Inteligencia Artificial (IA) de la Unión Europea, también conocida como Ley IA, es la primera normativa exhaustiva sobre IA implementada por un regulador de gran relevancia a nivel mundial.

Propuesta inicialmente en abril de 2021, la ley clasifica las aplicaciones de IA en tres categorías de riesgo: aplicaciones prohibidas, como los sistemas de puntuación social administrados por el gobierno; aplicaciones de alto riesgo, como las herramientas de selección de CV, que están sujetas a requisitos legales específicos y deben ser evaluadas antes de su comercialización y durante su ciclo de vida; y aplicaciones de bajo riesgo, que quedan en gran medida sin regular. La ley busca garantizar que los sistemas de IA utilizados en la UE sean seguros, transparentes, trazables, no discriminatorios y respetuosos con el medio ambiente. Además, establece requisitos de transparencia para la IA generativa, como ChatGPT, que debe revelar que el contenido ha sido generado por IA y evitar la generación de contenidos ilegales. Tras largas negociaciones, el Parlamento Europeo y el Consejo de la UE alcanzaron un acuerdo provisional sobre la ley en 2023, estableciendo un marco regulador robusto que fomenta la innovación tecnológica guiada por principios éticos y legales en la UE.

VI. La urgencia de un enfoque jurídico integral: Desafíos en la regulación de la tecnología deepfake

La propagación global de la tecnología deepfake es evidente a través de diversos casos en todo el mundo. Tal es el caso ocurrido en México, donde un estudiante de educación superior identificado como Diego “N”, ha sido acusado de poseer material pornográfico en su iPad, el cual contenía aproximadamente 160,000 imágenes íntimas, videos y fotos, tanto reales como manipuladas, de alrededor de mil mujeres, varias de las cuales eran estudiantes de su institución educativa. La investigación reveló que Diego “N” había utilizado varias aplicaciones para descargar y almacenar la información, lo que llevó a las autoridades a investigar posibles casos adicionales. Este caso ha generado preocupación entre padres de familia y autoridades educativas, ya que representa una violación a la privacidad y seguridad de las mujeres involucradas (^{El País México, 2023}).

En Chorrillos, Lima, Perú, se produjo un incidente en el que unos estudiantes manipularon indebidamente las imágenes de sus compañeros utilizando inteligencia artificial (IA) y luego las comercializaron como material pornográfico. En consecuencia, las autoridades han iniciado investigaciones sobre la utilización de la tecnología deepfake para la producción y difusión de contenidos explícitos. George’s College, la institución implicada en el asunto, ha especificado que los estudiantes bajo sospecha fueron suspendidos temporalmente a la espera de una investigación exhaustiva. Este caso subraya la necesidad de contar con regulaciones y repercusiones bien definidas en relación con el uso indebido de la tecnología deepfake, especialmente en los casos que implican engaño y daño a personas vulnerables como los menores de edad. (Perú21, 2023).

En Almendralejo, Badajoz, Extremadura, España, numerosas jóvenes se han convertido en víctimas de imágenes de desnudos generadas por inteligencia artificial y distribuidas entre sus compañeros a través de teléfonos inteligentes. Estas imágenes procedían de fotos de las estudiantes obtenidas de sus perfiles de las redes sociales, que fueron manipuladas utilizando un software basado en IA para producir versiones explícitas. Este preocupante suceso ha dado lugar a investigaciones sobre la producción y difusión de estas imágenes falsas, que han revelado la participación de al menos once estudiantes en el intercambio de contenidos a través de aplicaciones de mensajería como WhatsApp y Telegram. Asimismo, hay acusaciones de intentos de extorsión contra ciertas víctimas, amenazándolas con exponer estas imágenes falsificadas a sus familias (^{BBC News, 2023}). En consecuencia, el impacto de esta situación ha infundido temor y ansiedad entre la población femenina joven, haciéndola sentir expuesta y confinada en sus residencias.

Por ende, a falta de una legislación específica que regule las consecuencias jurídicas de las manipulaciones deepfake, es evidente que abordar esta cuestión no es actualmente una preocupación primordial en el ordenamiento jurídico regional. Sin embargo, a partir de modelos internacionales que han implementado estructuras legales, tal como es el caso de Estados Unidos y Unión Europea, se hace cada vez más evidente el imperativo de adoptar medidas legislativas en este ámbito. Por lo tanto, es esencial explorar posibles disposiciones penales en el contexto regional, específicamente en relación con los delitos en los que el contenido deepfake desempeñan un rol gravitante.

En la actualidad, el marco jurídico vigente aborda los delitos relacionados sin tener en consideración el contenido deepfake, lo cual requiere ampliar el ámbito de aplicación de la legislación vigente. No obstante, puede resultar esencial establecer protocolos jurídicos específicos para los casos en que los contenidos deepfake se utilicen en actividades delictivas, en particular en casos como difamación, fabricación de pruebas, extorsión, fraude y vulneración de la propiedad intelectual y creativa, teniendo en cuenta que estas transgresiones podrían ser agravadas cuando están vinculadas a la generación, utilización, exposición o difusión de material deepfake.

A pesar de los avances en la detección de contenidos deepfake, lograr una fiabilidad total del contenido audiovisual continúa siendo un reto, lo cual perpetúa la naturaleza engañosa de los deepfakes, que exigen un escrutinio minucioso. Esta dificultad persistente se ve acentuada por los continuos avances en las tecnologías de deepfake, que disminuyen la eficacia de los métodos de detección tradicionales. En consecuencia, el riesgo de que los deepfakes induzcan a error a los espectadores, distorsionen las percepciones y comprometan la exactitud de los datos visuales y auditivos sigue siendo un problema crítico. Para hacer frente a este reto es necesario explorar y mejorar continuamente técnicas de detección sofisticadas, empleando una estrategia interdisciplinar que combine innovaciones tecnológicas, puntos de vista éticos y marcos jurídicos para proteger contra las repercusiones negativas del material audiovisual engañoso en la confianza del público, la fiabilidad de la información y los sistemas democráticos.

La existencia de lagunas jurídicas en relación a la recopilación, difusión y obtención no autorizada de datos personales mediante el uso de tecnología deepfake presenta cierta complejidad debido a la existencia de una entidad compuesta que se presenta como auténtica pero que es fundamentalmente falsa. Esta manipulación va más allá de la mera posesión o transmisión de datos legítimos. Por lo tanto, es aconsejable adoptar una definición exhaustiva de las actividades ilícitas vinculadas al uso indebido de la tecnología deepfake, que abarque acciones como la alteración de la imagen o la voz de otra persona, el empleo de la identidad de otro individuo en contenidos fabricados y la circulación o exposición encubiertas de ese material engañoso. Para tal fin, es esencial considerar la nota técnica del BID titulada “Adopción ética y responsable de la inteligencia artificial en América Latina y el Caribe” (^{Pombo et al., 2020}). En el mismo sentido, la “Recomendación sobre la Ética de la Inteligencia Artificial” de la UNESCO de 2021 ofrece un marco integral para guiar a los Estados miembros en el desarrollo y uso responsable de la IA (^{UNESCO, 2022}). Además, los “Principios de la ^{OCDE sobre Inteligencia Artificial” de 2019} proporcionan un marco robusto para el desarrollo y uso responsable de la IA (OCDE, 2019).

El examen de criminalidad respecto a la producción de contenido explícito basado en deepfake, plantea diversas aristas. En concreto, el acto de generar material deepfake sin el consentimiento de las personas representadas plantea dilemas éticos. No obstante, la perspectiva jurídica del delito de exhibiciones o publicaciones obscenas no aborda de forma proactiva la cuestión fundamental del uso de esta tecnología, pues los contenidos deepfake suscitan preocupaciones en relación con la privacidad, ya que amalgaman imágenes suplementarias y no originales con datos personales, sobre todo en contextos sexualmente sugerentes. Por ende, el concepto de definir el ámbito de ilicitud respecto a la alteración o uso indebido de la imagen o la voz de alguna persona sin permiso se alinea con la salvaguarda de la información personal.

La gravedad de las violaciones de la intimidad, especialmente en los casos de material sexualmente explícito, resalta la necesidad de incorporar un componente punitivo en el tratamiento de actividades relacionadas con la producción de contenido deepfake. Del mismo modo, cuando dicho contenido atenta contra el honor, la dignidad o la reputación de una persona, se pasa al ámbito de la difamación y se justifica una intervención desde la persecución del delito. Por tanto, es imperativo realizar un análisis meticuloso e interdisciplinario debido a su alto nivel de sofisticación.

V. Conclusiones

El vertiginoso avance de la tecnología deepfake plantea importantes retos éticos y jurídicos que exigen la pronta actuación de la comunidad jurídica. Los deepfakes tienen la capacidad de generar contenido multimedia muy realista pero totalmente falso, lo que supone una intromisión en la intimidad personal y una amenaza para la seguridad nacional. Esto subraya la importancia de que los marcos legislativos sean proactivos a la hora de adaptarse a las tecnologías emergentes e incorporar nuevas disposiciones legales para abordar los riesgos inherentes asociados a la tecnología deepfake. En consecuencia, las leyes deben demostrar flexibilidad en respuesta a la evolución del panorama tecnológico, al tiempo que aplican medidas para mitigar los posibles daños derivados del uso indebido de las deepfakes.

Los marcos jurídicos existentes se enfrentan a un reto importante a la hora de abordar eficazmente los complejos problemas que plantean las deepfakes. Este contenido alterado digitalmente es sofisticado y difícil de detectar, lo que crea barreras únicas dentro del marco jurídico establecido. Para combatir este problema, es crucial desarrollar nuevas definiciones y categorizaciones legales que estén específicamente diseñadas para tratar los delitos relacionados con los deepfakes. Estos marcos jurídicos deben tener en cuenta la compleja naturaleza de estos delitos, incluida la manipulación engañosa y fraudulenta de contenidos visuales y auditivos. Asimismo, es evidente que deben aplicarse penas más estrictas para los delitos relacionados con los deepfakes, con el fin de disuadir a los actores maliciosos y salvaguardar a las personas y a la sociedad de las posibles consecuencias del uso indebido de los deepfakes.

La colaboración internacional es crucial para afrontar con eficacia los retos jurídicos que plantean los deepfakes. Con el uso generalizado de la tecnología deepfake y la naturaleza global de los medios digitales, es imperativo fomentar la cooperación internacional con el fin de establecer marcos jurídicos sólidos capaces de hacer frente a diversos tipos de delitos relacionados con los deepfakes. Este enfoque de colaboración facilitaría el intercambio de ideas y estrategias, lo cual promovería la armonización de las normas jurídicas y apoyaría los esfuerzos unificados a nivel global para mitigar los efectos nocivos del deepfake.

El contenido deepfake plantea diversos retos que pueden abordarse eficazmente adoptando un enfoque multidisciplinar que integre estrategias de los campos de la tecnología, el derecho y la educación. Una parte integral de este enfoque es el uso de algoritmos avanzados de inteligencia artificial y aprendizaje automático para identificar y marcar rápidamente los contenidos manipulados, facilitando así la detección automática de deepfakes. Además de las soluciones tecnológicas, la sensibilización del público a través de iniciativas educativas desempeña un papel crucial a la hora de informar a las personas sobre la existencia y las posibles consecuencias del deepfake. De ese modo, se fomenta la capacidad de evaluar críticamente las fuentes y contenidos de los medios de comunicación.

La eventual exacerbación del fenómeno del deepfake y su eventual transformación en una “tragedia irreversible”, constituye la razón subyacente que exige una urgente respuesta desde el ámbito jurídico y social que fomente la innovación responsable en inteligencia artificial (IA) y tecnologías de medios digitales, al tiempo que penalice a quienes se dedican a la creación y distribución maliciosa de deepfakes. La respuesta jurídica a la tecnología deepfake debe adaptarse a su rápida evolución y, simultáneamente, proteger a la sociedad de su uso indebido. Este enfoque garantizará la autenticidad de los contenidos digitales y protegerá a las personas y organizaciones de los efectos negativos del contenido manipulado.

Las investigaciones futuras deberían dar prioridad al desarrollo de un marco jurídico integral que permita abordar los retos únicos que plantea la tecnología deepfake con la finalidad de identificar las lagunas y los puntos débiles de los marcos jurídicos existentes en las distintas jurisdicciones a la hora de abordar los delitos relacionados con la deepfake. Para tal fin, se puede realizar un análisis exhaustivo de derecho comparado con el objetivo de proponer una norma jurídica unificada que pueda ser aplicada en el ámbito regional. Asimismo, esta investigación podría explorar el delicado equilibrio entre la prevención del uso indebido de deepfakes y la salvaguarda de la libertad y la innovación, para lo cual debe contar con propuestas legislativas que respetuosas con los derechos fundamentales. Los resultados de este estudio desempeñarán un papel crucial en el avance de respuestas jurídicas más sólidas y eficaces al campo de la tecnología deepfake, que evoluciona rápidamente.

Es esencial contar con profesionales del Derecho que reciban formación adecuada para emplear herramientas tecnológicas diseñadas para detectar deepfakes. Esta formación contribuirá significativamente a mejorar la identificación de contenido manipulado. Asimismo, los marcos jurídicos deben actualizarse para incluir disposiciones específicas sobre los delitos relacionados con los deepfakes. De este modo, se garantiza que las leyes puedan abordar eficazmente las complejidades de este tipo de situaciones. La colaboración entre abogados, instituciones educativas, actores tecnológicos y legisladores es crucial para aplicar estas medidas prácticas, asegurando que las respuestas jurídicas ante este fenómeno estén bien fundamentadas, sean eficientes y se adapten a la rápida evolución del panorama digital.