nueva página del texto (beta)
Español (pdf)
Artículo en XML
Referencias del artículo
Traducción automática
Enviar artículo por email
Citado por SciELO 
Similares en
SciELO 
Permalink
Introducción
El desarrollo y la evolución de las sociedades se ven influenciados por una variedad de factores, como el avance de la ciencia, las políticas económicas y el tipo de régimen político instaurado. En particular, en el ámbito educativo, la integración de las tecnologías de la información y la comunicación (TIC) ha tenido un impacto significativo, lo cual no solo está ganando prominencia en el discurso de las universidades públicas como una estrategia para aumentar la capacidad de matriculación, sino que también se promueve en el contexto de una educación de calidad, donde se argumenta que el desarrollo de competencias en TIC puede potenciar tanto el crecimiento personal como profesional de las personas.
De hecho, en las últimas tres décadas las ciencias exactas y tecnológicas han liderado el desarrollo del campo de la inteligencia artificial (IA), la cual es una disciplina dentro del ámbito de los sistemas computacionales que abarca diversas subdisciplinas y se centra en el diseño y desarrollo de soluciones mediante algoritmos sofisticados con el objetivo de simular el pensamiento y la acción humanos. De acuerdo con Rusell y Norvig (2004), la IA se relaciona con la creación de agentes inteligentes capaces de tomar decisiones ante diversas situaciones, lo que implica el desarrollo de algoritmos, sistemas o autómatas con habilidades para comprender, construir, procesar y realizar actividades de manera similar a los seres humanos.
La IA, sin embargo, no puede considerarse una tecnología neutral, ya que tiene un impacto significativo en la vida de las personas. Por eso, la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco, 2022) señala que el rápido aumento en el uso de las TIC y la IA plantea desafíos para los países, lo que subraya la necesidad de desarrollar alfabetización informacional en la población.
En este contexto, el ChatGPT ha emergido como un objeto de estudio notable debido a sus diversas y prometedoras funciones, las cuales incluyen un amplio espectro de aplicaciones, de ahí que haya sorprendido a muchos por su funcionalidad y haya llevado a algunos autores a identificarlo como un “cisne negro” en el campo de la innovación tecnológica (García -Peñalvo, 2023).
Este chatbot1 altamente sofisticado (Lund y Wang, 2023), por supuesto, no es el único en el campo de la inteligencia artificial, razón por la cual algunas personas los vean como una amenaza. Por ejemplo, Chávarry et al. (2023) entrevistaron a docentes de distintas instituciones en Ecuador y Perú sobre si creían que la inteligencia artificial superaría a la inteligencia humana en los próximos 27 años. Los resultados revelaron una opinión dividida, con el 38.6 % a favor de esta posibilidad y el 38.4 % en contra.
En el caso de la educación superior y la investigación, gran parte del debate en torno a estas tecnologías se ha enfocado en detectar las oportunidades y riesgos que pudieran tener (García-Peñalvo, 2023). Un experimento realizado por Lund y Wang (2023), por ejemplo, puso a prueba a la IA con la siguiente interrogante: “¿Cómo puede emplearse esta tecnología para mejorar la investigación y la producción académica?”. Como resultado, encontraron que el ChatGPT puede contribuir en diversos aspectos, tales como la asistencia en la revisión de la literatura, la generación de texto, el análisis de datos, la traducción entre idiomas, la creación de resúmenes o síntesis, la respuesta casi instantánea a preguntas y la comprensión rápida de conceptos.
De manera similar, en el experimento realizado por McGee (2023) se solicitó a ChatGPT que escribiera una historia corta sobre cómo se visualizarían los Estados Unidos de América en el año 2050. Inicialmente, la IA se excusó indicando que, como modelo de IA, no podía predecir el futuro con certeza, pero sí desarrollar una breve historia especulativa basada en los hechos y tendencias actuales.
Explicado lo anterior, el propósito de este trabajo es reflexionar sobre cómo este avance tecnológico impacta en el ámbito de la educación superior y cómo podría contribuir al desarrollo académico. Además, se pretende delinear las implicaciones en la formación académica y la producción científica para, finalmente, ofrecer recomendaciones a los tomadores de decisiones de las universidades con el objetivo de promover el potencial que representa para el desarrollo de la docencia y contrarrestar su posible efecto negativo en el ámbito académico. Para guiar esta investigación se formuló la siguiente pregunta: ¿cuáles son los efectos (positivos/negativos) del surgimiento del ChatGPT en el ámbito de la formación y producción científica?
Los chatbots: producto de la inteligencia artificial
Para comprender mejor el avance tecnológico de ChatGPT y particularmente del grupo de chatbots, es necesario describir brevemente los propósitos que persigue la disciplina de la IA. Según Rusell y Norvig (2004), esta fue reconocida como una ciencia o disciplina a partir de 1987, aunque fueron Warren McCulloch y Walter Pitts quienes en 1943 realizaron el primer trabajo categorizado como de inteligencia artificial, campo de investigación que desde entonces tiene aplicación en diversos ámbitos, desde el diagnóstico médico hasta la planificación logística, la robótica y los juegos (Rusell y Norvig, 2004).
Ahora bien, la IA se centra principalmente en agentes inteligentes y su capacidad para emprender acciones racionales. Mientras que un agente inteligente tiene la capacidad de percibir su entorno mediante sensores y actuar en él utilizando actuadores, un agente racional es “aquel que actúa con la intención de alcanzar el mejor resultado o, cuando hay incertidumbre, el mejor resultado esperado” (Rusell y Norvig, 2004, p. 5).
En el terreno de la medicina, se puede observar el potencial que ofrece la IA, especialmente para el monitoreo de la efectividad de tratamientos y situaciones de rehabilitación (Hamet y Tremblay, 2017). Sin embargo, como señala Buchanan (2005), “la historia de la IA es una historia de fantasías, posibilidades, demostraciones y promesas” (p. 5). Además, aunque el logro de una IA a su máximo potencial pueda conseguirse en el futuro, el éxito actual de este avance exige una mayor responsabilidad para considerar sus implicaciones sociales (Buchanan, 2005).
Los chatbots son un producto del avance logrado por la IA y tuvieron su auge en distintos ámbitos de aplicación en la primera década del siglo XXI. Como señalan Brandtzaeg y Følstad (2017), “el interés actual en los chatbots probablemente esté relacionado con avances sustanciales en la tecnología informática y la amplia adopción de aplicaciones de mensajería móvil” (p. 379). Estos agentes automáticos sirven como interfaces de usuario utilizadas por proveedores de productos y servicios para ofrecer asistencia o información eficiente a los usuarios (Brandtzaeg y Følstad, 2017). En este sentido, para el año 2017, Facebook ya había incorporado más de 30 000 chatbots en su sistema Facebook Messenger (Brandtzaeg y Følstad, 2017). Sumado a esto, el crecimiento exponencial del mercado de dispositivos móviles también ha sido un factor que ha contribuido a la proliferación del uso de estos chatbots (Smutny y Schreiberova, 2020).
Los chatbots son programas computacionales que interactúan con usuarios utilizando lenguaje natural (Abu Shawar y Atwell, 2007; Dale, 2016). La idea principal que impulsa el desarrollo de este recurso se basa en el principio de que la mejor manera de ofrecer una experiencia real al usuario es permitirle expresar sus intereses, deseos o consultas de manera directa y en un lenguaje natural (Zadrozny et al., 2000). En palabras de Jain et al. (2018), los chatbots son “programas basados en texto, por turnos y que realizan tareas, regularmente integrados en plataformas existentes” (p. 904).
El proyecto ELIZA marcó un hito en el desarrollo de este tipo de tecnología alrededor de 1960. Fue un proyecto desarrollado en el MIT (Massachusetts Institute of Technology) mediante un lenguaje de programación basado en estructuras de listas (Weizenbaum, 1966). Este chatbot tenía el propósito de simular una sesión de ayuda psicológica entre un paciente y un psicoanalista (García Brustenga et al., 2018).
En la actualidad, los chatbots tienen una amplia gama de aplicaciones. Por ejemplo, según Brandtzaeg y Følstad (2017), pueden servir como asistentes virtuales, ayudar a los usuarios a realizar tareas específicas, facilitar la exploración de contenidos o servicios en línea, actuar como herramientas de primer contacto para la atención al cliente, proporcionar apoyo social y emocional, ofrecer entretenimiento académico o servir como intermediarios para conectar al usuario con otras personas o máquinas.
Gracias a estas posibilidades, cada vez más los hogares están equipados con dispositivos personales inteligentes que interactúan de manera natural con los seres humanos. Algunos de los más comunes son Siri, Google Assistant y Alexa, aunque evaluar sus capacidades no resulta tan sencillo.
La investigación de Jain et al. (2018), por ejemplo, reveló que los usuarios a quienes se les pidió que evaluaran y experimentaran una conversación con ocho chatbots desarrollados quedaron decepcionados porque estos agentes conversacionales basados en mensajes -es decir, los chatbots- no tenían la capacidad de mantener el contexto de la conversación. Por lo tanto, el desafío para los desarrolladores de esta tecnología es que sus productos “comprendan y mantengan el contexto de la conversación” (Jain et al., 2018, p. 895).
De hecho, y según Quiroga Pérez et al. (2020), la proliferación en el uso de chatbots, especialmente en el ámbito educativo, no está libre de fallos y problemas, de ahí que el mayor reto sea superar la complejidad de su entrenamiento. Otro desafío para esta tecnología es desarrollar capacidades de inteligencia para interpretar las emociones que puedan experimentar las personas que interactúan con ella.
Aun así, en lo que respecta al ámbito educativo, la aplicación de los chatbots podría contribuir como asistentes de servicios académicos o como agentes educativos (Quiroga Pérez et al., 2020). En palabras de García et al. (1 de marzo de 2018), “hay bots que pueden ejercer como asistentes virtuales para mejorar la productividad o para resolver preguntas frecuentes, pero también son creados con el fin de que puedan actuar como tutores que acompañan el proceso de aprendizaje” (p. 4).
El potencial que encierra la evolución de esta tecnología en la educación abarca desde su capacidad para resolver similitudes o diferencias entre conceptos, ayudar en el aprendizaje de un segundo idioma, hasta la incorporación de inteligencia artificial que acompañe el proceso de aprendizaje del estudiantado. Incluso, podría funcionar como un servicio de atención disponible las 24 horas del día para asistir en las labores docentes y administrativas respondiendo preguntas repetitivas y de respuesta fácil (García Brustenga et al., 2018).
En concordancia con esta idea, Georgescu (2018) explica que los efectos de los bots en el ámbito educativo podrían permitir el desarrollo de funcionalidades que complementen los métodos tradicionales, como desarrollar nuevos esquemas de evaluación del estudiantado, proporcionar retroalimentación y seguimiento de los cursos. Al respecto, estudios similares han señalado que también pueden ser muy útiles para reforzar tareas repetitivas y aliviar la carga de trabajo del docente (Quiroga Pérez et al., 2020).
Un ejemplo de ello es el caso de Georgia Tech, donde un grupo de estudiantes que cursaban clases en línea dirigido por Ashok Goel desarrolló un chatbot para responder a las preguntas más comunes y cotidianas de los estudiantes como apoyo al proceso de docencia, mientras que el tutor se encargaba de responder las dudas más complejas (Molnár y Szüts, 2018), lo cual demuestra que el avance de la IA y todas sus manifestaciones representan una oportunidad para los sistemas educativos. Por ejemplo, en el área administrativa, podrían identificar hábitos y preferencias de aprendizaje del estudiantado con el propósito de proyectar un plan didáctico acorde a sus necesidades particulares (Chen et al., 2020). Lógicamente, la aplicación de los chatbots en la educación no se limita solo a lo formal o escolarizado, sino que también representa un potencial para la educación informal y no formal como parte de una educación para toda la vida.
En el caso de ChatGPT, Surameery y Shakor (2023) resaltan su potencial como parte de un conjunto de soluciones para la depuración e identificación de errores en la programación de sistemas de manera muy efectiva (Thorp, 2023). Esta herramienta fue lanzada al mercado por OpenAI, una empresa dedicada a la investigación e implementación de IA comprometida con el desarrollo y beneficio de la humanidad (OpenAI, s. f.). En noviembre de 2022, lanzaron su primera versión de ChatGPT, la cual, en menos de siete días, contaba con más de un millón de usuarios (ChatGPT, 2023). Luego, para marzo de 2023 se liberó la versión plus llamada ChatGPT-4, la cual contiene características superiores a los otros modelos GPT-3 y GPT3.5 (ChatGPT, 2023).
Según Patel y Lam (2023), “ChatGPT […] se entrena con datos de Internet escritos por humanos, incluyendo conversaciones. [Cuenta con] amplias capacidades que van desde la composición de poemas, la redacción de ensayos, la resolución de problemas de codificación y la explicación de conceptos complejos” (p. 1), de ahí que se pueda justificar su aceptación por parte de una gran parte el estudiantado (Strzelecki, 2023). Sin embargo, cabe resaltar que aún persiste el desafío relacionado con la confiabilidad de sus resultados (Lo, 2023) y su incapacidad para concretar un pensamiento crítico de alto nivel (Hill-Yardin et al., 2023). Aun así, los investigadores están entusiasmados, y al mismo tiempo preocupados, por la manera en que recursos como ChatGPT podrían transformar la ciencia y la sociedad (Chatterjee y Dethlefs, 2023).
De hecho, las implicaciones éticas en torno a la inteligencia artificial generativa, como ChatGPT, para el desarrollo editorial (Liebrenz et al., 2023) todavía se encuentran en debate abierto. Aun así, creemos que este esquema puede convertirse en un nuevo modelo de negocio y ser un punto de partida para el desarrollo de nuevas microempresas relacionadas con la edición de manuscritos.
En este nuevo escenario, ChatGPT representa hoy en día una tecnología de avance sustancial en el campo de la competencia en la inteligencia artificial para simular lo más cercano posible el comportamiento humano. No obstante, esto es solo un adelanto más, por lo que no sorprendería que en las próximas décadas aparezcan nuevas tecnologías con características superiores a las que conocemos en la actualidad.
Haciendo una analogía, recordemos la evolución de la música cuando apareció el popular software NAPSTER2 en el año 1999, el cual, a pesar de sus demandas y opiniones encontradas sobre su legalidad, marcó el comienzo de una nueva era en la digitalización de la música, las grandes inversiones en telecomunicaciones y el crecimiento de la nube de internet.
Esta situación podría repetirse en el caso de ChatGPT, las políticas editoriales y la producción académica y científica, pues dicho chatbot tiene el potencial de formular ensayos y artículos académicos basándose en miles de fuentes contenidas en la nube de internet. Incluso puede incluir el número de referencias de consulta que el usuario le solicite (Liebrenz et al., 2023). Por eso, según Liebrenz (2023), la disrupción de esta tecnología obligaría a las editoriales a revisar sus políticas e implementar directrices para los autores sobre el uso de la IA en las publicaciones académicas y científicas, pues aspectos como los derechos de autor, el plagio y la autoría son cruciales cuando la IA produce textos. Por tanto, se debe trabajar en métodos y técnicas digitales que permitan detectar el contenido escrito por la IA generativa como ChatGPT (Hammad, 2023).
Por último, la novedad que representa esta tecnología no debería distraernos de continuar investigando sobre los impactos que esta tendrá incluso para el medio ambiente, los ecosistemas y la vida de las personas (Unesco, 2022). Por eso, Torrance y Tomlinson (2023) explican que “la cuestión de cómo los humanos y la IA pueden trabajar juntos para el beneficio mutuo de todos es compleja y requiere un enfoque integral y holístico” (p. 20), ya que el objetivo principal es lograr que los sistemas de IA se alineen con los valores humanos. Al respecto, Jarrahi (2018) señala:
Aunque las capacidades de la IA ayudan a los humanos a superar la complejidad a través del enfoque analítico superior de las máquinas, el papel de los tomadores de decisiones humanos y su intuición para lidiar con la incertidumbre, y especialmente con la ambigüedad de la toma de decisiones, sigue siendo incuestionable (p. 10).
La idea de reconocer la relación entre el ser humano y la IA como una simbiosis (Jarrahi, 2018) cada vez más está ganando aceptación. Por lo tanto, es importante incorporar una gobernanza en esta materia, además de promover cambios organizacionales y sustanciales en las instituciones educativas, especialmente en los modelos educativos, académicos y curriculares. Es muy prometedor que esta tecnología atraiga más beneficios que perjuicios en el proceso de docencia, investigación y gestión administrativa de las instituciones educativas. Sin embargo, para lograrlo, es necesario insistir en el desarrollo de normas, regulaciones y la promoción de principios que garanticen una mayor seguridad a las personas y protejan su derecho a la privacidad y confidencialidad de sus datos personales.
Método
Esta investigación se desarrolló mediante una combinación de metodologías que se concretaron en dos etapas. En primer lugar, se introdujeron una serie de cuestionamientos en la línea de captura de texto de ChatGPT relacionados con la originalidad de los textos y el plagio. Esas preguntas, integradas al núcleo de interrogantes dirigidas a la inteligencia artificial, incluyeron lo siguiente:
Q1. ¿Cómo puedo verificar la originalidad de un texto escrito por inteligencia artificial como ChatGPT?
Q2. ¿Cómo puedo verificar la originalidad de un texto que no haya sido escrito por inteligencia artificial como ChatGPT?
Q3. ¿Podrían considerarse plagio los textos producidos por inteligencia artificial como ChatGPT?
Q4. En relación con lo anterior, ¿podría proporcionarme una serie de recomendaciones para solicitar a ChatGPT un manuscrito sin incurrir en plagio?
Cabe destacar que la versión utilizada para esta investigación fue la de GPT-3.5, la cual es de acceso libre.
En segundo lugar, se llevó a cabo una revisión bibliográfica con el fin de identificar las diversas posturas existentes sobre el surgimiento y uso de esta inteligencia artificial en el ámbito académico, para luego analizar si existían coincidencias con las respuestas proporcionadas por ChatGPT. Con base en este propósito, se formuló la siguiente pregunta: ¿Cuáles son los efectos (positivos/negativos) del surgimiento de ChatGPT en la educación superior?
La metodología empleada para esta segunda etapa fue de naturaleza documental (bibliográfica), pues se realizó una búsqueda en diversas bases de datos para identificar coincidencias, consensos y discrepancias en cuanto al impacto de ChatGPT en el rendimiento académico de los estudiantes universitarios, particularmente en la redacción de resúmenes escolares o ensayos (en el caso de estudios de posgrado). Dado que este fenómeno de ChatGPT es relativamente reciente, la muestra seleccionada fue ad hoc, por conveniencia, durante el periodo comprendido entre noviembre de 2022 y junio de 2023.
Resultados
El primer objetivo de esta investigación fue introducir una serie de cuestionamientos relacionados con la originalidad de los textos generados por ChatGPT. Cada pregunta fue ingresada individualmente en la línea de captura de este chatbot.
En cuanto a la primera pregunta (¿Cómo puedo verificar la originalidad de un texto escrito por inteligencia artificial como ChatGPT?), ChatGPT ofreció la siguiente respuesta:
Para verificar la originalidad de un texto generado por inteligencia artificial como ChatGPT, puedes utilizar varias herramientas y métodos:
Herramientas de verificación de plagio: Existen diversas herramientas en línea que pueden comparar el texto generado por ChatGPT con otras fuentes para determinar si hay similitudes o plagio. Ejemplos de estas herramientas incluyen Turnitin, Plagiarism Checker, Grammarly, y Quetext, entre otras.
Comparación con fuentes de entrenamiento: ChatGPT se entrena con grandes conjuntos de datos de texto, por lo que es posible verificar la originalidad de un texto generado por ChatGPT al compararlo con las fuentes de entrenamiento utilizadas para entrenar el modelo. Puedes revisar las fuentes de entrenamiento utilizadas por el modelo y buscar similitudes o coincidencias en el texto generado.
Análisis manual: Aunque es un método más laborioso, es posible realizar un análisis manual del texto generado para determinar su originalidad. Esto puede incluir comparar el texto con otras fuentes relevantes y revisar la calidad y precisión del contenido generado.
Es importante tener en cuenta que la originalidad de un texto no siempre significa que no hay similitudes o coincidencias con otras fuentes. Es común que se compartan ideas o frases similares en textos académicos o técnicos, por lo que es importante citar adecuadamente todas las fuentes utilizadas en el trabajo. Además, recuerda que si utilizas un texto generado por ChatGPT en tu trabajo, siempre debes citar adecuadamente la fuente para evitar problemas de plagio (respuesta otorgada por ChatGPT el 21 de febrero del 2023).
Posteriormente, se planteó una pregunta similar a la primera (¿Cómo puedo verificar la originalidad de un texto que NO sea escrito por inteligencia artificial como ChatGPT?), pero con una ligera variación, pues se añadió una negación. La respuesta fue la siguiente:
Además, es importante mencionar que estas herramientas [PlagScan, DupliChecker o Grammarly y Turnitin] solo pueden detectar similitudes entre tu texto y otros textos publicados en línea. Si deseas verificar la originalidad de un texto que no se encuentra en línea, puedes utilizar técnicas de verificación manual, como comparar el estilo de escritura, la estructura de la oración y la elección de palabras con otros textos escritos por la misma persona. También puedes utilizar herramientas como Google Scholar para buscar artículos académicos relacionados con el tema y comparar la información con el texto que deseas verificar (respuesta otorgada por ChatGPT el 21 de febrero del 2023).
De acuerdo con la respuesta anterior, el proceso de verificar la originalidad de los textos no se limita únicamente a la comparación de similitudes entre las partes de un texto con otros. Es decir, se deben ampliar las acciones para aumentar la confianza en el proceso de verificación de la originalidad de los manuscritos.
Luego, en la tercera pregunta (¿Podrían considerarse plagio los escritos obtenidos por inteligencia artificial como ChatGPT?), se obtuvo la siguiente respuesta:
El uso de un modelo de lenguaje entrenado por inteligencia artificial, como ChatGPT, para generar texto es una práctica común y aceptada en muchos campos, incluyendo la investigación y la redacción de informes. Sin embargo, es importante tener en cuenta que el uso de cualquier fuente de información, incluyendo modelos de lenguaje generativos, debe ser citado adecuadamente para evitar el plagio.
Por lo tanto, si utilizas un texto generado por ChatGPT en un trabajo o proyecto, debes citar adecuadamente la fuente. Esto puede incluir proporcionar información sobre la fuente de los datos utilizados para entrenar el modelo de lenguaje, como el conjunto de datos utilizado, así como información sobre el modelo de lenguaje específico que se utilizó para generar el texto.
Es importante recordar que el plagio se refiere al uso no autorizado o inapropiado del trabajo de otra persona, y esto incluye el uso de modelos de lenguaje generativos. Por lo tanto, si utilizas un texto generado por ChatGPT sin citar adecuadamente la fuente, estarías en riesgo de cometer plagio.
En resumen, el uso de modelos de lenguaje generativos como ChatGPT no se considera plagio en sí mismo, pero es importante citar adecuadamente la fuente para evitar cualquier posible problema de plagio (respuesta otorgada por ChatGPT el 21 de febrero del 2023).
De los párrafos anteriores se puede inferir que en la actualidad resulta muy importante la figura del editor o director de tesis, así como de las herramientas de detección de plagio disponibles para determinar si el manuscrito presentado es original de la persona que lo firma. Para dicho fin, las muletillas que algunas personas suelen emplear al momento de escribir también representan un mecanismo auxiliar para verificar la originalidad de los textos.
Por último, en cuanto a la cuarta solicitud formulada para ChatGPT (Descríbeme una serie de recomendaciones cuando le pida a ChatGPT un manuscrito, sin caer en plagio), la respuesta obtenida fue la siguiente:
Si planeas utilizar un manuscrito generado por ChatGPT en tu trabajo o proyecto, es importante tomar en cuenta algunas recomendaciones para asegurarte de que no caigas en el plagio:
Asegúrate de tener un conocimiento sólido sobre el tema que deseas abordar antes de pedirle a ChatGPT que genere el manuscrito. Esto te permitirá identificar las ideas clave y asegurarte de que el manuscrito generado sea relevante y preciso.
Siempre cita las fuentes adecuadamente. Si utilizas alguna información o idea de otra fuente en el manuscrito, asegúrate de citarla correctamente. Esto incluye la información utilizada para entrenar al modelo de lenguaje ChatGPT.
Edita y revisa el manuscrito generado por ChatGPT antes de utilizarlo en tu trabajo. Aunque ChatGPT puede generar un manuscrito de alta calidad, es importante revisarlo y editarlo para asegurarte de que el contenido sea relevante y preciso.
Utiliza el manuscrito como una herramienta de apoyo en lugar de un sustituto para tu propio trabajo. Utiliza el manuscrito generado por ChatGPT como una herramienta de apoyo para tus ideas y argumentos, y no como un sustituto para tu propio trabajo. Asegúrate de que la mayoría del contenido en tu trabajo sea original y que esté basado en tu propia investigación y conocimiento.
Siempre revisa las políticas de tu institución o profesor sobre el uso de modelos de lenguaje generativos como ChatGPT en trabajos académicos. Es posible que tu institución tenga políticas específicas sobre el uso de modelos de lenguaje generativos y cómo deben ser citados adecuadamente.
Siguiendo estas recomendaciones, puedes utilizar el manuscrito generado por ChatGPT como una herramienta útil para tu trabajo sin caer en el plagio (respuesta otorgada por ChatGPT el 21 de febrero del 2023).
La respuesta anterior confirma la necesidad de que el estudiantado desarrolle competencias y habilidades requeridas no solo en el campo de conocimiento de una disciplina o tema que le interese, sino también otras habilidades como su capacidad crítica y reflexiva.
Discusión
Por la boca muere el pez
El resultado de esta investigación evidenció que la evolución de ChatGPT no representa una herramienta infalible que deba generar incertidumbre en su aplicación en el campo de la formación y producción académica. Como se constató, esta IA reconoció sus debilidades y admitió que sus productos no pueden ser considerados libres de errores.
Por otra parte, y a pesar de su interfaz poco atractiva, su uso resulta muy intuitivo, por lo que no requiere que las personas tomen algún curso especial para su manejo. La experiencia obtenida encuentra respaldo en los resultados de Brandtzaeg y Folstad (2017), quienes revelaron que el 42 % de los encuestados utilizan los chatbots debido a la sencillez, facilidad y conveniencia que ofrecen para obtener ayuda o información. De manera similar, el 41 % se refirió a la facilidad que ofrecen los chatbots para recibir ayuda y obtener información.
Los resultados de esta investigación resaltan que a pesar de la evolución de la IA en materia de formación y producción académica, no se puede delegar en su totalidad a los algoritmos. El ser humano, por ende, continúa siendo un ente necesario hasta el momento gracias a sus capacidades de pensamiento crítico, reflexivo, sentido común, habilidades para mantener una línea argumentativa y su potencial para mantener en contexto una conversación. Investigaciones similares respaldan esta idea, como el experimento realizado por Pardos y Bhandari (2023), en el cual se puso a prueba a ChatGPT y a un grupo de personas en el desarrollo de un cálculo matemático. En este estudio, se encontró que el producto obtenido por el ser humano era de mejor calidad que el generado por la inteligencia artificial.
No obstante, el argumento planteado aquí no debe considerarse como una derrota definitiva para la IA. Por el contrario, representa un desafío más para esta disciplina en su propósito de acercarse cada vez más al razonamiento humano. Además, esto no debe encender alarmas, ya que aún queda mucho camino por recorrer en el desarrollo de la inteligencia artificial, a pesar de los avances observados hasta el momento.
En tal sentido, se debe reconocer que no solo el proceso educativo y la investigación académica se han visto beneficiados por los avances de la IA, sino también otros campos como las neurociencias, la psicología, la medicina, la sociología y la administración, etc.
Un hallazgo importante de esta investigación, al constatarlo con la introducción de la afirmación Q4, es que ChatGPT tuvo el potencial de mantener el contexto de la conversación de acuerdo con los tres primeros cuestionamientos introducidos previamente (Q1, Q2 y Q3). Este descubrimiento es significativo porque destaca la evolución que representa ChatGPT en comparación con otros prototipos de agentes conversacionales basados en mensajes desarrollados anteriormente, que suelen aplicarse regularmente en el marketing o en sitios comerciales o de servicios. Este resultado confirma el argumento de Jain et al. (2018), quienes revelaron que el grupo de personas invitadas a interactuar con ocho chatbots terminaron decepcionadas.
La construcción de una simbiosis3 entre las habilidades desarrolladas por las personas y el desarrollo de la inteligencia artificial en el contexto académico
De acuerdo con Noam Chomsky (2023), el verdadero reto de la educación no es prohibir el uso de la tecnología como parte del aprendizaje escolar, sino hacer que la materia o el tema que se pretende enseñar resulte atractivo para los estudiantes. Además, afirma que si los estudiantes recurren a estas tecnologías, es una señal de que el proceso educativo está fallando. En cuanto a ChatGPT, Chomsky afirma que esta herramienta es un plagio de alta tecnología, ya que no aporta ningún valor a la comprensión del lenguaje o la cognición.
Como se mencionó anteriormente, la evolución de ChatGPT ha generado encuentros y desencuentros en el ámbito de la formación y producción académica. A pesar del potencial que representa, su aplicación exige un uso moderado y prudente. Además, ChatGPT “tiene acceso a una inmensa base de datos de texto escrito. Imita lo que lee, desde libros infantiles hasta opiniones judiciales. A través de esta imitación, puede comunicar ideas y conocimientos ampliamente publicados. Pero no puede pensar críticamente” (Bishop, 2023, p. 16).
Por tanto, surge la necesidad de retomar la pregunta planteada por Bishop (2023): “¿Cómo podemos saber la diferencia entre el manuscrito de chat y el humano?” (p. 16). Según la respuesta obtenida por ChatGPT, se recomienda el uso de software antiplagio para determinar el nivel de similitud con otras fuentes. Sin embargo, esta respuesta no aborda claramente la pregunta planteada por Bishop (2023), quien sugiere que se realice una lectura del contenido y no solo del estilo con el propósito de identificar el pensamiento crítico en el manuscrito en cuestión.
De hecho, el resultado cuestionable obtenido por ChatGPT en respuesta a la pregunta Q1 planteada en esta investigación encuentra similitudes de deficiencia con otros experimentos realizados. Por ejemplo, King (2023) solicitó a esta tecnología que elaborara un listado de referencias sobre chatbots, IA y plagio, y como resultado produjo un texto con sesgos históricos.
Otro experimento significativo fue desarrollado por Cahan y Treutlein (2023), quienes sometieron al chatbot a una serie de cuestionamientos relacionados con el rol de los sistemas computacionales de biología aplicados a la investigación de células madre. Como resultado, tuvieron que descartar algunos hilos conversacionales debido a su repetitividad. Además, hallaron que muchas respuestas carecían de contexto y profundidad. Estos datos refuerzan la idea de que el uso de ChatGPT debe ir acompañado de una sólida y explícita fundamentación teórica.
Por todo esto, las instituciones de educación superior, tanto públicas como privadas, deben revisar sus metodologías en cuanto al uso de la IA, de modo que se fomente una educación que contribuya al desarrollo sostenible de los países. Para lograr este objetivo se requiere una revisión exhaustiva de los modelos educativos y académicos, así como del currículo universitario con el fin de estar preparados para reorientar las metodologías más convenientes.
En cuanto a las competencias que debe desarrollar el estudiantado para contrarrestar las malas prácticas en el uso de la IA, es imprescindible fortalecer la formación en principios, valores y ética para actuar en beneficio sin perjudicar a otros. Por último, se debe incorporar en el currículo el tema de las competencias digitales para garantizar el acceso, uso y apropiación adecuados de las TIC.
Implicaciones éticas del uso de IA en la formación y producción académica
La segunda parte de esta investigación se enfocó en explorar los efectos positivos y negativos ocasionados por el surgimiento de ChatGPT en el ámbito de la formación y producción científica. Al respecto, no cabe duda de que la llegada de ChatGPT ha tenido implicaciones en el proceso de formación y producción académica, de ahí que Okaibdi (2023) señale que cuando alguien genera un manuscrito utilizando IA sin atribuir el uso de esta tecnología, estaría violando el principio de honestidad académica. Además, los textos redactados por esta tecnología pueden carecer de comprensión del contexto (Baidoo-Anu y Owusu Ansah, 2023).
Holden Thorp (Thorp, 2023), jefe editor de Science Journals, puso a prueba esta tecnología al solicitarle que desarrollara un ensayo. Aunque la tecnología logró generar respuestas fácticas, se encontraron algunas deficiencias en la redacción. En otro experimento, Thorp envió un conjunto de resúmenes a varios revisores que colaboraban con la editorial y solo el 63 % de ellos pudo detectar que los textos habían sido elaborados con IA. Como resultado, la casa editorial Science estableció una política mediante la cual cada autor debe certificar la autoría original de su trabajo y que cualquier contenido creado con IA no se considera parte del trabajo sometido a revisión.
Otra investigación efectuada por Khalil y Er (2023) puso a prueba el potencial de ChatGPT. Los autores generaron 50 ensayos utilizando esta IA y luego se los presentaron a dicha tecnología con la siguiente pregunta “¿Este texto fue generado por un chatbot?”. Al respecto, ChatGPT respondió, con una sorprendente precisión, que 46 de esos ensayos eran plagiados.
Por otra parte, Zhai (2022) considera que ChatGPT es una tecnología que podría impulsar cambios en los objetivos de aprendizaje, las prácticas y los esquemas de evaluación. Coincidiendo con esta idea, Rudolph et al. (2023) sugieren que esta evolución podría significar convertir las evaluaciones tradicionales de la educación superior en pruebas personalizadas o interactivas basadas en juegos, con asistentes virtuales que ayudarían a los estudiantes a resolver problemas utilizando un lenguaje natural (Cotton et al., 2023).
Desde la perspectiva de García-Peñalvo (2023), la evolución de esta tecnología transformaría el papel del profesorado, pues pasaría de ser el principal proveedor de información a convertirse en un mentor que guía a los estudiantes en el uso efectivo de este recurso para el aprendizaje.
Sin embargo, Lo (2023) afirma que “se deben tomar medidas inmediatas para actualizar los métodos de evaluación y las políticas institucionales en las escuelas y universidades. [Además], la formación de instructores y la educación de los estudiantes también son esenciales para responder al impacto de ChatGPT en el entorno educativo” (p. 1). Por ello, se han propuesto la revisión y la actualización de las políticas de integridad académica y códigos de honor para incluir el uso de IA, lo cual se debe extender a las casas editoriales (Gordijn y Have, 2023). Sobre este último caso, la editorial Lancet Digital (2023) advierte lo siguiente: “ChatGPT vino a cambiar las reglas del juego, pero aún no estamos listos para jugar” (p. 1).
Aun así, autores como van Dis et al. (2023) plantean que el desarrollo de la IA en la investigación y la publicación podría ser visto como una oportunidad, ya que serviría para acelerar el proceso de innovación, reducir el tiempo de publicación y facilitar la redacción. Sobre esta idea, Jarrahi (2018) sostiene que los sistemas de IA deben diseñarse con la intención de potenciar, y no reemplazar las contribuciones humanas. En el campo de la medicina, por ejemplo, Patel y Lam (2023) sugieren que ChatGPT podría ayudar en el proceso de dar de alta de un paciente, pues permitiría que los médicos ingresaran información específica que debe incluirse.
En síntesis, Okaibedi (2023) explica que la evolución de ChatGPT como una herramienta de IA invita a las instituciones académicas, de investigación y editoriales académicas a repensar su uso, y no a prohibirlo, rechazarlo o descartarlo, ya que esta tecnología ofrece oportunidades para todos los campos del saber.
Indicios que pueden ayudar al profesorado a identificar manuscritos generados con IA
Cotton et al. (2023) proponen una serie de puntos que podrían ayudar en el proceso de identificación de manuscritos escritos por IA, como por ejemplo la búsqueda de patrones o irregularidades en el idioma, la verificación de citas y fuentes, la comprobación de la originalidad de la idea o tema desarrollado, la detección de errores factuales, la revisión de la gramática y la ortografía, y el uso de herramientas desarrolladas por terceros que puedan analizar si un escrito es producto de la IA.
Además, el profesorado podría buscar imprecisiones en aspectos como la forma en que se realizaron las citas textuales y el acceso a las referencias utilizadas según las condiciones de cada país o región. También podrían verificar que las fuentes sean principalmente primarias y buscar la presencia de autores reconocidos como expertos en el campo disciplinar. Por último, téngase en cuenta que la escritura humana tiende a ser más consciente del contexto y debe adaptarse a las necesidades de la audiencia, mientras que la escritura generada por IA tiende a ser más genérica. Por lo tanto, la redacción debería reflejar un flow4, es decir, flujo natural que revele la personalidad y el estilo de las personas en relación con el tema tratado.
Conclusiones
Es innegable que los procesos de formación y producción académica no pueden limitarse a discutir la legalidad y aceptación de los manuscritos generados por la inteligencia artificial. Esta situación, por ende, exige que reconozcamos la inevitable asociación entre las máquinas inteligentes y las personas, de ahí que sea momento para generar cambios en las metodologías y enfoques educativos.
La IA es una tecnología en constante evolución, por lo que corresponde a cada institución, campo del conocimiento y persona aprovechar el potencial que ofrece para facilitar y agilizar la elaboración de manuscritos e informes. Sin embargo, es crucial entender que cada producto generado por esta tecnología debe ser revisado, modificado y adaptado de manera profunda. Además, su uso demanda una responsabilidad y compromiso por parte del usuario, quien debe otorgar los créditos necesarios de acuerdo con las fuentes de información utilizadas, lo cual también sirve de sustento para plantear una interrogante esencial: ¿los productos obtenidos con estas tecnologías serán consideradas como creaciones propias de la IA o de la persona que formuló los datos de entrada?
En definitiva, aunque aún no podemos dimensionar completamente el potencial que tiene la IA para apoyar el desempeño de las organizaciones y, en particular, el desarrollo de la formación académica, es importante ser conscientes de que una nueva era en el estudio y la producción de ciencia ha llegado para quedarse.
Futuras líneas de investigación
Futuras investigaciones podrían retomar los cuestionamientos planteados en estos estudios para replicarlos en otros idiomas e incluso utilizando versiones más actualizadas de ChatGPT. El objetivo sería analizar si existen diferencias significativas en los resultados obtenidos en comparación con los de este estudio. Además, otras investigaciones podrían centrarse en analizar las actitudes que pueden surgir entre un grupo de investigadores que utilizan la escritura académica asistida por IA
