Por Rocío Ibarlucía

Fotos del papa Francisco usando ropa de Balenciaga o de Trump siendo arrestado, una misa dictada por un avatar en Alemania o una novela de Jorge Carrión escrita con la ayuda de algoritmos son algunos ejemplos de cómo los avances de las inteligencias artificiales (IA) están impactando en múltiples ámbitos de nuestra vida cotidiana.

Desde que la compañía estadounidense OpenAI liberó en noviembre de 2022 el uso de ChatGPT3, su facilidad para construir discursos en cuestión de segundos ha provocado profundos debates en diversos campos, entre ellos, la educación. Una de las mayores preocupaciones de los educadores radica en la posibilidad de que los alumnos tanto de escuelas como de universidades cometan plagio, como ya empieza a suceder.

¿Cómo transformar la tendencia de los estudiantes a la repetición de contenidos generados por la máquina en entusiasmo por generar sus propios textos? Para intentar responder este interrogante, LA CAPITAL consultó a Mariana Castro, profesora en Letras por la UNMdP especializada en escritura, educación y comunicación, quien se encuentra dictando un taller llamado “Sinergia” en el que propone explorar ChatGPT como herramienta para escribir en el aula.

Castro es docente de Literatura y Prácticas del Lenguaje en escuelas secundarias y terciarios, miembro de la ONG Jitanjáfora dedicada a la promoción de literatura infantil y juvenil y la formación de formadores, coordinadora de talleres de lectura y escritura y desde su Instagram @hechadepalabras difunde contenidos literarios, muchos de ellos pensados para docentes de escuela secundaria. En 2021, participó como oradora de una charla TEDx llamada “La escritura como respuesta a todo”, en la que se define como una “activista de la palabra”, porque “estoy convencida de que las palabras nos construyen, pero también de que con ella construimos el universo que habitamos”.

En los últimos tiempos, se ha interesado en Inteligencia Artificial, leyó a diversos especialistas, realizó cursos y asistió “a cuanta charla sobre el tema encuentro”, con el objetivo de poner a prueba todos estos conocimientos sobre los algoritmos generativos en la enseñanza de la escritura dentro de las aulas donde trabaja.

En entrevista con LA CAPITAL, la docente reconoce los peligros que puede traer el uso de esta herramienta, pero al mismo tiempo promueve su exploración con el fin de aprovechar el recurso de forma enriquecedora, tanto para potenciar las formas de enseñar a leer y escribir críticamente desde el área de Literatura, como así también desde todas las materias.

Un avatar de Mariana Castro creado por Inteligencia Artificial.

-Como docente y formadora de docentes, ¿observás que ya esté impactando ChatGPT en las escuelas?

-ChatGPT ya ingresó al aula. No es algo que va a venir o que se tenga que debatir si tiene que ingresar al aula o no, porque su uso ya está. Si bien inteligencias artificiales venimos usando hace muchos años, quizás no con la conciencia que tenemos ahora que sabemos que son inteligencias artificiales, el hito que las puso al alcance de cualquiera fue la apertura del ChatGPT3, en noviembre del año pasado. En Argentina, como cayó en el cierre del ciclo lectivo, pasó de largo. En el hemisferio norte, que les quedó en la mitad del ciclo, fue más revelador y más crítico para los educadores. Acá, cuando volvimos a la escuela, nos dimos cuenta de que ya había ingresado ChatGPT al aula y sobre todo en el nivel secundario. Quizás en primaria todavía no ingresó, porque no tienen esa independencia del acceso a Internet o a los celulares y ni siquiera pueden registrarse por ser menores de edad.
Lo que me parece importante es preguntarnos, como con cualquier avance tecnológico, cómo favorecer un uso superador de esa herramienta, siempre con los fines pedagógicos que tengamos. O sea, es importante conocer la herramienta como docentes para poder mediar entre esa tecnología y los estudiantes.

-A diferencia de sus estudiantes, muchos docentes todavía no han utilizado la herramienta. ¿Por qué es importante explorarla antes de condenarla?

-Para enseñar o para acompañar cualquier utilización de una herramienta y más una tan poderosa como ChatGPT, creo que necesitamos imperiosamente explorarla y conocerla. Es increíble la diferencia que se genera cuando les mostrás a los estudiantes que vos ya conocés eso. De hecho, este año en muchos cursos, yo les hablé de ChatGPT durante las primeras clases, antes de que ellos lo hubieran explorado. Ahora ya es común, ya todos lo conocen, lo han visto en TikTok, pero en marzo no todos lo conocían. Entonces, creo que marcó una gran diferencia el hecho de que yo fui la que se los presenté y les dije que existía esto. De ese modo, les demostré que conozco la herramienta, desde el lugar de la viveza del “ojo que yo sé”, pero también desde el otro lugar, de la voz de confianza, al mostrarles que hay una docente y una persona adulta que exploró, que conoce, que se forma en este tema y que los puede acompañar y ayudar a utilizarlo mejor.

-Hay una mirada apocalíptica sobre el avance de la IA, incluso referentes del ámbito tecnológico han pedido limitar el uso masivo de este programa por sus posibles riesgos. ¿Cómo pueden los docentes evitar los riesgos y darle un uso superador a la herramienta?

-La verdad es que esto nos puede llevar por dos caminos. Por un lado, está el camino cómodo de que cada vez pensemos menos y que dejemos todo en manos de esta aplicación, que es un camino erróneo, porque sabemos que al menos por ahora no puede resolver cualquier tipo de propósito que le pidamos. Por otro lado, está el camino más interesante para mí que es el de la sinergia, palabra que yo uso jugando un poco con la idea de la Inteligencia Artificial también. Me refiero al trabajo colaborativo entre las personas y la máquina y cómo esa sinergia con la herramienta nos puede ayudar a desarrollar el pensamiento crítico, a ampliar el vocabulario, a revisar incluso ciertos conceptos literarios o lingüísticos a partir de la corrección o la revisión del producto que genere el ChatGPT.

“En la literatura hay algo humano, algo de la experiencia que al menos por ahora, ChatGPT no puede reemplazar”.

-Por ejemplo, ¿podrías compartir alguna de las experiencias con ChatGPT en un curso tuyo?

-A comienzo de este ciclo, durante el período diagnóstico, les presenté la herramienta, les pedí que se registren y que para la clase siguiente traigan un texto literario generado por Inteligencia Artificial, que podía ser un relato breve o un poema. Les dije que le presten atención a qué le pedían, así quería que conozcan los prompts, que es esta consigna o instrucción que le damos al chat y que es lo fundamental para obtener una respuesta adecuada. A la clase siguiente, todo el curso había cumplido con la consigna, algo poco frecuente en este período diagnóstico, porque ya saben que no están siendo evaluados. Y fue muy productivo lo que sucedió. Primero, nos sirvió para repasar categorías literarias, porque vimos que algunos le habían dado indicaciones al chat sobre la voz narrativa, otros habían pedido cuestiones de género, otros habían pedido precisiones sobre los personajes, características más argumentales o de vocabulario. Entonces yo fui sistematizando en el pizarrón todo eso que aparecía y, casi sin querer queriendo, fuimos retomando un montón de elementos de la literatura, que los sacamos de las consignas que ellos le habían pedido al ChatGPT para elaborar el texto literario. Segundo, y por el contrario, lo que ocurrió es que a la tercera, cuarta lectura ya empezaron a aburrirse porque los textos literarios generados por estos algoritmos generativos precisamente son muy malos. Al menos por ahora, la literatura es un ámbito que se le escapa al ChatGPT3, porque no construye semánticamente, sino que es una cadena de palabras desde una mirada matemática y de probabilidad del estudio de patrones. Los textos literarios resultan muy sosos y, además, tienen un gran sesgo positivo, siempre terminan bien y con frases ejemplificadoras, son muy explicativos. También sirvió para darnos cuenta de que en la literatura hay algo humano, algo de la experiencia que al menos por ahora, como siempre digo al menos por ahora, el ChatGPT no puede reemplazar.

Estudiantes usando ChatGPT para la realización de una actividad en el marco de una clase de Prácticas del Lenguaje dictada por Castro.

Y otra experiencia fue hace poco, en una clase en la habíamos leído “Tuya” de Claudia Piñeiro. Les pedí que elaboren una consigna para que ChatGPT realice una síntesis argumental en una o dos oraciones de la novela. Conociendo que las novelas contemporáneas no las maneja el chat, porque lo que hace el chat es producir textos verosímiles pero no necesariamente verdaderos, yo sabía que no iba a poder generar una síntesis argumental adecuada, por eso se los propuse también. Salían cuestiones policiales o algo oscuro, pero inventaba personajes y hasta un argumento distinto al de esta novela.

-¿Y cuál fue la reacción de los estudiantes?

-Lo interesante fue que se generó un desafío entre estudiantes para ver quién hacía el mejor prompt para que el chat les hable realmente de esta novela. Sin darse cuenta, se entusiasmaron releyendo la obra, buscando información, viendo cuál era la característica más destacada de la obra para que ChatGPT3 les genere la síntesis argumental que necesitaban. Y la verdad es que fue mucho más enriquecedor esa búsqueda que si se hubieran puesto a pensar ellos en la síntesis argumental, como tuvieron que hacerlo finalmente porque no lo lograron con el chat.

-¿En qué aspectos puede ser un riesgo para el desarrollo de las habilidades de escritura?

-No todo es color de rosa, hay mucho plagio llano. Yo pienso que lo que no funcionaba antes sigue sin funcionar. Por ejemplo, resolver una guía de preguntas y que las contesten copiando de manera textual de una fuente no generaba un aprendizaje significativo antes y ahora tampoco. El tema es que ahora es mucho más fácil, copian textual la consigna en el GPT y se los resuelve. O ponen el archivo PDF y directamente te hace el resumen sin ni siquiera leerlo. Creo que hay cosas que son preocupantes y que habría que ponerse a investigar a nivel del Estado y desde las escuelas para trabajarlas. También tengo colegas en la universidad que ya están viendo textos plagiados probablemente hechos con GPT y digo probablemente porque no hay manera de corroborar que estén hechos por GPT. De igual modo, explorar la herramienta te hace darte cuenta enseguida cuando leés un texto que está generado por una Inteligencia Artificial. Pero es tu palabra contra la del otro, porque no hay una manera certera de verificarlo, eso es preocupante también. Si se hace costumbre el plagio llano y sin ningún tipo de reflexión, va a tener consecuencias muy negativas. Por eso, tenemos que estar preparados y acompañar ese recorrido. Desarrollar el pensamiento crítico en este sentido es fundamental, trabajar con la mirada crítica, que los estudiantes reconozcan estos sesgos de la IA, como el sesgo positivo, que es el menos nocivo, porque hay también cuestiones raciales, de género o xenofobia que se pueden generar. Por ejemplo, sería necesario hacerles cuestionar a qué tipo de personajes pone el chat a hablar de una manera o a qué tipo de personajes le pasan ciertas cosas en la generación de textos literarios. Hay muchas cuestiones que es interesante trabajar con los estudiantes para que afinen la mirada y se den cuenta qué hay detrás de eso.

“Si los docentes seguimos con las mismas propuestas que hacíamos antes, vamos a lograr que la respuesta esté en tres segundos, pero creo que tenemos que aprovecharlo para hacer una evaluación formativa y trabajar colaborativamente. Si habilitamos su uso, también le sacamos la trampa”.

-¿Creés que va a modificar el rol docente, las dinámicas de la clase o los mecanismos de evaluación?

-No sé cómo va a avanzar, pero creo que nos obliga más que antes a actualizarnos. No soy apocalíptica en ese sentido porque creo que revisar nuestras prácticas y los modos de evaluación es algo que tenemos que hacer todo el tiempo. Dicen los especialistas que ChatGPT va a generar un cambio más grande que Internet en nuestras vidas. Si es así, tratemos de corrernos de la mirada policial, de ver si los estudiantes se copiaron o no, e intentemos que la devolución en la corrección vaya por otro lado, como pensar qué pasó con esto que generaron, qué lograron y qué no y qué podrían haber hecho mejor. En las IA, se usa el término de ‘Deep Learning’ (Aprendizaje Profundo) que hace referencia a las redes neuronales de los algoritmos generativos que intentan asemejarse al funcionamiento del cerebro humano. Yo creo que la parte humana, significativa y enriquecedora, todavía estos tipos de aprendizajes no la alcanzan. Entonces, me parece que ahí tenemos que aprovechar para darle ese valor pedagógico y darle el significado, que creo que terminan ellos entendiéndolo, aunque sea más tentador buscar la respuesta fácil y directa. Si los docentes seguimos con las mismas propuestas que hacíamos antes, vamos a lograr que la respuesta esté en tres segundos, pero creo que tenemos que aprovecharlo para hacer una evaluación formativa y trabajar colaborativamente. Si habilitamos su uso, también le sacamos la trampa.

Una de las recomendaciones de Mariana Castro para seguir investigando sobre los cruces entre escritura e IA es “Membrana” de Jorge Carrión.

Lecturas para seguir indagando
los cruces entre IA y escritura

Si bien todavía es difícil encontrar materiales de lectura sobre este tema porque se trata de una herramienta que está en continuo cambio, Mariana Castro recomienda leer los ensayos del filósofo francés Éric Sadin, así como al teórico de la comunicación argentino radicado en Europa Carlos A. Scolari, quien estudia las narrativas transmedias. Si bien ambos autores no se dedican exclusivamente a la educación, la abordan indirectamente y es fácil acceder a sus ideas gracias a la cantidad de ensayos y charlas disponibles de forma gratuita en YouTube.

Y, en particular, la docente sugiere la obra de Jorge Carrión, escritor catalán que trabajó durante años sobre los algoritmos generativos, tanto desde la ficción como desde sus textos ensayísticos. Entre la producción de Carrión, Castro destaca su novela “Membrana” (publicada por Galaxia Gutenberg), que reproduce las voces del futuro de las inteligencias artificiales, aunque generadas por él, para describir un catálogo del museo del siglo XXI y su último libro ensayístico, “Los campos electromagnéticos. Teorías y prácticas de la escritura artificial” (Caja Negra).

“Mientras que la primera parte de ‘Los campos electromagnéticos’ es un ensayo propuesto por él sobre este tema, la segunda parte son preguntas que va haciendo a ChatGPT3 para demostrar este delirio que tiene el sistema, que por momentos se asemeja a los surrealistas. De allí su título: ‘Los campos magnéticos’ de André Bretón y Philippe Soupault es el punto de partida para este libro. La tercera parte narra su experiencia entrenando un ChatGPT2 con sus textos, sus experiencias, lo que él había leído, lo que él había escrito para que se genere un Jorge Carrión espejo que hable como él pero que sea esa inteligencia artificial. Entonces, esa última parte está generada o escrita por este Jorge Carrión espejo”, comparte, entusiasmada, Castro.

También sugiere escuchar el podcast “Solaris”, de tres temporadas, en el que Carrión despliega en cada capítulo ensayos para entender el mundo contemporáneo.