ChatGPT: "No es una máquina de hacer trampas, es una máquina de producir basura", dice un profesor enfurecido
Boletin SciELO-Mexico
Publicado en THE Times Higher Education
La desesperación de los académicos: los trabajos escritos con ChatGPT inundan la temporada de exámenes
"No es una máquina de hacer trampas, es una máquina de producir basura", dice un profesor enfurecido por el aumento de las redacciones insípidas.
17 de junio de 2024
Jack Grove
Twitter: @jgro_the
El aumento del uso de ChatGPT por parte de los estudiantes para escribir redacciones debería llevarles a replantearse si las políticas actuales que fomentan el uso "ético" de la inteligencia artificial están funcionando, afirman los académicos.
Con la temporada de exámenes en pleno apogeo, un gran número de profesores ha acudido a las redes sociales para quejarse de los contenidos generados por IA que se encuentran en los trabajos presentados.
Entre los signos reveladores del uso de ChatGPT, según los académicos, se incluyen palabras poco utilizadas como "profundizar" y "multifacético", el resumen de temas clave mediante viñetas y un estilo conversacional discordante con términos como "vamos a explorar este tema".
En un regalo más obvio, un profesor dijo que un anuncio de una empresa de ensayos sobre IA estaba enterrado en la introducción de un trabajo; otro académico observó cómo un estudiante había olvidado eliminar la declaración de un chatbot de que el contenido estaba generado por IA.
"No tenía ni idea de cuántos recurrirían a ello", admitió un profesor de Derecho del Reino Unido.
Des Fitzgerald, catedrático de Humanidades Médicas y Ciencias Sociales del University College Cork, declaró a Times Higher Education que el uso de la IA por parte de los estudiantes se había "generalizado totalmente" este año.
"A lo largo de un lote de ensayos, empiezas a notar los tics de los ensayos ChatGPT, que en parte tienen que ver con la repetición de ciertas palabras o frases, pero también con una especie de aura de blandura maquínica que es difícil de describir para alguien que no se haya topado con ella: un ensayo sin aristas, que no hace nada técnicamente mal o malo, pero tampoco mucho bien o bueno", dijo el profesor Fitzgerald.
Desde la aparición de ChatGPT a finales de 2022, algunas universidades han adoptado políticas que permiten el uso de la IA siempre que se reconozca, mientras que otras han empezado a utilizar detectores de contenidos de IA, aunque hay división de opiniones sobre su eficacia.
Según la última Encuesta sobre la Experiencia Académica de los Estudiantes, para la que Advance HE y el Higher Education Policy Institute encuestaron a unos 10.000 estudiantes universitarios del Reino Unido, el 61% utiliza la IA al menos un poco al mes, "de una forma permitida por su institución", mientras que el 31% lo hace todas las semanas.
El profesor Fitzgerald dijo que, aunque algunos colegas "piensan que simplemente tenemos que vivir con esto, incluso que tenemos el deber de enseñar a los estudiantes a usarlo bien", él estaba "totalmente en contra" del uso de herramientas de IA para los ensayos.
"ChatGPT es completamente antitético con todo lo que creo que hago como profesor: trabajar con los alumnos para que se comprometan con los textos, reflexionar sobre las ideas, aprender a aclarar y expresar pensamientos complejos, asumir algunos riesgos con esos pensamientos, localizar algún tipo de voz interior distintiva. ChatGPT es un veneno total para todo esto, y tenemos que prohibirlo sin más", afirmó.
Steve Fuller, catedrático de Sociología de la Universidad de Warwick, está de acuerdo en que el uso de la IA "se ha hecho más notable" este año, a pesar de que sus alumnos firman contratos en los que se comprometen a no utilizarla para escribir ensayos.
No se opone a que los estudiantes la utilicen "siempre y cuando lo que escriban suene inteligente y acertado, y el corrector no pueda reconocer que lo han sacado de otra fuente".
Según el profesor Fuller, quienes recurran en gran medida a la tecnología deben esperar una nota relativamente baja, aunque podrían aprobar.
Los estudiantes cometen errores de hecho, razonamiento y gramática de forma rutinaria [sin ChatGPT], pero si su texto toca lo suficiente las bases de la tarea, es probable que obtengan un resultado entre bajo y medio-60. ChatGPT hace un trabajo creíble en la simulación de tal mediocridad, y eso es lo suficientemente bueno para muchos de sus usuarios", dijo. ChatGPT hace un trabajo creíble simulando esa mediocridad, y eso es suficiente para muchos de sus estudiantes usuarios", afirma.
Sin embargo, los académicos se quejan cada vez más de tener que corregir redacciones mediocres generadas en parte por la IA. El economista Renaud Foucart, de la Universidad de Lancaster, afirmó en X que corregir redacciones generadas por IA "lleva mucho más tiempo [porque] necesito concentrarme mucho más para cortar la cantidad de afirmaciones aparentemente lógicas que en realidad están llenas de vacío".
"Mi mayor problema [con la IA] no es tanto la cuestión moral de hacer trampas como lo que ChatGPT ofrece a los estudiantes", añadió el profesor Fitzgerald. "Lo único de lo que es capaz es de escribir malas redacciones con frases vacías y sin ideas. No es una máquina para hacer trampas; es una máquina para producir basura".
****************************************
Academics despair as ChatGPT-written essays swamp marking season‘It’s not a machine for cheating; it’s a machine for producing crap,’ says one professor infuriated by rise of bland scriptsJune 17, 2024
Twitter: @jgro_the
The increased prevalence of students using ChatGPT to write essays should prompt a rethink about whether current policies encouraging “ethical” use of artificial intelligence are working, scholars have argued.
With marking season in full flow, lecturers have taken to social media in large numbers to complain about AI-generated content found in submitted work.
Telltale signs of ChatGPT use, according to academics, include little-used words such as “delve” and “multifaceted”, summarising key themes using bullet points and a jarring conversational style using terms such as “let’s explore this theme”.
In a more obvious giveaway, one professor said an advert for an AI essay company was buried in a paper’s introduction; another academic noted how a student had forgotten to remove a chatbot statement that the content was AI-generated.
“I had no idea how many would resort to it,” admitted one UK law professor.
Des Fitzgerald, professor of medical humanities and social sciences at University College Cork, told Times Higher Education that student use of AI had “gone totally mainstream” this year.
“Across a batch of essays, you do start to notice the tics of ChatGPT essays, which is partly about repetition of certain words or phrases, but is also just a kind of aura of machinic blandness that’s hard to describe to someone who hasn’t encountered it – an essay with no edges, that does nothing technically wrong or bad, but not much right or good, either,” said Professor Fitzgerald.
Since ChatGPT’s emergence in late 2022, some universities have adopted policies to allow the use of AI as long as it is acknowledged, while others have begun using AI content detectors, although opinion is divided on their effectiveness.
According to the latest Student Academic Experience Survey, for which Advance HE and the Higher Education Policy Institute polled around 10,000 UK undergraduates, 61 per cent use AI at least a little each month, “in a way allowed by their institution”, while 31 per cent do so every week.
Campus resource: Can we spot AI-written content?
Professor Fitzgerald said that although some colleagues “think we just need to live with this, even that we have a duty to teach students to use it well”, he was “totally against” the use of AI tools for essays.
“ChatGPT is completely antithetical to everything I think I’m doing as a teacher – working with students to engage with texts, thinking through ideas, learning to clarify and express complex thoughts, taking some risks with those thoughts, locating some kind of distinctive inner voice. ChatGPT is total poison for all of this, and we need to simply ban it,” he said.
Steve Fuller, professor of sociology at the University of Warwick, agreed that AI use had “become more noticeable” this year despite his students signing contracts saying they would not use it to write essays.
He said he was not opposed to students using it “as long as what they produce sounds smart and on point, and the marker can’t recognise it as simply having been lifted from another source wholesale”.
Those who leaned heavily on the technology should expect a relatively low mark, even though they might pass, said Professor Fuller.
“Students routinely commit errors of fact, reasoning and grammar [without ChatGPT], yet if their text touches enough bases with the assignment they’re likely to get somewhere in the low- to mid-60s. ChatGPT does a credible job at simulating such mediocrity, and that’s good enough for many of its student users,” he said.
Having to mark such mediocre essays partly generated by AI is, however, a growing complaint among academics. Posting on X, Lancaster University economist Renaud Foucart said marking AI-generated essays “takes much more time to assess [because] I need to concentrate much more to cut through the amount of seemingly logical statements that are actually full of emptiness”.
“My biggest issue [with AI] is less the moral issue about cheating but more what ChatGPT offers students,” Professor Fitzgerald added. “All it is capable of is [writing] bad essays made up of non-ideas and empty sentences. It’s not a machine for cheating; it’s a machine for producing crap.”
jack....@timeshighereducation.com
****************