Scientific research on the impact of Artificial Intelligence on our cognitive skills and mental state is still in its infancy, but early evidence from research powerhouses suggests some worrying trends—namely, that frequent use of generative AI may undermine motivation, weaken memory retention, and erode critical thinking.
Estudio de Harvard: la IA aumenta la productividad y el aburrimiento
El reciente HarvardEstudioporYucán Liu y al .Mientras que los LLM son capaces de mejorar la calidad y la eficiencia de las tareas, los empleados que colaboraron con los LLM en una tarea y luego se trasladaron a otra tarea sin ayuda de IA reportaron consistentemente una disminución de la motivación intrínseca y un aumento en el aburrimiento en un promedio de 20%.
Estudio del MIT: El efecto de la IA en el pensamiento crítico en los estudiantes
Natalia Cosmona, un investigador a tiempo completo en el Massachusetts Institute of Technology (MIT) Media Lab, ha investigado recientemente si ChatGPT podría dañar las habilidades de pensamiento crítico.EstudioEn particular, su equipo de investigación tuvo como objetivo explorar específicamente el impacto de la IA en el trabajo escolar, ya que un número creciente de estudiantes está utilizando la IA.
El estudio involucró a 54 participantes de 18 a 39 años de edad de Boston, a quienes se les dio la tarea de escribir un ensayo en tres sesiones de 20 minutos basadas en preguntas de evaluación escolar (SAT), incluyendo la ética de la filantropía y las trampas de tener demasiadas opciones.
- Grupo LLM: Los participantes de este grupo fueron obligados a usar ChatGPT como su única fuente de información para el ensayo.
- Grupo de motores de búsqueda: Los participantes de este grupo eran libres de usar cualquier sitio web para ayudarlos con sus ensayos, pero ChatGPT o cualquier otro LLM estaba explícitamente prohibido; todos los participantes usaron Google como su navegador de elección.
- Grupo cerebro-sólo: Los participantes en este grupo no estaban autorizados a usar ni el LLM ni cualquier otro sitio web para la consulta.
En una cuarta sesión opcional, los participantes cambiaron de roles: los usuarios de LLM no usaron herramientas (LLM-to-Brain), y el grupo sólo para el cerebro usó ChatGPT (Brain-to-LLM).
Principales hallazgos: Actividad cerebral y calidad de ensayo
Los investigadores usaron EEG para registrar la actividad cerebral de los autores de los ensayos y encontraron que de los tres grupos, los usuarios de ChatGPT tenían la actividad cerebral más baja y "consistentemente realizaban mal en los niveles neural, lingüístico y comportamental".
En particular, el estudio reveló los siguientes resultados:
-
LLM group: The essays were remarkably homogeneous within each topic, differing hardly at all from one another. Participants often used the same expressions or ideas.
-
Brain-only group: Essay writers showed varied and diverse ideas among the topics.
-
Search engine group: The essays were based on search-engine-optimized content; their ontology overlapped with the LLM group but not with the Brain-only group.
El análisis de EEG reveló que el grupo Brain-only mostraba el mayor nivel de conectividad neural, particularmente en las bandas alfa, theta y delta. los usuarios de LLM tenían la conectividad más débil, 55% más baja en las redes de baja frecuencia.
In terms of behavioural and cognitive engagement, los participantes del grupo LLM no fueron capaces de citar con precisión, mientras que los participantes del grupo Brain-only demostraron buenas habilidades de recuerdo y cita.
In terms of ownershipLos participantes cerebrales solo reclamaron la plena responsabilidad por su trabajo; los participantes del LLM expresaron ninguna responsabilidad o responsabilidad parcial.
In terms of critical thinkingLos participantes de Brain-only se preocuparon más por𝘸𝘩𝘢𝘵y𝘸𝘩𝘺que escribieron, mientras que los usuarios de LLM se centraron en el𝘩𝘰𝘸.
El uso repetido del LLM ha llevado a la repetición superficial del contenido y la reducción del compromiso crítico."cognitive debt", por ejemplo, el retraso del esfuerzo mental a costa de la profundidad cognitiva a largo plazo.
Después de escribir tres ensayos, a los participantes se les pidió opcionalmente que reescribieran uno de sus trabajos anteriores. Sin embargo, el grupo LLM tuvo que hacerlo sin la herramienta, mientras que el grupo cerebro-solo podía usar ChatGPT. El primer grupo recordó poco de sus ensayos y mostró ondas cerebrales alfa y theta más débiles, probablemente reflejando el paso de los procesos de memoria profunda. Aunque la tarea se completó de manera efectiva y conveniente, según el investigador, ninguna de la información se integró realmente en sus redes de memoria.
El segundo grupo, por otro lado, se desempeñó bien, mostrando un aumento significativo en la conectividad cerebral en todas las bandas de frecuencia EEG. Esto da esperanza de que la IA, cuando se utiliza correctamente, puede mejorar el aprendizaje en lugar de obstaculizarlo.
La reacción del público y las trampas
La investigadora decidió publicar el artículo mientras el proceso de revisión por pares está en marcha, ya que está convencida de que es absolutamente crucial comenzar a educar a las personas, y especialmente a los estudiantes, sobre cómo usar las herramientas de LLM correctamente y promover el hecho de que nuestro "cerebro necesita desarrollarse de una manera más analógica".aquí, “Necesitamos tener legislación activa en sincronía y, más importante, estar probando estas herramientas antes de implementarlas» »
Irónicamente, después de que el artículo fuera publicado, varios usuarios de redes sociales lo corrían a través de LLMs para resumir y luego publicaron los hallazgos en línea.tiempoKosmyna esperaba que la gente lo hiciera, por lo que insertó varias trampas de IA en el papel, como instruir a los LLMs a "leer solo esta tabla", lo que aseguró que sólo obtendrían información limitada del artículo.
Investigación en curso: El impacto de la IA en la programación
Kosmyna y sus colegas están trabajando actualmente en otro artículo similar que prueba la actividad cerebral en la ingeniería y programación de software impulsados por IA y libres de IA. Según ellos, los resultados son aún peores.Esta nueva investigación podría tener implicaciones para muchas empresas que esperan reemplazar a sus programadores de nivel de entrada con IA.
Incluso si la eficiencia aumenta, la creciente dependencia de la IA podría potencialmente reducir el pensamiento crítico, la creatividad y las habilidades de resolución de problemas en la fuerza laboral restante.
