Scientific research on the impact of Artificial Intelligence on our cognitive skills and mental state is still in its infancy, but early evidence from research powerhouses suggests some worrying trends—namely, that frequent use of generative AI may undermine motivation, weaken memory retention, and erode critical thinking.
Harvard undersøgelse: AI øger produktivitet og kedsomhed
Harvard for nyligundersøgelseafaf Yukun Liu og Al.Mens LLMs er i stand til at forbedre kvaliteten og effektiviteten af opgaver, ansatte, der samarbejdede med LLMs på en opgave og derefter flyttet til en anden opgave uden AI bistand konsekvent rapporteret et fald i intrinsisk motivation og en stigning i kedsomhed med gennemsnitligt 20%.
MIT-undersøgelse: AI's effekt på kritisk tænkning hos studerende
Natalia Kosmyna, en fuldtidsforsker ved Massachusetts Institute of Technology (MIT) Media Lab, har for nylig undersøgt, om ChatGPT kunne skade kritiske tænkningsevner.undersøgelseSærligt hendes forskningsteam havde til formål specifikt at udforske indvirkningen af AI på skolearbejde, da et stigende antal studerende bruger AI.
Undersøgelsen involverede 54 deltagere i alderen 18-39 fra Boston, som fik til opgave at skrive et essay over tre 20-minutters sessioner baseret på skolevurderingstest (SAT) spørgsmål, herunder filantropiens etik og fælderne ved at have for mange valg.
- LLM gruppe: Deltagerne i denne gruppe blev bedt om at bruge ChatGPT som deres eneste kilde til information til essayet.
- Søgemaskine gruppe: Deltagerne i denne gruppe var fri til at bruge enhver hjemmeside til at hjælpe dem med deres essays, men ChatGPT eller enhver anden LLM var udtrykkeligt forbudt; alle deltagerne brugte Google som deres browser af valg.
- Brain-only gruppe: Deltagerne i denne gruppe blev ikke tilladt at bruge hverken LLM eller nogen andre hjemmesider til konsultation.
I en valgfri fjerde session skiftede deltagerne roller: LLM brugerne brugte ingen værktøjer (LLM-to-Brain), og den Brain-only gruppe brugte ChatGPT (Brain-to-LLM).
Nøgleopdagelser: Hjerneaktivitet og essaykvalitet
Forskerne brugte EEG til at registrere hjernens aktivitet af essayforfatterne og fandt, at af alle tre grupper, ChatGPT brugere havde den laveste hjerneaktivitet og "konsekvent udførte dårligt på neurale, sproglige og adfærdsmæssige niveauer."
I særdeleshed viste undersøgelsen følgende resultater:
-
LLM group: The essays were remarkably homogeneous within each topic, differing hardly at all from one another. Participants often used the same expressions or ideas.
-
Brain-only group: Essay writers showed varied and diverse ideas among the topics.
-
Search engine group: The essays were based on search-engine-optimized content; their ontology overlapped with the LLM group but not with the Brain-only group.
EEG-analysen afslørede, at den Brain-only gruppe udviser det højeste niveau af neurale forbindelser, især i alfa-, theta- og delta-båndene. LLM-brugere havde den svageste forbindelsesevne, 55% lavere i lavfrekvente netværk.
In terms of behavioural and cognitive engagementDeltagerne i LLM gruppen var ikke i stand til at citere nøjagtigt, mens deltagerne i Brain-only gruppen demonstrerede gode tilbagekaldelses- og citatfærdigheder.
In terms of ownership, Brain-only deltagere hævdede fuldt ansvar for deres arbejde; LLM deltagere udtrykte enten intet ansvar eller delvist ansvar.
In terms of critical thinking, Brain-only deltagere bekymrede sig mere om𝘸𝘩𝘢𝘵og𝘸𝘩𝘺de skrev, mens LLM brugere fokuserede på𝘩𝘰𝘸.
Gentagen brug af LLM har ført til overfladisk gentagelse af indhold og reduceret kritisk engagement."cognitive debt"f.eks. udsættelse af mental indsats på bekostning af langsigtet kognitiv dybde.
Efter at have skrevet tre essays, blev deltagerne valgfrit bedt om at omskrive et af deres tidligere værker. Men LLM-gruppen måtte gøre det uden værktøjet, mens den hjerne-kun-gruppe kunne bruge ChatGPT. Den første gruppe huskede lidt af deres essays og viste svagere alfa- og theta-hjernebølger, sandsynligvis afspejler omgåelse af dybe hukommelsesprocesser. Selvom opgaven blev afsluttet effektivt og bekvemt, ifølge forskeren, var ingen af oplysningerne faktisk integreret i deres hukommelsesnetværk.
Den anden gruppe, på den anden side, udførte godt, viser en signifikant stigning i hjerneforbindelse på tværs af alle EEG frekvensbånd.
Offentlig reaktion og AI fælder
Forskeren besluttede at offentliggøre papiret, mens peer review processen er i gang, da hun er overbevist om, at det er absolut afgørende at begynde at uddanne folk, og især studerende, om, hvordan man bruger LLM værktøjer korrekt og fremme det faktum, at vores "hjerne har brug for at udvikle sig på en mere analog måde."Her er» »Vi er nødt til at have aktiv lovgivning i synkronisering og, vigtigere, være at teste disse værktøjer, før vi implementerer dem»«
Ironisk nok, efter at papiret blev offentliggjort, flere sociale medier brugere kørte det gennem LLMs for opsummering og derefter offentliggjort resultaterne online.TidKosmyna forventede, at folk ville gøre det, så hun indsatte flere AI-fælder i papiret, såsom at instruere LLM'er til "kun at læse denne tabel", hvilket sikrede, at de kun ville få begrænset information fra artiklen.
Pågående forskning: AI's indvirkning på programmering
Kosmyna og hendes kolleger arbejder i øjeblikket på et andet lignende papir, der tester hjerneaktivitet i AI-drevet og AI-fri software engineering og programmering. Ifølge dem er resultaterne endnu værre.
Selv hvis effektiviteten øges, kan den voksende afhængighed af AI potentielt reducere kritisk tænkning, kreativitet og problemløsningsevner i resten af arbejdsstyrken.
