Studiu: textele eronate generate de AI pot influența memoria utilizatorilor

Informațiile incorecte introduse într-un rezumat generat de inteligența artificială pot influența ulterior felul în care oamenii își amintesc evenimentul original, sugerează un studiu realizat de cercetători de la Georgetown University și University of Washington. Rezultatele ridică semne de întrebare asupra folosirii rezumatelor automate în contexte în care acuratețea informației este importantă, însă studiul a fost realizat într-un cadru experimental și nu a evaluat utilizarea AI în practica medicală.

Cercetarea, intitulată „AI-Enabled Human Memory Manipulation: Misleading AI-Generated Summaries Distort Human Memory”, a fost publicată la 23 septembrie 2026. O versiune a lucrării este inclusă în proceedings-ul celei de-a noua conferințe AAAI/ACM Conference on AI, Ethics, and Society.

Ce au testat cercetătorii

Studiul a avut două componente. În prima, cercetătorii au analizat capacitatea unor modele de inteligență artificială de a rezuma două videoclipuri scurte, de câte aproximativ 25 de secunde, care prezentau un accident între o mașină și un pieton.

Au fost testate ChatGPT-5.5 și Gemini 2.5 Flash-Lite, fiecare model fiind solicitat de mai multe ori să producă un rezumat factual și neutru al videoclipurilor. În total au fost analizate 20 de rezumate.

Cercetătorii au identificat erori în toate cele 20 de texte. Cea mai frecventă problemă a fost omiterea unor informații considerate esențiale: în medie, 51,6% dintre detaliile centrale prestabilite de cercetători lipseau din rezumate. În 19 dintre cele 20 de texte nu era menționat chiar faptul că mașina lovise pietonul.

Analiza a fost însă una restrânsă, bazată pe numai două videoclipuri și două modele, astfel încât aceste procente nu pot fi interpretate drept o estimare generală a ratei de eroare a sistemelor AI.

Un detaliu fals a modificat ceea ce participanții își aminteau

A doua parte a cercetării a urmărit dacă o informație eronată introdusă ulterior într-un rezumat poate influența memoria.

Un total de 331 de participanți au urmărit un videoclip în care o mașină ajungea la o intersecție prevăzută fie cu indicator „Stop”, fie cu „Cedează trecerea”. După 24–48 de ore, participanții au citit un rezumat al evenimentului care conținea fie informația corectă despre indicatorul rutier, fie informația opusă.

Ulterior, 83,6% dintre persoanele care citiseră varianta corectă au identificat corect indicatorul văzut inițial. În grupul expus rezumatului cu informația falsă, proporția răspunsurilor corecte a fost de 44,8%, potrivit datelor prezentate de Georgetown University.

Efectul a apărut indiferent dacă participanților li se spusese că rezumatul provenea de la un sistem AI sau că fusese redactat de un om.

Un fenomen cunoscut al memoriei, într-un context nou

Rezultatul este compatibil cu așa-numitul „misinformation effect”, un fenomen studiat de mai multe decenii în psihologia memoriei: informațiile eronate întâlnite după un eveniment pot modifica felul în care acesta este rememorat ulterior.

Noutatea studiului constă în testarea acestui fenomen în contextul rezumatelor generate de inteligența artificială.

Autorii atrag atenția în special asupra sistemelor în care un om este desemnat să verifice rezultatul produs de AI. În anumite situații, dacă persoana citește mai întâi un rezumat eronat și se bazează ulterior pe propria memorie pentru verificare, informația falsă ar putea influența chiar amintirea sursei originale.

Ce nu demonstrează studiul

Rezultatele nu arată că orice rezumat realizat cu inteligență artificială produce amintiri false și nici nu permit estimarea dimensiunii acestui fenomen în utilizarea cotidiană.

Experimentul a folosit un singur tip de eveniment vizual, o informație falsă precis controlată și o sarcină simplă de memorare. Mai mult, informația eronată prezentată participanților a fost introdusă controlat de cercetători, pentru a permite compararea grupurilor experimentale.

Studiul nu a evaluat rezumate ale fișelor medicale, consultațiilor, investigațiilor sau altor documente clinice. Prin urmare, rezultatele nu pot fi extrapolate direct la medicină.

Ele oferă însă un argument suplimentar pentru verificarea informației originale atunci când rezumatele AI sunt folosite în contexte cu miză ridicată. În domeniul medical, unde sistemele bazate pe modele lingvistice sunt tot mai frecvent investigate pentru sintetizarea documentelor și a informațiilor clinice, acuratețea unui rezumat și posibilitatea verificării sale în raport cu sursa rămân aspecte esențiale.

⚠ Disclaimer: Informațiile prezentate de Medic24 au scop educativ și/sau informativ. Ele nu înlocuiesc consultul medical. Diagnosticul și tratamentul pot fi stabilite doar de un medic.