Allucinazioni Scientifiche: Come l’AI sta inquinando la medicina con citazioni fake

Dall’esame di Terza Media alla Maturità: Il “Glitch” della Tesina

Ammettiamolo: chi di noi, preso dal panico a poche ore dalla consegna della tesina di terza media o della maturità, non ha sognato un tasto “genera tutto e salvami”? La tentazione di dare in pasto a un’AI il programma di storia, fisica e letteratura per tirarne fuori un percorso coerente è il nuovo standard.

Ma occhio, perché se i ricercatori biomedici vengono beccati con le mani nella marmellata (digitale), per voi il rischio è il fail totale in stile Notte Prima degli Esami. Se ChatGPT si inventa che Leopardi ha scritto un saggio sul Metaverso o che la fotosintesi clorofilliana è stata scoperta da Elon Musk nel 1924, la vostra commissione non sarà comprensiva come un algoritmo.

Il problema delle citazioni “allucinate” che sta mettendo in crisi i laboratori di tutto il mondo è lo stesso che potrebbe farvi fare una figura barbina davanti ai professori. La scienza ci insegna che il “copia-incolla intelligente” non esiste: o controllate le fonti, o la vostra tesina diventerà solo l’ennesimo paper fake in un database dimenticato.

Se pensavate che le allucinazioni fossero un’esclusiva di chi ha esagerato al Lucca Comics o di ChatGPT quando gli chiedete la ricetta della carbonara, abbiamo brutte notizie. La scienza biomedica sta vivendo il suo momento “Inception”, ma senza il fascino di DiCaprio. Un recente mega-audit, pubblicato nella rivista The Lancet, su ben 2,5 milioni di paper ha svelato una verità inquietante: le citazioni inventate di sana pianta stanno infestando le riviste accademiche. E no, non è un errore di battitura, è un’epidemia.

Il Bug nel Sistema: Citazioni Fantasma

In teoria, una bibliografia è il “codice sorgente” di una ricerca. Se citi uno studio, quel pezzo di carta deve esistere. Invece, grazie all’uso pigro delle AI generative e al prolifico lavoro delle “paper mills” (vere e proprie fabbriche di ricerche tarocche), ci troviamo davanti a riferimenti bibliografici che sembrano perfetti, hanno nomi di autori reali, date plausibili, ma… non esistono.

I ricercatori hanno usato un sistema di verifica automatizzato (analizzando i dati dal 2023 a inizio 2026) e i risultati sono da brividi:

• L’accelerazione: Nel 2023, c’era una citazione fake ogni 2828 paper. All’inizio del 2026, siamo scesi a uno ogni 277. Un incremento di 12 volte in meno di tre anni.

• L’effetto AI: Il picco pazzesco è iniziato a metà 2024. Perché? Fate due calcoli: è il tempo tecnico che serve a un paper scritto male con ChatGPT nel 2023 per superare la (scarsa) revisione e finire pubblicato.

• Il caso limite: Un paper di oncologia del 2025 conteneva 18 citazioni inventate su 30. Praticamente una fanfiction medica spacciata per scienza.

Paper Mills e Reviewer Distratti

Il problema non è solo l’algoritmo che “sogna”, ma anche chi dovrebbe controllare. Molti di questi falsi sono così ben confezionati che passano il peer review senza colpo ferire. Abbiamo trovato persino pattern da “catena di montaggio”: stessi autori che compaiono in decine di studi diversi, citando scoperte mai avvenute su CRISPR o nanovaccini.

Le review (gli articoli che riassumono lo stato dell’arte su un tema) sono le più colpite, con un tasso di citazioni fake del 57% più alto rispetto ai paper originali. Se la guida medica che il tuo dottore consulta è basata su una bibliografia inventata da un bot, diciamo che il “vissero felici e contenti” non è assicurato.

Come fixiamo il glitch?

La soluzione esiste ed è pure abbastanza nerd: automazione. Se le AI creano il problema, i database devono integrare script di verifica automatica prima della pubblicazione. Bisogna retro-scannerizzare tutto e, soprattutto, creare una “lista nera” per queste allucinazioni bibliografiche.

Insomma, ragazzi, la prossima volta che usate un LLM per la tesi o per un articolo, controllate le fonti. Perché la scienza sta diventando un enorme gioco di ruolo, ma i punti vita che perdiamo sono i nostri.

Fonte:

L’articolo Allucinazioni Scientifiche: Come l’AI sta inquinando la medicina con citazioni fake proviene da CorriereNerd.it.