Salute

La comunicazione scientifica e quei rischi di ChatGPT

di UGOLINO LIVI

Cosa sta succedendo nel mondo dell’editoria scientifica? L’avvento della modalità “open” di pubblicazione ha fatto lievitare a dismisura le capacità editoriali del sistema, soprattutto nel campo biomedico, su cui si è andato inserendo recentemente l’apporto dirompente dell’intelligenza artificiale, in particolare di ChatGPT. È in atto una rivoluzione epocale nella comunicazione dei prodotti scientifici, nella possibilità di accesso alle informazioni e non ultimo nell’esposizione al rischio di manipolazione o parzialità delle notizie. Per comprendere bene è necessario un passo indietro: fino a non molto tempo fa qualsiasi ricercatore o scienziato che voleva rendere pubblici una scoperta o semplici risultati della sua ricerca doveva sottomettere il testo descrittivo ad una rivista di settore, per lo più rappresentativa di Società Scientifiche, cioè di associazioni di professionisti o cultori di una specifica materia, la quale si avvaleva di esperti, i “peer reviewers” (revisori paritetici) per valutarne l’originalità, il rigore metodologico, il contributo innovativo, il pregio e l’eventuale impatto sulle conoscenze. In base alla valutazione l’editore approvava o rigettava il manoscritto, o richiedeva agli autori alcune modifiche. A conclusione del processo, che poteva durare mesi, il lavoro veniva pubblicato in forma cartacea e digitale. Ogni rivista poteva contare su un limite massimo di pagine e visto che le valutazioni molto rigorose di massimi esperti internazionali imponevano una selezione molto stringente dei lavori accettati, nel caso delle riviste più prestigiose il tasso di accettazione era inferiore al 5%. Questo sistema di trasmettere il sapere presenta alcuni limiti, tra cui elevata selezione, lentezza di processo, valutazione talvolta inadeguata, bias di pubblicazione (si tende omettere i risultati negativi), e soprattutto l’accesso ai soli abbonati. La modalità “open” ha introdotto un modo di comunicare più democratico: le informazioni sono disponibili gratuitamente per tutti, che siano ricercatori, docenti, decisori politici o cultori della materia. Con la pubblicazione online, senza vincoli di spazio o di tempo, l'”open access” ha il vantaggio della rapidità, ma anche del più alto tasso di accettazione (in molti casi superiore al 70%), grazie a un minor rigore valutativo su originalità e risultati, ma con un’attenzione particolare al rigore metodologico con cui si è condotta la ricerca. Questa maggiore facilità ha favorito un aumento esponenziale delle pubblicazioni scientifiche tanto che il numero di articoli pubblicati e indicizzati nel 2022 su WEB of SCIENCE, il più importante database della ricerca scientifica mondiale, ha superato i 2,5 milioni, molti di più dei 200mila del 1970 e gli 800mila del 2000. La conseguenza è stata un’incredibile espansione dell’editoria scientifica, un’industria che al giorno d’oggi vale globalmente 30 miliardi di dollari di fatturato annuo e genera consistenti margini di profitto per l’editore, considerando che gran parte delle pubblicazioni sono pagate dagli autori o da chi sostiene la ricerca. Questo grande interesse economico degli editori a pubblicare si sposa con un equivalente interesse dei ricercatori, perché è proprio attraverso le pubblicazioni che si promuove il proprio profilo scientifico e professionale in funzione di un avanzamento di carriera o di una progressione accademica o di una partecipazione a bandi di ricerca competitivi, con possibilità di costruirsi una carriera in maniera facilitata e rapida. Questa corsa alla pubblicazione non fa altro che sottrarre fondi alla ricerca vera e mettere in difficoltà le riviste tradizionali che devono adeguarsi con versioni gemelle “open” per poter rimanere sul mercato. Nel contempo sono cresciute le cosiddette mega-riviste, multidisciplinari, con oltre 2000 articoli pubblicati per anno, fino ad arrivare a 15mila lavori pubblicati, come nel caso di SCIENTIFIC REPORTS e PLoS One. In un recente editoriale apparso su JAMA, rivista scientifica internazionale, è stato stigmatizzato il meccanismo perverso degli interessi coincidenti – editori/ricercatori – che rischia di favorire un progressivo minor controllo della veridicità e qualità dei dati, eventualmente manipolati ed ingannevoli, avendo come conseguenza un impatto sulla trasmissione delle informazioni, soprattutto in ambito biomedico. Ma la rivoluzione nell’editoria scientifica è solo all’inizio. Tutta da verificare l’interferenza dell’intelligenza artificiale considerando che il modello di linguaggio neurale proposto da ChatGPT sembra già in grado di svolgere compiti propri della mente umana, come quello della stesura di testi di natura scientifica. In letteratura sono comparsi recentemente articoli che riportavano come co-autore ChatGPT, in alcuni casi gli scritti sono stati scambiati come opera umana, addirittura un radiologo dell’Università del Tennessee è stato in grado di scrivere 16 articoli in 4 mesi con l’aiuto dell’app – citandola nei ringraziamenti. La velocità di ricerca dati, la loro elaborazione e la rapidità di scrittura costituiscono un indubbio vantaggio, anche se resta da verificare l’accuratezza, l’affidabilità oltre ai problemi etici di proprietà intellettuale. Molte riviste di prestigio non accettano forme di scrittura assistita dall’intelligenza artificiale, ritenendo che il prodotto non abbia le caratteristiche di originalità richieste. Se poi il prodotto costruito dall’intelligenza artificiale fosse fondato su dati non verificati e validati, come quelli che si potrebbero trovare in certa letteratura “open”, si può facilmente comprendere il concreto rischio di una trasmissione parziale e non veritiera della conoscenza, tradendo i principi di trasparenza, neutralità e verifica scientifica alla base della scienza e del sapere umano. L’utilizzo della chatbot per la stesura di articoli si espanderà rapidamente, l’editoria scientifica si dovrà rinnovare e adeguare ad un nuovo modo di comunicare il sapere, ma serviranno strumenti nuovi di verifica e controllo perché non vadano vanificate le incredibili opportunità di conoscenza che la moderna tecnologia mette a disposizione. Sta sempre all’uomo trovare comunque la strada migliore e giusta per garantire all’umanità progresso e civiltà.