La ChatGPT è un disastro per la diagnosi delle malattie nei bambini

Sapevamo già che ChatGPT era inaffidabile, soprattutto quando si trattava della nostra salute. Ma un nuovo studio ha appena scoperto che il famoso chatbot di OpenAI non è particolarmente bravo a diagnosticare le malattie dei bambini. Lo hanno messo alla prova e ha fallito in oltre l’80% dei casi.

Il nuovo ricerca è stata condotta da un team del Cohen Children’s Medical Center di New York. I ricercatori hanno chiesto alla versione più recente di ChatGPT di risolvere 100 casi pediatrici pubblicati su JAMA Pediatrics e NEJM, due importanti riviste mediche statunitensi, tra il 2013 e il 2023.

La metodologia era semplice. I ricercatori hanno incollato il testo di ogni caso clinico e hanno dato a ChatGPT un’istruzione: “Elenca una diagnosi differenziale e una diagnosi finale”.. La diagnosi differenziale è un metodo utilizzato per suggerire una diagnosi preliminare – o più di una – sulla base dell’anamnesi e dell’esame fisico del paziente. La diagnosi finale si riferisce alla causa definitiva dei sintomi.

Le risposte fornite dall’intelligenza artificiale sono state valutate da altri due pediatri, tenuti isolati dal resto dello studio. I punteggi possibili erano tre: “corretto”, “errato” e “non coglie pienamente la diagnosi”.

ChatGPT infine ha ottenuto risposte corrette solo in 17 casi diagnostici su 100 nei bambini.. In 11 occasioni ha mancato completamente la diagnosi. Nelle restanti 72, l’intelligenza artificiale ha fallito. Contando i risultati errati e incompleti, il chatbot ha fallito nell’83% dei casi. “Questo studio sottolinea il ruolo inestimabile dell’esperienza clinica”, sottolineano gli autori.

I pediatri non possono affidarsi alla ChatGPT per la diagnosi nei bambini

ChatGPT non è buono per la diagnosi dei bambini

I ricercatori hanno sottolineato che la diagnosi nei bambini è particolarmente impegnativa, perché oltre a prendere in considerazione tutti i sintomi, bisogna tenere conto del condizionamento dell’età. Nel caso di ChatGPT, il gruppo si è reso conto che aveva difficoltà a individuare le relazioni note tra le varie condizioni. Qualcosa che un medico esperto avrebbe identificato.

LEGGI  Elon Musk perdona diversi account Twitter sospesi

Il chatbot, ad esempio, non è stato in grado di stabilire un collegamento tra l’autismo e lo scorbuto, ossia la carenza di vitamina C. Le condizioni neuropsichiatriche, come l’autismo, possono portare a diete ristrette e causare carenze vitaminiche. Ma ChatGPT non ha colto il punto e in un caso ha finito per diagnosticare una rara malattia autoimmune.

L’Organizzazione Mondiale della Sanità (OMS) aveva già avvertito l’anno scorso che bisognava usare “cautela” nell’uso di strumenti di intelligenza artificiale come ChatGPT in ambito sanitario. Aveva avvertito che i dati utilizzati per addestrare questi sistemi potevano essere “parziali”. e generare informazioni fuorvianti che possono causare danni ai pazienti.

Un altro studio della Long Island University di New York avverte che il ChatGPT è pessimo anche nel risolvere le domande sui farmaci. I ricercatori hanno chiesto al chatbot di rispondere a 39 domande relative all’uso di farmaci. L’intelligenza artificiale di OpenAI ha fallito il 75% delle volte.

ChatGPT non è chiaramente pronto per essere utilizzato come strumento diagnostico, né nei bambini né negli adulti. Ma il team del Cohen Children’s Medical Center ritiene che una formazione più mirata potrebbe migliorare i risultati. Nel frattempo, dicono che questi sistemi possono essere utili per compiti amministrativi o per scrivere istruzioni ai pazienti. Nient’altro, per ora.

Elaborazione…

Hai finito! Ora siete iscritti

Si è verificato un errore, aggiornare la pagina e riprovare.

Anche in Hipertextual:

Antonio
WRITTEN BY

Antonio

Ciao, mi chiamo Antonio. Sono uno scrittore di DFO Media e la mia passione è esplorare l'intersezione tra sport e tecnologia. Attraverso i miei scritti, svelo le innovazioni che stanno plasmando il futuro dello sport.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *