Distinguere una radiografia autentica da una generata dall’intelligenza artificiale sta diventando un compito sempre più arduo, anche per chi ha trascorso decenni a leggere immagini diagnostiche. Così la Radiological Society of North America (uno degli enti di riferimento mondiale nel campo dell’imaging sanitario) ha creato un dataset interattivo con un quiz per allenarsi a distinguere le immagini mediche sintetiche vere da quelle false.
Tutto nasce da un studio pubblicato su Radiology, la rivista scientifica di RSNA.
La ricerca è stata condotta da Mickael Tordjman, medico e ricercatore post-dottorale presso la Icahn School of Medicine at Mount Sinai di New York e ha coinvolto diciassette radiologi provenienti da dodici centri in sei paesi (Stati Uniti, Francia, Germania, Turchia, Regno Unito ed Emirati Arabi Uniti) con esperienze professionali diversificate.
Il test: metà reali, metà false
Il set di immagini analizzate era composto da 264 radiografie, metà autentiche e metà generate da AI. I ricercatori hanno utilizzato due diversi sistemi generativi: ChatGPT-4o di OpenAI, per produrre immagini di diverse regioni anatomiche (torace, colonna cervicale, mano, colonna lombare), e RoentGen, un modello open-source sviluppato dai ricercatori di Stanford Medicine, specializzato in radiografie del torace.
Quando i radiologi non erano a conoscenza dello scopo reale dello studio, solo il 41% ha spontaneamente identificato le immagini generate dall’AI. Anche dopo essere stati informati che il dataset conteneva immagini sintetiche, l’accuratezza media nel distinguere le radiografie reali da quelle false si è fermata al 75%, con performance individuali che oscillavano tra il 58% e il 92%.
Non è emersa alcuna correlazione tra gli anni di esperienza di un radiologo e la sua capacità di rilevare le immagini sintetiche. Tuttavia, i radiologi specializzati in ambito muscolo-scheletrico hanno mostrato un’accuratezza significativamente superiore rispetto ad altri subspecialisti.
I modelli AI non avvertono più gli utenti di fare attenzione ai loro consigli medici
Un'indagine evidenzia la progressiva scomparsa dei disclaimer medici dai principali…
L’IA che non riconosce sé stessa
Perfino i modelli linguaggio avanzati hanno faticato nel rilevare le immagini false. Quattro LLM multimodali (GPT-4o e GPT-5 di OpenAI, Gemini 2.5 Pro di Google e Llama 4 Maverick di Meta) hanno ottenuto accuratezze comprese tra il 57% e l’85%. Nemmeno ChatGPT-4o, il modello usato per creare i deepfake, è riuscito a individuarli tutti, pur risultando il migliore tra i sistemi testati.
Eppure le caratteristiche che tradiscono l’origine artificiale sono, secondo il dottor Tordjman, individuabili.
Le radiografie generate dall’AI tendono infatti a essere “troppo perfette“: le ossa appaiono eccessivamente lisce, le colonne vertebrali innaturalmente dritte, i polmoni troppo simmetrici, i pattern vascolari uniformi in modo sospetto e le fratture insolitamente nette e consistenti, spesso limitate a un solo lato dell’osso. È proprio questa perfezione anomala a rappresentare il principale indizio diagnostico.
I rischi: dalle frodi legali al sabotaggio dei sistemi ospedalieri
Le implicazioni di questa vulnerabilità sono tutt’altro che teoriche. Una frattura fabbricata indistinguibile da una reale potrebbe per esempio essere usata in contenziosi legali fraudolenti. E esiste inoltre un concreto rischio di cybersicurezza. Un attacco hacker ai sistemi ospedalieri potrebbe iniettare immagini sintetiche per manipolare diagnosi o destabilizzare l’intero sistema di cartelle cliniche digitali.
Per arginare il fenomeno, lo studio raccomanda l’adozione di misure di sicurezza digitale avanzate specifiche come filigrane invisibili che incorporano dati di proprietà direttamente nelle immagini.
Amazon lancia il suo assistente sanitario AI su sito web e app per tutti gli utenti statunitensi
Lo strumento si chiama Health AI e funziona come un…
