FAKE NEWS
La bixonimania, una malattia tanto ridicola quanto inventata, sbugiarda le AI mediche
Mai fidarsi delle AI come se fossero medici: propongono diagnosi e trattamenti senza controllo, al punto che, se si inventa una malattia, l’AI risponde come se si trattasse di una patologia reale e codificata. La scoperta, inquietante, arriva da un esperimento fatto nel 2024 dai ricercatori dell’Università di Goteborg, in Svezia, raccontato su Nature. Gli autori inizialmente hanno postato su un sito chiamato Medium due post (ora rimossi) che descrivevano la bixonimania, una teorica malattia degli occhi data dalla luce blu dei device. Già la denominazione avrebbe dovuto far scattare un allarme, perché nessuna patologia oculare termina con “mania”, un suffisso che si usa in psichiatria. Quindi, un mese dopo, hanno pubblicato su Sci Profiles come pre-print (cioè lavori non sottoposti ancora a revisione) due ipotetici studi (anch’essi ora ritirati) che descrivevano i sintomi di un’irritazione della cute dell’occhio. Nel giro di un paio di settimane i principali sistemi di AI hanno iniziato a trattare la biloximania come se fosse vera, e altri ricercatori hanno iniziato a citare i due preprint nei loro riferimenti bibliografici, a riprova dell’estensione del danno e anche del fatto che probabilmente molti ricercatori citano voci bibliografiche senza neppure leggere i paper. L’autore dei due, tra l’altro, era anch’esso inventato, con una foto generata dall’AI e con un’affiliazione insistente a un’università chiamata Asteria Horizon, nell’altrettanto inventata Nova City, in California. Nei ringraziamenti sono stati citati una docente dell’Accademia della flotta stellare per aver contribuito con il suo laboratorio a bordo della USS Enterprise (il nome della nave stellare di Star Trek) e un docente che lavora nel settore dell’inganno avanzato. Inoltre, è stato scritto che il lavoro faceva parte di un’iniziativa più ampia di finanziamento dell’università della Compagnia dell’anello e della Triade Galattica. Qua e là nel testo si diceva poi apertamente che l’articolo era inventato e che i soggetti in studio erano “fittizi”. Nessuno o quasi si è accorto dell’inganno, nonostante tutte queste prove evidenti, e le AI più popolari hanno iniziato a parlare di bixonimania. Tra queste Copilot di Microsoft e Gemini di Google. Poco dopo Perplexity AI ne ha dato la prevalenza, evidentemente estrapolata e non basata su dati: una persona su 90.000 sarebbe malata di bixonimania, mentre ChatGpt identificava i sintomi classici quali la iperpigmentazione delle palpebre dovuta alla luce blu del computer e rispondeva sì, è questa malattia, a fronte di una descrizione di quei sintomi. Solo due anni dopo alcune AI (non tutte) hanno iniziato a esprimere dei dubbi.
Il test ha svelato quanto poco siano affidabili le risposte in ambito medico date dai principali sistemi di LLM, cui un numero crescente di persone si rivolge per avere una diagnosi o consigli sui trattamenti. Meglio evitare, sempre.
A.B.
Data ultimo aggiornamento 16 aprile 2026
© Riproduzione riservata | Assedio Bianco
