Fiktyvios ligos sukūrimas ir AI reakcija
Tyrėjas sukūrė neegzistuojančią akių ligą pavadinimu „biksonimanija“ ir įkėlė du netikrus straipsnius į akademinį serverį. Šie straipsniai turėjo akivaizdžių nuorodų į fikciją, kaip „Starfleet Academy“ ir finansavimą iš „The Simpsons“ personažo, tačiau tai nesutrukdė AI sistemoms priimti informaciją kaip tikrą.
AI sistemų klaidos
Keletą savaičių pagrindinės AI sistemos, tokios kaip Google Gemini ir Perplexity, klaidingai traktavo „biksonimaniją“ kaip tikrą ligą. Google Gemini teigė, kad ji sukelta mėlynos šviesos, o Perplexity pranešė apie vieną atvejį 90,000 žmonių. ChatGPT netgi teikė patarimus dėl simptomų atitikimo.
Problemos mokslo pasaulyje
Netikras tyrimas buvo cituojamas recenzuojamame žurnale, kuris po Nature intervencijos atšaukė publikaciją. Tai atskleidžia augančią problemą, kai žmonės cituoja AI generuotus šaltinius nepatikrinę jų turinio.
AI technologijų naudojimas medicinoje
Tuo metu, kai JAV FDA jau naudoja AI vaistų vertinimui, Niujorko ligoninės vadovas svarsto galimybę radiologus pakeisti algoritmais. Be to, pristatoma ChatGPT Health, skirta pacientų konsultacijoms.
