Čoraz viac ľudí sa v otázkach zdravia obracia na umelú inteligenciu, ktorá im dokáže okamžite poskytnúť odpovede na symptómy, možné diagnózy či odporúčania, čo robiť ďalej. Tento trend sa rýchlo rozširuje najmä preto, že chatboty pôsobia dostupne, reagujú bez čakania a ich odpovede často vyznievajú presvedčivo, čo v používateľoch vyvoláva pocit istoty aj dôvery. Práve táto kombinácia rýchlosti a sebavedomia však podľa odborníkov predstavuje riziko, ktoré môže mať v zdravotných otázkach vážne dôsledky.
Ako upozorňuje aj britská verejnoprávna stanica BBC, umelá inteligencia síce dokáže poskytovať veľmi presvedčivé vysvetlenia, no jej odpovede nemusia byť vždy správne alebo medicínsky presné. Problém spočíva v tom, že systém dokáže formulovať aj nesprávnu informáciu takým spôsobom, že pôsobí ako odborné stanovisko, čo môže používateľov viesť k chybným rozhodnutiam v starostlivosti o vlastné zdravie.
Skúsenosti používateľov ukazujú, že výsledky používania týchto nástrojov môžu byť veľmi rozdielne. V niektorých prípadoch chatbot pomohol nasmerovať človeka k správnej zdravotnej starostlivosti, no v iných situáciách vyvolal zbytočnú paniku tým, že naznačil vážnejšie ochorenie, než aké sa v skutočnosti potvrdilo. Tento rozpor podľa odborníkov poukazuje na to, že ide o technológiu, ktorá ešte nie je spoľahlivou náhradou lekárskeho posúdenia.
Obavy z nesprávneho využívania umelej inteligencie v zdravotníctve vyjadrili aj odborníci z praxe. Hlavný zdravotnícky predstaviteľ Anglicka Chris Whitty upozornil, že tieto nástroje už verejnosť bežne používa, no ich odpovede stále nedosahujú úroveň, ktorá by bola bezpečná pre medicínske rozhodovanie, keďže môžu pôsobiť presvedčivo aj v prípadoch, keď sú nesprávne.
Zaujímavé výsledky priniesol aj výskum odborníkov z Oxfordskej univerzity, ktorí testovali, ako umelá inteligencia reaguje na rôzne zdravotné scenáre. V kontrolovaných podmienkach, keď mala k dispozícii presne popísané prípady, dosahovala vysokú presnosť, avšak situácia sa výrazne zmenila vo chvíli, keď s ňou komunikovali bežní používatelia spôsobom, akým prirodzene opisujú svoje ťažkosti, píše nature.com.
Pri teste s viac ako tisíckou účastníkov presnosť odpovedí dramaticky klesla, keďže ľudia často poskytovali neúplné informácie, vynechávali dôležité detaily alebo opisovali svoje príznaky nepresne a neštruktúrovane. V takýchto prípadoch sa systém častejšie dopúšťal chýb a jeho odporúčania smerovali k nesprávnym záverom alebo nevhodným krokom, čo podľa vedcov predstavuje zásadný problém v reálnom používaní.
Výskumníci zároveň poukázali na to, že tradičné vyhľadávanie informácií na overených zdravotníckych portáloch môže byť v niektorých situáciách spoľahlivejšou alternatívou, keďže používatelia sa tak dostávajú k overeným zdrojom a nemusia sa spoliehať na interpretáciu umelej inteligencie. Tento prístup môže pomôcť znížiť riziko nesprávnych rozhodnutí, najmä v prípadoch, keď ide o vážnejšie zdravotné príznaky.
