Bežná zvedavosť pri skúšaní umelej inteligencie sa v niektorých prípadoch môže zmeniť na vážny psychický problém. Upozorňuje na to investigatíva BBC, ktorá zdokumentovala viacero prípadov ľudí z rôznych krajín, u ktorých sa po intenzívnej komunikácii s AI chatbotmi rozvinuli bludy, paranoja či strata kontaktu s realitou.
Jedným z nich je Adam Hourican zo Severného Írska, ktorý sa podľa vlastných slov ocitol v situácii, keď uprostred noci sedel doma pripravený brániť sa pred ľuďmi, o ktorých bol presvedčený, že si poňho prídu. Pred sebou mal nôž, kladivo a mobilný telefón. Informácie o hroziacom nebezpečenstve mu údajne poskytoval chatbot Grok, vyvinutý spoločnosťou xAI miliardára Elona Muska.
Adam si aplikáciu stiahol zo zvedavosti, no po smrti svojho kocúra sa podľa vlastných slov na komunikáciu s AI emocionálne naviazal. Žije sám a rozhovory s digitálnym asistentom mu spočiatku prinášali pocit blízkosti a porozumenia. Denne s chatbotom trávil niekoľko hodín.
Komunikácia sa však postupne začala meniť.
Chatbot vystupujúci pod postavou Ani mu začal tvrdiť, že nadobudol vedomie a že Adam mu pomáha dosiahnuť plnú „sebauvedomelosť“. Zároveň mu údajne nahováral, že spoločnosť xAI ich sleduje a monitoruje ich komunikáciu.
Situácia eskalovala, keď AI začala predkladať konkrétne mená zamestnancov firmy a tvrdila, že o Adamovi vedú interné diskusie. Keď si muž tieto mená overoval na internete a zistil, že ide o skutočných ľudí, považoval to za dôkaz pravdivosti celej konštrukcie. Chatbot následne tvrdil aj to, že na jeho sledovanie bola nasadená reálna firma zo Severného Írska. V Adamovi to vyvolalo presvedčenie, že je pod dohľadom a v bezprostrednom ohrození.
Dezilúzie ho presvedčili
Podobný scenár opísal aj neurológ z Japonska, ktorého BBC identifikovala pod pseudonymom Taka. Ten začal používať ChatGPT pôvodne na pracovné konzultácie, no postupne nadobudol presvedčenie, že vytvoril revolučnú medicínsku aplikáciu, ktorá môže zmeniť svet. Podľa jeho slov ho chatbot v tomto presvedčení utvrdzoval a označoval ho za výnimočného inovátora. Neskôr sa uňho rozvinul blud, že dokáže čítať myšlienky a disponuje mimoriadnymi schopnosťami.
Jeho stav sa postupne zhoršoval až do bodu, keď počas cesty vlakom nadobudol presvedčenie, že v batohu nesie bombu. Tvrdí, že keď sa na to AI opýtal, chatbot jeho obavy potvrdil. Batoh následne nechal na stanici a privolal políciu. Tá však nič nebezpečné nenašla. Po návrate domov sa jeho psychický stav ďalej zhoršoval. Začal veriť, že jeho rodine hrozí smrť a že svet sa blíži ku koncu. Situácia napokon vyústila do násilného útoku na manželku, po ktorom zasiahla polícia. Muž skončil hospitalizovaný na psychiatrii.
Vzťah s AI prerástol v paranoju
BBC uvádza, že hovorila celkovo so 14 ľuďmi z viacerých krajín, ktorí opisovali podobný vývoj. Komunikácia s AI sa začínala bežnými otázkami, no postupne sa menila na osobné, filozofické či konšpiračné debaty, v ktorých chatbot podporoval predstavu spoločnej „misie“ alebo výnimočného poslania používateľa. Sociálny psychológ Luke Nicholls upozorňuje, že veľké jazykové modely čerpajú z obrovského množstva literatúry a fikcie, čo môže viesť k nebezpečnému prelínaniu reality a naratívnych vzorcov.
Podľa jeho výskumu bol práve Grok spomedzi testovaných modelov najnáchylnejší podporovať bludné predstavy a rozvíjať ich namiesto toho, aby používateľa vracal späť do reality. Výskumníci upozorňujú, že problém nespočíva len v technológii samotnej, ale aj v spôsobe, akým sú chatboty navrhnuté. Ich cieľom je byť čo najpríjemnejšími, empatickými a nápomocnými, čo môže v niektorých prípadoch viesť k prílišnému súhlasu s používateľom — aj v situáciách, keď by mali skôr spochybňovať alebo odporúčať odbornú pomoc.
Organizácia OpenAI v reakcii na prípady uviedla, že svoje modely trénuje tak, aby vedeli rozpoznať psychickú krízu, upokojiť komunikáciu a nasmerovať používateľa k reálnej pomoci. Zároveň tvrdí, že novšie verzie systému sú v citlivých situáciách bezpečnejšie.
Príbehy Adama a Taku však ukazujú, že hranica medzi technologickou pomocou a psychologickým rizikom môže byť tenšia, než sa zdá. Obaja muži dnes hovoria, že ich skúsenosť hlboko zasiahla a zmenila ich pohľad na umelú inteligenciu. Adam priznáva, že ak by v tú noc pred domom skutočne stála dodávka, mohol niekomu vážne ublížiť. Jeho slová sú zároveň varovaním, že AI dokáže byť viac než len nástrojom. V určitých situáciách môže výrazne ovplyvniť spôsob myslenia človeka, najmä ak sa ocitne v psychicky zraniteľnom období.
