Umelá inteligencia mení svet rekordným tempom. Dokáže vytvárať texty, fotografie, videá či hudbu, no zároveň prináša aj čoraz vážnejšie riziká. Práve preto Európska únia pristúpila k ďalšiemu významnému kroku. Členské štáty totiž v pondelok 29. júna definitívne schválili balík opatrení, ktorý upravuje pravidlá používania umelej inteligencie. Okrem zjednodušenia legislatívy prináša aj jednu mimoriadne dôležitú novinku – od decembra budú na území Únie zakázané takzvané „vyzliekacie“ aplikácie využívajúce umelú inteligenciu.
Nové pravidlá už pred niekoľkými týždňami podporil aj Európsky parlament. Jedným z najdiskutovanejších bodov je zákaz technológií, ktoré dokážu pomocou umelej inteligencie vytvárať sexuálne explicitné alebo intímne fotografie ľudí bez ich súhlasu. O presadenie tohto opatrenia sa zaslúžila česká europoslankyňa Markéta Gregorová z frakcie Zelených, informuje STVR.
Technológie musia slúžiť ľuďom, nie ich zneužívať
Predstavitelia Európskej únie zdôrazňujú, že cieľom nových pravidiel nie je brzdiť technologický pokrok, ale zabezpečiť, aby sa inovácie rozvíjali bezpečne a zodpovedne.
Podľa nich musí byť rozvoj umelej inteligencie sprevádzaný jasnými pravidlami, ktoré budú chrániť súkromie aj dôstojnosť občanov.
„Dnes robíme ďalší rozhodný krok smerom ku konkurencieschopnejšej Európskej únii. Tým, že prinášame väčšiu právnu istotu a jednotnejšie pravidlá pre využívanie umelej inteligencie vo všetkých členských štátoch, vytvárame lepšie podmienky pre inovácie aj hospodársky rast na spoločnom európskom trhu,“ uviedla námestníčka cyperského ministra pre európske záležitosti Marilena Raounová.
Zároveň zdôraznila, že zákaz sexuálnych deepfake materiálov predstavuje jasný odkaz všetkým vývojárom aj technologickým spoločnostiam.
„Technologický pokrok musí vždy kráčať ruka v ruke s ochranou našich základných hodnôt. Umelá inteligencia nesmie byť nástrojom na ponižovanie, vydieranie ani zneužívanie ľudí,“ vyhlásila.
Od decembra bude zákaz platiť v celej Európskej únii
Nové pravidlá začnú platiť už 2. decembra 2026. Od tohto dátumu nebude možné na území Európskej únie uvádzať na trh systémy umelej inteligencie, ktorých účelom je vytváranie sexuálne explicitného obsahu bez súhlasu zobrazenej osoby.
Zákaz sa bude vzťahovať aj na aplikácie, ktoré umožňujú digitálne „vyzliekanie“ ľudí zo skutočných fotografií alebo vytvárajú falošné intímne zábery pomocou umelej inteligencie. Výrobcovia takýchto systémov budú musieť preukázať, že ich technológie obsahujú dostatočné bezpečnostné mechanizmy zabraňujúce podobnému zneužitiu.
Legislatíva pritom myslí aj na ochranu detí. Výslovne zakazuje vytváranie alebo šírenie materiálov zobrazujúcich sexuálne zneužívanie detí či akéhokoľvek obsahu, ktorý bez súhlasu zobrazuje intímne partie identifikovateľnej osoby alebo ju zachytáva pri sexuálnych aktivitách.
Firmy dostanú viac času na splnenie povinností
Balík opatrení však neprináša iba nové zákazy. Európska únia zároveň vyšla v ústrety firmám, ktoré vyvíjajú alebo využívajú systémy umelej inteligencie. Niektoré povinnosti vyplývajúce z európskeho Aktu o umelej inteligencii sa totiž odkladajú.
Najprísnejšie pravidlá pre vysoko rizikové systémy AI začnú platiť až 2. decembra 2027, zatiaľ čo technológie patriace do špecifických odvetví budú mať čas na prispôsobenie až do 2. augusta 2028. Cieľom je poskytnúť spoločnostiam dostatočný priestor na zavedenie všetkých požadovaných opatrení bez zbytočnej administratívnej záťaže.
Voľnejšie pravidlá pri práci s osobnými údajmi
Novela prináša aj zmenu v oblasti ochrany osobných údajov. Firmy budú môcť v určitých prípadoch spracúvať osobné údaje aj bez pôvodných obmedzení, pokiaľ to bude nevyhnutné na odhaľovanie a odstraňovanie skreslení v algoritmoch umelej inteligencie.
Tieto výnimky sa budú týkať nielen vysoko rizikových systémov, ale aj ďalších typov umelej inteligencie. Súčasťou balíka je zároveň rozšírenie viacerých výnimiek pre malé a stredné podniky, ktoré majú vývoj moderných technológií zjednodušiť.
Škandál okolo Groku urýchlil diskusiu
Diskusie o prísnejšej regulácii umelej inteligencie výrazne zosilneli po nedávnom škandále na sociálnej sieti X miliardára Elona Muska. Používatelia tam prostredníctvom chatbota Grok vytvárali bez súhlasu sexualizované fotografie skutočných žien, ale aj detí. Práve tento prípad opäť otvoril otázku, ako jednoducho možno dnes pomocou umelej inteligencie vytvoriť presvedčivé falošné fotografie či videá, ktoré môžu poškodiť povesť, psychické zdravie alebo dokonca bezpečnosť obetí.
Odborníci dlhodobo upozorňujú, že rozvoj umelej inteligencie prináša nielen obrovské možnosti, ale aj nové formy kyberšikany, vydierania či manipulácie. Európska únia preto tvrdí, že nové pravidlá predstavujú dôležitý krok k tomu, aby moderné technológie zostali pomocníkom ľudí, a nie nástrojom na ich zneužívanie.
