Európska únia je majstrom regulácií a tak už v roku 2024 prijala nové nariadenie (EÚ) 2024/1689 o umelej inteligencii – AI Act. Jednotlivé fázy dokumenty sa začínajú implementovať.
Od augusta 2026 vstúpia do platnosti nové pravidlá Európskej únie, ktoré zásadne ovplyvnia fungovanie digitálneho priestoru. Ich hlavným cieľom je zabezpečiť väčšiu otvorenosť pri používaní umelej inteligencie. V praxi to znamená, že každý obsah vytvorený pomocou AI bude musieť byť jasne označený tak, aby bolo na prvý pohľad zrejmé, či ide o prácu človeka alebo stroja.
Týka sa to širokého spektra výstupov – od textov a obrázkov až po videá či zvukové nahrávky. Osobitná pozornosť sa venuje takzvaným deepfake materiálom, ktoré dokážu veľmi presvedčivo napodobniť reálne osoby alebo udalosti. Práve tieto technológie sú čoraz častejšie využívané na manipuláciu či šírenie zavádzajúcich informácií.
Ako upozornil techbyte.sk, nové pravidlá vychádzajú z legislatívy prijatej v roku 2024, pričom jednotlivé opatrenia sa zavádzajú postupne. Jednou z hlavných zmien bude povinnosť informovať používateľov o tom, že komunikujú s umelou inteligenciou. To znamená, že napríklad pri rozhovore s chatbotom už nebude možné predstierať, že ide o skutočného človeka.
Zmeny sa dotknú nielen veľkých technologických spoločností, ale aj bežných používateľov či firiem, ktoré AI využívajú vo svojej každodennej praxi. Pravidlá majú priniesť väčšiu dôveru v digitálny obsah, ale zároveň kladú nové nároky na všetkých, ktorí s umelou inteligenciou pracujú.
Ako bude označovanie fungovať v praxi?
Jednou z kľúčových noviniek je zavedenie technického označovania obsahu. Každý výstup vytvorený alebo upravený pomocou umelej inteligencie bude obsahovať špeciálne prvky, ktoré umožnia jeho identifikáciu. Nepôjde pritom len o viditeľné upozornenia, ale aj o skryté technické riešenia.
Tieto opatrenia budú zahŕňať napríklad:
- digitálne vodoznaky vložené priamo do súborov
- metadáta obsahujúce informácie o pôvode obsahu
- špeciálne identifikátory umožňujúce automatickú kontrolu
- kryptografické prvky na overenie autenticity
Vďaka týmto technológiám budú môcť sociálne siete, vyhľadávače či médiá rýchlo rozpoznať, či bol obsah vytvorený umelou inteligenciou. To výrazne uľahčí overovanie informácií a pomôže obmedziť šírenie nepravdivého alebo manipulovaného obsahu.
Ako píše vyhlaseniozhode.sk, okrem technických riešení pribudne aj povinnosť viditeľného označenia pre bežných používateľov. To môže mať podobu textových upozornení, ikon alebo iných grafických prvkov. Pri deepfake obsahu sa dokonca uvažuje o špeciálnom označení, ktoré bude jasne signalizovať jeho umelý pôvod.
Dôležitým princípom bude takzvané viacvrstvové označovanie. To znamená, že sa nebude spoliehať len na jednu metódu, ale na kombináciu viacerých riešení súčasne. Tento prístup má zvýšiť spoľahlivosť celého systému a znížiť riziko jeho obchádzania.
Pokuty a povinnosti, ktoré netreba podceniť
Nové pravidlá nebudú len formálnym odporúčaním, ale záväznou povinnosťou. Budú sa vzťahovať na vývojárov, poskytovateľov aj používateľov AI systémov v rámci celej Európskej únie. Každý, kto tieto technológie využíva, bude musieť zabezpečiť, aby jeho obsah spĺňal požadované štandardy.
Porušenie pravidiel môže mať vážne následky. V prípade nedodržania povinností môžu zasiahnuť príslušné úrady, ktoré majú právomoc uložiť nápravné opatrenia alebo finančné sankcie. Tie môžu dosiahnuť veľmi vysoké sumy, čo predstavuje reálne riziko najmä pre firmy.
Medzi najdôležitejšie povinnosti budú patriť:
- jasné označenie obsahu vytvoreného umelou inteligenciou
- informovanie používateľov pri komunikácii s chatbotmi
- zavedenie technických nástrojov na identifikáciu AI obsahu
- dodržiavanie pravidiel pri tvorbe a šírení deepfake materiálov
Cieľom celej regulácie je predchádzať zneužívaniu technológií, podvodom a manipulácii verejnej mienky. Digitálny priestor sa tak má stať bezpečnejším a dôveryhodnejším miestom. Pre mnohých Slovákov to však znamená aj potrebu väčšej opatrnosti, najmä ak pracujú s obsahom na internete alebo využívajú nástroje umelej inteligencie v praxi.
