Jedna fotka nebo video. Jeden klik. A život se může obrátit vzhůru nohama. Právě tato zkušenost je neblahým důsledkem digitalizace našich životů. Nekonsenzuální sdílení intimního obsahu online představuje novou formu násilí — nejen na ženách.

V České republice vstoupila 1. ledna 2026 v platnost novela trestního zákona, která výslovně kriminalizuje sdílení intimního obsahu bez souhlasu dotčené osoby. Paragraf 191a trestního zákona se nevztahuje jen na autentické fotografie či videa, ale týká se také takzvaných deepfake materiálů, tedy pomocí umělé inteligence vytvořeného falešného intimního obsahu skutečné osoby a šíření tohoto obsahu bez jejího souhlasu.

Tato úprava představuje implementaci celounijní legislativy o potírání násilí na ženách a domácího násilí, která se výslovně zabývá i násilím páchaným v online prostředí a bude platná ve všech členských státech Evropské unie.

Směrnice EU i její česká transpozice reagují na realitu, v níž se nekonsenzuální sdílení intimního obsahu stalo běžným nástrojem vydírání, online šikany a cíleného ponižování, jež disproporčně postihuje ženy a dívky. Nová právní úprava obětem takového jednání poprvé poskytuje jasně definovanou trestněprávní ochranu a zakládá trestní odpovědnost pachatelů.

Masová sexualizace bez souhlasu

Právě v tomto kontextu kulminuje kauza kolem AI nástroje Grok, provozovaného platformou X, na kterou upozornila začátkem roku agentura Reuters. Grok umožňuje platícím uživatelům upravovat běžné fotografie tak, aby výsledkem byly sexualizované obrázky simulující nahotu. Obsah vzniká bez souhlasu a většinou i bez vědomí zobrazovaných osob.

Záplava téměř nahých a nahých fotografií skutečných lidí, převážně žen a dívek, vyvolala mezinárodní poplach. Fotografie uživatelek sociálních sítí byly na základě jednoduchého zadání (promptů) „digitálně svlékány“ nebo upravovány do sexualizované podoby. Z nástroje se tak stal prostředek masového a cíleného ponižování s devastujícím dopadem na oběti.

Reakce majitele sítě X? Elon Musk označil kritiku a vyšetřování za cenzuru a „fašismus“. Kde však leží hranice svobody projevu a práva na důstojnost, soukromý a rodinný život či ochranu osobnosti — zejména v situaci, kdy se oběťmi deepfakes materiálů stávají děti a teenageři? Umíme si vůbec představit, že by fotografie vašeho dítěte, upravená pomocí umělé inteligence, kolovala na dark webu?

Internet Watch Foundation (IWF), britská nezisková organizace zaměřená na potírání sexuálního zneužívání dětí na internetu, uvedla, že na dark webu objevila snímky dětí ve věku 11 až 13 let, které byly zřejmě vytvořeny pomocí nástroje Grok. „Kvůli nástrojům, jako je Grok, hrozí, že se sexualizované snímky dětí vytvořené umělou inteligencí stanou běžnou záležitostí,“ uvedla ve svém prohlášení Ngaire Alexander, vedoucí linky pomoci IWF.

Ofcom, nezávislý britský orgán pro dohled nad bezpečností v online prostoru, zahájil v pondělí 12. ledna formální vyšetřování společnosti X podle zákona o online bezpečnosti, aby zjistil, zda platforma splnila svou povinnost chránit obyvatele Spojeného království před obsahem, který je v zemi nelegální.

Reakce Evropské komise byla rovněž nebývale ostrá. Předsedkyně Komise Ursula von der Leyenová označila praktiky platformy X za nepřijatelné a v rozhovorech pro evropská média uvedla, že je „zděšena tím, že technologická platforma umožňuje digitálně svlékat ženy a děti online“. Zdůraznila, že škody způsobené sexuálně explicitními deepfaky jsou velmi reálné a že Evropská unie nehodlá ochranu dětí a princip souhlasu outsourcovat do Silicon Valley. Pokud platformy samy nezakročí, Unie podle jejích slov zasáhne.

Evropská komise následně označila šíření těchto deepfake materiálů za ilegální a nařídila platformě X uchovat veškeré interní dokumenty a data týkající se fungování nástroje Grok.

Technologická arogance v přímém přenosu

Podle německé organizace AlgorithmWatch představuje kauza Grok pouze špičku ledovce. Organizace ve svém prohlášení upozorňuje, že problém nekonsenzuální sexualizace na platformě X sahá mnohem dál. Platforma dlouhodobě hostí účty propagující tzv. „nudify“ aplikace a další nástroje pro digitální „svlékání“ žen. Tyto účty jsou často otevřeně pojmenované, mají stovky sledujících a aktivně šíří návody i odkazy na služby umožňující nekonsenzuální sexualizaci žen a dětí.

AlgorithmWatch poukazuje na to, že takový obsah by byl velmi snadno detekovatelný a odstranitelný, pokud by o to platforma skutečně stála. Síť X však opakovaně odmítla s touto organizací spolupracovat a v některých případech byl po nahlášení účet či obsah vyhodnocen tak, že je v souladu s danými pravidly.

Platforma X naopak aktivně blokovala výzkumné aktivity AlgorithmWatch, přestože nařízení o digitálních službách (DSA) ukládá velkým online platformám povinnost poskytovat data výzkumníkům a vyhodnocovat systémová rizika, včetně rizik týkajících se genderově podmíněného násilí a ochrany dětí na internetu.

Mimo jiné právě za porušování povinnosti poskytovat výzkumníkům přístup k veřejným datům udělila Evropská komise síti X na konci roku 2025 pokutu ve výši 120 milionů eur.

Misogynie zakódovaná v datech

Podle mé bývalé kolegyně Any Ornelasové z organizace Digital Intimacy Coalition jde v celé kauze o hlubší společenský problém — nikoli o náhlý technologický exces, ale o předvídatelný vývoj. Ve svém příspěvku na LinkedIn upozornila, že sexualizované deepfake útoky fungují jako účinná zbraň pouze proto, že v naší společnosti stále přetrvává hluboce zakořeněná stigmatizace ženské sexuality. Ženské nahé tělo se stává nástrojem ponížení, diskreditace či umlčení právě proto, že je systematicky spojováno se studem a ztrátou důstojnosti. Tento mechanismus násilí se přitom neliší mezi online a offline světem.

Ornelasová zároveň připomíná, že sexualizované obrazy nevznikají ve vakuu, ale jsou generovány z datasetů trénovaných na reálných lidských tělech — tedy na existující online pornografii. O to naléhavěji vyvstává otázka, z jakých dat jsou tyto systémy trénovány v případech, kdy jsou terčem nezletilé osoby a děti. Je to zásadní argument pro tvrzení, že Grok a podobné aplikace nesou spoluodpovědnost za sexuální zneužívání dětí.

Technologie bez odpovědnosti

Díky evropské směrnici o potírání násilí na ženách, která považuje sexualizované deepfake materiály bez souhlasu za trestný čin, a díky její transpozici do českého trestního zákona je dnes možné vyvozovat osobní odpovědnost těch, kdo takový obsah vytvářejí a šíří. Šíření materiálů sexuálního zneužívání dětí bylo a je trestné téměř po celém světě.

Nejde však pouze o individuální odpovědnost pachatelů, ale také o odpovědnost platforem, které systematicky umožňují jednání kvalifikované evropským i národním právem jako trestný čin. Tyto platformy tak mohou nést odpovědnost jako nástroje napomáhající trestné činnosti. Evropské právo mluví v tomto ohledu jednoznačně.

Nařízení o digitálních službách má zajistit vyhodnocení a následnou eliminaci systémových rizik, umožnit výzkumníkům přístup k datům a prostřednictvím koordinátorů digitálních služeb a Evropské komise povinnosti platforem vymáhat. Nyní je na Evropské unii, zda má dostatečnou politickou vůli tato opatření důsledně prosadit.

Poznámka na závěr. České republice aktuálně hrozí pokuta za neimplementaci nařízení o digitálních službách (DSA). Výzkumníci u nás nemají přístup k datům velmi velkých online platforem, neexistují oficiálně určené subjekty pro monitoring nelegálního obsahu, chybí funkční mechanismy odvolání proti nelegálnímu obsahu či svévolným zásahům platforem a dosud nebyl ustanoven koordinátor digitálních služeb.

Minulá vláda implementační zákon neschválila a od současné vlády nelze mít velká očekávání — mimo jiné kvůli rétorice o cenzuře a spekulacím, že odbornou garanci oblasti svobody projevu má převzít osoba spojená s kontroverzní Společností pro obranu svobody projevu.

Nařízení o digitálních službách DSA je znovu na programu Poslanecké sněmovny a opět míří do prvního čtení. Přitom Česká republika hostí dvě z dvaceti Evropskou komisí označených velmi velkých online platforem. Obě — XVideos a XNXX — patří mezi poskytovatele obsahu pro dospělé.