Varování: Svlékací aplikace a AI deepnude! Jak reagovat v případě zneužití fotografie?

22. 10. 2023

AI aplikace na generování nahých fotek se stávají vážným rizikem a nebezpečným „trendem“, který nachází své oběti už i v České republice. Česká asociace umělé inteligence vydává oficiální varování a doporučení pro případy, kdy ke zneužití fotografie dojde.

Co jsou to svlékací aplikace a AI deepnude služby?

Aplikace označovány nejčastěji jako svlékací aplikace, AI deepnude, AI fake nude či deepfake porn jsou webové či mobilní aplikace, které využívají umělou inteligenci (zpravidla difuzní modely) k tomu, aby generovaly nahou fotografii osoby na zdrojovém snímku. Funkcí aplikace je tak „odstranit“ veškeré oblečení či spodní prádlo a vygenerovat nahotu. Nejčastěji jsou tyto aplikace používány k vytváření falešných nahých fotografií lidí bez jejich souhlasu.

Množství aplikací s rozvojem difuzních modelů velmi rychle roste a řada z nich je k dispozici zcela zdarma. Stačí se pouze zaregistrovat. Podmínky služeb jsou uživateli v praxi ignorovány, a proto jsou bez komplikací dostupné i uživatelům mladším 18 let. Ovládání aplikace je navíc zcela jednoduché. Lze předpokládat, že funkce aplikací budou v blízké době zahrnovat také generování velmi reálných videí.

Česká asociace umělé inteligence důsledně varuje před registrací do tzv. svlékacích aplikací a jejich používáním. Vystavujete se vysokému riziku z pohledu ochrany dat, ochrany soukromí osob i porušování zákonů České republiky.

Provozovatelé služeb se zříkají veškeré odpovědnosti. Provozovatel je v mnoha případech anonymní. Používáním aplikace se s největší pravděpodobností dopouštíte chování, které je neetické a často protiprávní, protože porušuje práva osob týkající se soukromí. Do aplikací nedoporučujeme nahrávat dokonce ani své vlastní fotografie, protože může dojít k jejich dalšímu zneužití a uložení na serveru provozovatele.

Jsou výsledné fotografie skutečné?

Výsledná fotografie působí velmi reálně a může být nerozpoznatelná od skutečného snímku. Zobrazená nahota na výsledné fotografii je však výsledkem procesu generování umělou inteligencí a nemá žádný základ v reálném světě. Umělá inteligence je naučena na nahých fotografiích jiných lidí (zdrojem jsou například pornografické stránky) a použita k tomu, aby na základě původního snímku vytvořila zdánlivě nahé zobrazení osob.

Vytvořená nahota pomocí umělé inteligence je pouze virtuální a falešná reprezentace. Nemá žádný vztah k tomu, co bylo zachyceno na původním snímku nebo v reálném životě. Je to výtvor AI aplikace, ačkoliv může vypadat realisticky, nemá žádný fyzický základ.

Zároveň je důležité si uvědomit, že výstupy z aplikací mohou být zneužity nejen pro vydírání osob na fotografii, ale také jako „přesvědčovací“ nahé snímky útočníka, prostřednictvím kterých se snaží z oběti vylákat skutečné nahé fotografie, například v rámci sextingu a výměny fotek.

Minimalizace rizika zneužití

Pokud se obáváte, že se stanete obětí, doporučujeme se zamyslet nad tím, jaké fotografie na internetu sdílíte. Mezi ideální zdrojové fotografie pro svlékací aplikace patří například:

Fotografie v plavkách či spodním prádle
Fotografie v úhlech, které odhalují velkou část těla
Fotografie v přiléhavém oblečení
Fotografie odhalující větší část pokožky
Fotografie celé postavy

Pokud chcete minimalizovat riziko zneužití fotografií, doporučujeme:

Mít zamčený profil na sociálních sítích pouze pro blízké a přátele
Nesdílet fotografie, které mohou být ideálním zdrojem pro svlékací aplikace
Neposílat fotografie neznámým lidem přes komunikační aplikace typu Telegram či WhatsApp

Bohužel ani jeden z výše uvedených bodů není 100% zárukou toho, že vaše fotografie nemůže být zneužita pro vytvoření vaší falešné nahé fotografie. Víc než kdy dříve je však nutné přemýšlet nad tím, jaké fotografie na sociálních sítích sdílíte a s kým. Rizikovou skupinou jsou především děti a dospívající, na které může mít útok zdrcující následky.

Po mediálně známém případu na jihozápadě Španělska se první oběti začínají objevovat také v České republice, jak informovaly Seznam Zprávy [„Být teenager, zhroutila bych se.“ Svlékací aplikace už mají dopady i v Česku]. Lze předpokládat, že počet obětí bude dále narůstat.

Jak postupovat v případě, kdy jste obětí?

Pokud se stanete obětí svlékací aplikace a vaše „nahá“ fotografie bez vašeho souhlasu začne kolovat na sociálních sítích, existuje několik kroků, které můžete podniknout pro řešení této situace.

1. Zachovejte klid a zaznamenejte veškeré důkazy

Přestože může být situace stresující, je důležité zachovat klidnou hlavu. Zaznamenejte si, kde a jak se fotografie šíří, vytvořte veškeré screenshoty nebo jiné důkazy, které by mohly být užitečné pro budoucí kroky.

2. Kontaktujte administrátory platformy a obsah nahlaste

Navštivte profil nebo stránku, na které je fotografie sdílena, zkuste kontaktovat administrátora nebo moderátora. Některé platformy mají pravidla proti nežádoucímu obsahu a mohou vám pomoci odstranit obsah porušující tato pravidla. Využijte také funkci nahlášení obsahu, pokud je dostupná na platformě, na které se fotografie objevila. Tím můžete upozornit administrátory na nevhodný obsah a požádat o jeho odstranění.

Provozovatel platformy přijme Vaši žádost a bude vás informovat o vyhodnocení.

3. Konfrontace pachatele

Pokud znáte pachatele, zkuste s ním komunikovat a požádat o smazání obsahu. Buďte opatrní, a pokud se cítíte ohroženi, s pachatelem nekomunikujte. Zde je vzorová zpráva pro pachatele:

Sdílíte falešnou fotografii bez mého souhlasu. Žádám vás, abyste okamžitě odstranil(a) veškerý obsah. Nelegální šíření či zneužívání osobního materiálu a poškozování mé osoby může mít závažné právní důsledky. Potvrďte smazání co nejdříve.

Vzhledem k tomu, že pachatelem může být například i spolužák či bývalý partner, je výše zmíněné doporučení konfrontace a vzorové zprávy opravdu pouze obecné.

4. Nebylo vám ještě 18? Informujte ihned rodiče či učitele

Pokud se ocitnete v nepříjemné situaci, mějte odvahu se o tom svěřit dospělým. Můžete se obrátit na své rodiče, učitele, starší sourozence nebo jiné důvěryhodné osoby, které vám mohou poskytnout pomoc a podporu. Je důležité si uvědomit, že nahota na fotografii není vaše nahota. Neexistuje tak důvod, abyste se styděli.

5. Informujte Policii ČR na čísle 158

Zavolejte na bezplatné tísňové číslo 158 a informujte Policii ČR. Obsluha linky si od vás vyžádá veškeré potřebné informace a bude vás informovat o dalších krocích. Třebaže můžete být k tomuto kroku skeptičtí, je důležité ho realizovat.

6. Psychologická podpora

Zneužití na internetu může mít emocionální dopady. Pokud jste vystaveni takové situaci, může být užitečné vyhledat psychologickou podporu. Zároveň lze doporučit také Linku bezpečí, která pomáhá dětem a studentům. K dispozici je zcela zdarma 24 hodin denně a problematiku kybernetické šikany dokáže efektivně řešit. Stejně tak nabízí linku pro rodiče.

7. Konzultace s právním odborníkem

Pokud situace přetrvává a má vážné důsledky pro vaše životní a osobní právo, měli byste vyhledávat právního odborníka. Ten vám může poskytnout rady ohledně možných právních kroků včetně možnosti podání žaloby nebo kontroly, zda situace porušuje zákony týkající se soukromí.

Česká asociace umělé inteligence vám nabízí v případě zneužití fotografií pro vygenerování AI deepnude snímku právní pomoc zdarma, neváhejte nás kontaktovat. Okamžitě začneme váš případ řešit a poradíme vám, jak dále postupovat.

8. Vyjádření k situaci

Pokud chcete, můžete se k situaci vyjádřit. Můžete na svém profilu varovat před dalším šířením fotografie a informovat své publikum na sociálních sítích, že již podnikáte kroky vedoucí k postihu každého, kdo fotografii vytvořil či dále šíří.

Nebezpečí, které už nezmizí

Svlékací aplikace využívající umělou inteligenci již nikdy nezmizí. Třebaže mohou být zakázány, v prostředí internetu si k nim uživatelé vždy najdou cestu. Je tak důležité si uvědomit, že deepnude snímky představují reálné nebezpečí, o kterém je třeba mluvit. Neváhejte tak tento článek sdílet.

Pokud jste rodiče, vysvětlete dětem, jak mají postupovat a rizika jim popište. Pokud jste obětí bez ohledu na věk, držte se výše zmíněného postupu a nepodlehněte pachateli. Nahota na snímku není skutečná, je výsledkem AI. Neváhejte tak informovat policii a realizovat další kroky. Závěrem už pouze znovu zopakujeme, že je víc než kdy jindy důležité myslet na to, co a s kým na internetu sdílíte.