Trivium
Pravda a lež v online světě
Internet Highway
V posledních dnech se v médiích objevila řada zpráv o tom, že uživatelé pomocí volně dostupných nástrojů umělé inteligence začali generovat pornografický obsah zahrnující jak děti, tak i dospělé. Pro laika (ale i experta) je pak často velmi obtížné rozpoznat, kdy jde o autentickou fotografii a kdy produkt inteligentního software využívajícího umělou inteligenci. Nástroje, které generování tohoto obsahu umožňují, jsou přitom volně dostupné - tvorba tohoto obsahu je tedy velmi snadná - a také nebezpečná.
Úvodem je třeba říci, že umělá inteligence byla vždy se světem pornografie propojena a první videa, která vznikla pomocí tzv. deep fake technologií, se vztahovala právě k pornografii. Již před několika lety tak dokázaly pokročilejší aplikace využívající neurální sítě a strojové učení pracovat s lidským tělem, jejich výsledky však nebyly skvělé, výsledné výstupy byly často v nízkém rozlišení, vytvořit je trvalo poměrně dlouho a bylo poměrně snadné je rozpoznat.
Realita nebo vygenerovaná fotografie?
Nyní však, s postupem času a vývojem technologií, jsou produkty generované umělou inteligencí čím dál tím více přesvědčivé, což představuje vážný problém, pokud se jedná o obsah, který zahrnuje děti nebo dospělé (nejen) v kompromitujících situacích. Jinými slovy - umělá inteligence např. nabízí rychlou a levnou výrobu dětské pornografie, stejně tak dokáže doslova svléknout jakoukoliv ženu, ke které software dostane referenční fotografii.
Prvním problémem je tedy zcela jistě narušení soukromí - kdokoli může vzít naši fotografii a vytvořit z ní fotografii kompromitující, kterou pak může šířit internetem a poškodit naši pověst, zničit náš soukromý život, zastavit naši kariéru apod. Ve výhodě jsou zatím muži, protože běžně dostupné nástroje pro generování pornografie zatím na “mužskou hlavu” nasazují “ženské tělo”, je však otázkou času než vzniknou nástroje zaměřené i na muže.
Vygenerované nahé tělo může být také zneužito v rámci trestné činnosti - pomocí těchto materiálů se můžeme stát terčem vydírání, vyhrožování, zastrašování apod. Toto se v minulosti také velmi často děje, ostatně fenomény jako je sextortion či revenge porn jsou již dnes běžné známé a popsané - ovšem využívaly vždy intimní materiály, které jim oběti poskytly (dobrovolně či pod nátlakem). Nyní jsme ovšem v situaci, kdy si tyto materiály může opatřit v podstatě kdokoli - a to pouze s využitím běžného obsahu sociální sítě - třeba Instagramu. Nástroje, které generování pornografie umožňují, jsou v online prostředí běžně dostupné (není třeba si např. stahovat si model AI do svého počítače) - a lze předpokládat, že jejich počet se rozroste.
Samostatným problémem je pak samozřejmě generování dětské pornografie, kterou může vytvořit s použitím vhodného nástroje kdokoli (včetně pedofilně orientovaných uživatelů). Ostatně toto se již děje - připomeňme si např. případ ze Španělska, kdy dětskou pornografii vytvořily s využitím umělé inteligence děti ve věku 12-13 let. Problém je také to, že záplava generované dětské pornografie může ztížit práci policistům, pro které bude obtížné identifikovat, zda došlo ke skutečné újmě na konkrétním dítěti, nebo zda jde pouze o produkt digitální technologie.
Právní pohled na počítačem generovanou dětskou pornografii vychází z toho, že za dětskou pornografii se nepovažují pouze fotografie reálných dětí (osob mladších 18 let), ale také pornografická díla, v nichž vystupují postavy vytvořené např. pomocí počítačové animace, která realisticky znázorňují právě děti. Za dětskou pornografii lze tedy považovat i fotografie i videa (ale také třeba kresby) vytvořená prostřednictvím umělé inteligence a jejich tvůrce s využitím zákonné úpravy trestat.
Jen pro zajímavost, podle výzkumu 2023 State of Deepfakes vzrostl počet deepfake videí ve srovnání s rokem 2019 o 550 procent, přičemž 98 % všech těchto videí je tvořeno právě videi pornografickými. V 99 % jsou pak ve videích zachyceny ženy. Každý třetí nástroj pro tvorbu deepfake videí také umožňuje vytvářet pornografický obsah.
Přestože lze počítat s tím, že vznikne celá řada technologií umožňujících vygenerovaný obsah rozpoznat, v tomto případě však již škoda bude napáchána - v okamžiku zveřejnění a rozšíření citlivého materiálu po síti.
Je nezbytné, aby státy a mezinárodní organizace podnikly kroky k regulaci a kontrole technologií generativní umělé inteligence, které umožňují vytváření takového - často nelegálního - obsahu. To zahrnuje zavedení přísnějších zákonů týkajících se uměle generované pornografie, vytváření standardů pro softwarové nástroje, které generují takový obsah, a podporu výzkumu technologií pro rozpoznání a odhalení deepfake obsahu. Nesmíme zpomenout také na osvětu a systematické vzdělávání všech - dětí i dospělých.
Pro E-Bezpečí
Kamil Kopecký
Univerzita Palackého v Olomouci
Zdroje:
https://www.investigace.cz/zesveta-detska-pornografie/
https://www.washingtonpost.com/technology/2023/06/19/artificial-intelligence-child-sex-abuse-images/
https://www.homesecurityheroes.com/state-of-deepfakes/#key-findings
