Přeskočit na obsah

AI v boji s dětskou pornografií

dítě, deprese
Foto: shutterstock.com

Vědci z Národního ústavu duševního zdraví (NUDZ) se zapojili do dvou preventivních projektů zaměřených proti konzumaci a šíření dětské pornografie: BRIDGE a STOP‑CSAM. Oba projekty fungují online a obdobných projektů jsou na světě pouze jednotky. Projekt STOP‑CSAM navíc jako první na světě využívá pomoc umělé inteligence.

Podle statistik kriminality v ČR vzrůstá trend v odhalování trestných činů užívání, výroby, přechovávání a distribuce dětské pornografie: v loňském roce jich bylo registrováno přibližně 700. Bohužel však neexistují žádná spolehlivá čísla o tom, kolik nevhodného materiálu se na internetu nachází a kolik lidí jej konzumuje. Obdobná situace panuje i ve světě. Evropské státy zaznamenávají nárůst evidovaných případů trestných činů ve spojitosti s materiály zachycujícími sexuální zneužívání dětí (CSAM; z angl. Child Sexual Abuse Materials; tento termín je dle odborníků adekvátnější než označení „dětská pornografie“). Odborníci z NUDZ se proto připojili rovnou ke dvěma mezinárodním projektům zaměřeným na prevenci a včasnou intervenci v této oblasti.

Pro představu: podle amerického Národního centra pro pohřešované a zneužívané děti (NCMEC) bylo v roce 2010 v rámci EU nahlášeno 23 000 případů evidence tohoto nevhodného obsahu a v roce 2019 již 725 000, celosvětově to byl 1 milion případů v roce 2010 a 17 milionů případů v roce 2019. Problém je však patrně ještě daleko rozsáhlejší. Na situaci se také výrazně podepsala pandemie covidu‑19. Že epidemická opatření a pandemie obecně podporují výskyt rizikového sexuálního chování, dokazují mimo jiné data Europolu. Podle nich došlo už během první vlny lockdownů k více než dvojnásobnému nárůstu návštěvnosti stránek obsahujících dětskou pornografii a významně se zvýšila i aktivita na tzv. darknetu, platformě, pomocí níž se problematické sexuálně explicitní materiály šíří nejvíc.

Většina uživatelů pomoc nevyhledá, i když o ni stojí

„Konzumace materiálů týkajících se sexuálního zneužívání dětí je přitom problematická i pro samotné konzumenty. Podle nedávného celosvětového průzkumu ‚Help us to help you‘ realizovaného v prostředí DarkWeb, na který reagovalo 5 171 respondentů, významná většina z nich přiznala, že se nikdy nikomu nesvěřili s problémem vyhledávání a konzumace těchto materiálů. Významná část respondentů také přiznala, že vyhledávání a konzumace těchto materiálů negativně ovlivňuje jejich život, jejich duševní zdraví a blízké vztahy. Většina těchto osob se nikdy nepokusila vyhledat pomoc, která by jim pomohla se získáním kontroly nad nutkáním vyhledávat a konzumovat tento druh materiálů, případně se vyhledání pomoci bojí. Pouze 13 procent dotázaných uvedlo, že získali přístup k léčbě, kterou potřebují,“ vysvětluje Kateřina Klapilová, vedoucí Centra pro sexuální zdraví a intervence NUDZ.

„Současná výzkumná zjištění provedených průzkumů zdůrazňují naléhavou potřebu anonymních intervenčních programů, které by zpřístupnily osobám zapojujícím se do tohoto problematického chování odbornou pomoc, o kterou mají zájem,“ říká Dominik Jozefík, koordinátor a psycholog projektu BRIDGE za ČR. Jak doplňuje, získat kontrolu nad svojí sexualitou a přestat vyhledávat a konzumovat nevhodné materiály zachycující nezletilé osoby je možné. Postupy založené na důkazech, které jsou využívány v souvislosti s tímto problémem, již přinášejí slibné výsledky.

V posledních letech se proto v rámci EU objevily tzv. včasné intervence zaměřené na prevenci sexuálního zneužívání dětí u osob, u kterých je zvýšené riziko, že spáchají sexuálně motivovaný trestný čin. Těm, kdo konzumují nevhodné materiály (CSAM), proto nabízejí odbornou pomoc. Ta zahrnuje například osobní terapii, krizové linky a online intervence. Ukazuje se však, že osobní (nebo telefonický) kontakt představuje pro některé potenciální klienty bariéru, která je od vyhledání pomoci odrazuje. Z tohoto důvodu se jako nejlepší možnost jeví online intervence. Aktuálně celosvětově funguje přibližně desítka programů nabízejících anonymní a bezplatnou podpůrnou pomoc pro uživatele dětské pornografie. Tyto programy fungují online, zpravidla na principu svépomoci, kdy si daný klient prochází edukační videa bez současné podpory terapeuta, nebo online ve spolupráci s terapeutem. Většina těchto programů je ve fázi testování.

Anonymní a bezplatná pomoc i díky umělé inteligenci

Odborníci z NUDZ se zapojili do dvou mezinárodních projektů: BRIDGESTOP‑CSAM, které jsou financovány Evropskou komisí z Fondu pro vnitřní bezpečnost. „Projekt BRIDGE realizuje Stockholmský region a Centrum pro psychiatrický výzkum při Karolinském institutu a probíhá v šesti členských zemích EU. Je určen všem dospělým nad 18 let, kteří jsou znepokojeni svým sexuálním nutkáním vůči nezletilým a kteří se potýkají s problémem vyhledávání a konzumace materiálů zachycujících sexuální zneužívání dětí. Účast v projektu je zcela bezplatná, anonymní a dostupná online. BRIDGE se soustředí na ty, kteří ještě kvůli tomuto typu jednání nevyhledali odbornou pomoc. Pokud se přihlásí, budou zařazeni do jednoho ze dvou intervenčních programů, oba pracují s jejich motivací k vyhledání odborné pomoci a získáním kontroly nad užíváním CSAM, v prvním případě za pomoci terapeuta, ve druhém prostřednictvím svépomocného programu založeného na kognitivně behaviorální terapii,“ vysvětluje Dominik Jozefík.

Druhým projektem je STOP‑CSAM. Ten je realizován Institutem sexuologie a sexuální medicíny na Charité Universitätsmedizin Berlin a funguje ve čtyřech zemích EU. „Také účast v tomto projektu je bezplatná a anonymní. Oproti projektu BRIDGE cílí na ty, kdo aktivně již sami vyhledávají odbornou pomoc. V rámci čtyřtýdenní online chatové terapie plánuje tým odborníků využít postupy, které se ukázaly jako efektivní v dříve realizovaném projektu Parafilik. Navíc tento projekt bude pilotovat možnost online chatové terapie a bude pilotovat využití umělé inteligence jako podpůrného nástroje pro terapeuta v rámci terapie s klientem. Jedná se o první program na světě v oblasti prevence zneužívání dětí, který v terapii umělou inteligenci využívá,“ uzavírá Lucie Krejčová, národní garant projektu STOP‑CSAM.  

Sdílejte článek

Doporučené

O houbách a lidech

12. 4. 2024

Většina z nás považuje houby za rostliny. Nejsou jimi. Jsou samostatná říše života. Něco mají společného s rostlinami, něco s živočichy, něco mají…