Egy spanyol nyomozás szerint a potenciális elkövetők valódi és AI-gyerekek videóinak kommentmezőjében találnak egymásra. A TikTok a kommenteket törölte, a profilokat nem. Mit tehetünk a gyerekek online biztonságáért?

Több mint 20 ezer komment, 1600 fiók és 380 videó átvizsgálása után a spanyol Maldita tényellenőrző portál arra jutott, hogy a TikTokon olyan szervezett hálózat működhet, amelynek tagjai gyermekek szexuális kizsákmányolását ábrázoló anyagokat cserélnek vagy árulnak, de az is előfordul, hogy itt próbálnak meg kiskorúakat becserkészni (grooming).

A „találkozási pontként” használt TikTok-videók többnyire hétköznapinak mondhatók: gyerekek táncairól, ruhabemutatókról, szelfikről van szó. Az elemzésben 50 olyan videót választottak ki, amelyben a Maldita szerint valószínűleg 13 évnél fiatalabb gyerekek láthatók. Ők egyébként a platform belső szabályzata szerint nem használhatnák saját fiókkal a TikTokot.

A Maldita elemzése szerint az így kiválasztott 50 videó alatti hozzászólások 60 százaléka tartalmazott felhívásokat gyerekek szexuális kizsákmányolásával kapcsolatos anyagok cseréjére.

Kódnyelven kommunikálnak egymással

A potenciális pedofil bűnelkövetők a Maldita májusban publikált elemzése szerint a TikTok-videók kommentmezőiben olyan kódszavakat használnak, amelyeket a platform nem azonosít szabályszegésként, és külső szemlélő számára elsőre nem érhetőek. Sokan csak a „cambio” (spanyolul csere) szót írják a kommentek közé, de előfordultak egyéb utalások is. Ezek a gyermekpornográfia szó angol megfelelőjére (child porn) utalnak: „cp”, „café con pan” (kávé kenyérrel), vagy a „código postal” (irányítószám), illetve „cheese pizza” (sajtos pizza).

Ahogy egy médiaszakértő megjegyezte a lapnak: bármiféle szexuálisan explicit tartalom feltöltése azonnali kitiltást és rendőrségi nyomkövetést von maga után, viszont az elkövetők a kiskorúak felkapott videói alatt kihasználhatják az algoritmust, és azt, hogy a platform az adott tartalmat már biztonságosnak minősítette.

A látszólag értelmetlen hozzászólások nem a kiskorú videófeltöltőknek szólnak, hanem arra szolgálnak, hogy az elkövetők megtalálják egymást anélkül, hogy az ártalmas tartalmak azonosítására szolgáló algoritmusokon fennakadnának a kommentjeik.

Így a rendkívül népszerű TikTok-videók terjedését kihasználva egymásra találhatnak, és aztán egy másik, kevésbé ellenőrzött vagy végpontok közötti titkosítást alkalmazó platformon is felveszik a kapcsolatot – ilyen lehet a Telegram, a Signal vagy a Zangi. A Maldita egyik példájában egy „Alexis” nevű TikTok-felhasználó annyit fűzött hozzá egy kiskorú videójához, amiben ő egy pizsama-, harisnya- és alsóneműbolt termékeit mutatja be, hogy „Zangi 1450”.

De a Maldita kutatása során olyan felhasználókat is talált a videók hozzászólói között, akik kiskorúak szexuális tartalmú képeinek „értékelését” ajánlották fel. Ezek a felhasználók gyerekeket és fiatalkorúakat toboroztak a TikTokon, és miután egy másik platformon létrehozott csoportba invitálták őket, ott minden tagot arra ösztönöztek, hogy osszanak meg magukról tartalmakat, köztük szexuális jellegű képeket is.

A Maldita szerint az ilyen TikTok-kommenteket elhelyező profilok nagy része új volt, de volt olyan is, amit évekkel ezelőtt hoztak létre. Ezeknek már a felhasználónevében vagy leírásában is szerepeltek olyan kódolt kifejezések, mint a „csere”, „eladó” , „ce puede” (a spanyol „megengedett” kifejezés variációja, amely magában foglalja a „cp” kódot), de előfordult az is, hogy a leírások illegális Telegram-csatornákra irányítottak tovább.

Kiskorúak szexualizálása AI segítségével

Viszonylag új jelenség, hogy nemcsak valódi videók, hanem AI-jal generált tartalmak kommentmezőiben is zajlik ilyen kommunikáció. Egy másik, tavaly decemberben publikált Maldita-nyomozás során több mint 20 olyan TikTok-fiókot találtak, ami AI-generált, kiskorúakat szexualizáló, de szexuálisan nem kifejezetten explicit tartalmakat osztott meg. A Maldita által feltárt 20 fiók 553 180 követőt és több mint 5,7 millió lájkot gyűjtött össze.

A mesterséges intelligenciával előállított videók főszereplői rendre gyermekkorú lányok, akik fürdőruhában, sportuházatban, iskolai egyenruhában vagy szűk ruhában szerepelnek a videókon. Az AI-segítségével ábrázolt kiskorúak a videókon például kinyújtják a nyelvüket vagy fagylaltot esznek, integetnek vagy ásítanak.

A Maldita szerint a kommentelők jelentős része felnőtt férfi, akik esetenként szexuális üzeneteket fűznek a videókhoz.

A tartalmak mindegyikénél feltüntették, hogy AI-generált tartalomról van szó, például a TikTok „mesterséges intelligencia által generált tartalom” címkéjével vagy hashtaggel. A Maldita az egyik elemzett fiók több videóján a TikTok AI Alive vízjelet azonosította (ez a TikTok AI eszköze, ami fotókat alakít át videóvá), egy másik fiók több videóján pedig a Sora, az OpenAI videókészítő eszközének vízjelét.

A TikTok-algoritmus segíti a terjedést

A Maldita a kutatáshoz létrehozott egy Tiktok-fiókot egy potenciális pedofil bűnelkövető tevékenységét modellezve, azzal a céllal, hogy megnézzék, a platform algoritmusa hogyan juttatja el a kommentmezőiben kiskorúak szexuális kizsákmányolására utaló tartalmakat a potenciális elkövetőkhöz.

A TikTok ajánlja is az ilyen videókat a kezdőlapon és a keresőmezőn keresztül.

A TikTok ajánló algoritmusa a felhasználók ízlése és szokásai alapján dönti el, hogy milyen tartalmakat mutasson nekik. Ez így működik a platform kezdőoldalán, a For You (magyarul „Neked”) oldalon, de a TikTok keresőoldala is személyre szabott kulcsszavakat ajánl a felhasználóknak a kereséshez.

A Maldita által létrehozott fiók számára a TikTok keresőfelülete olyan kulcsszavakat ajánlott, mint például „13 ártatlan diáklány” vagy „táncoló diáklányok”. A For You oldalán pedig kiskorúakat ábrázoló AI-generált tartalmak és látszólag valódi, kiskorú lányokhoz tartozó profilok videói is megjelentek.

Profitálnak is belőle

A Maldita által vizsgált profilok közül több is úgy keres pénzt, hogy exkluzív tartalmakat kínál a TikTok előfizetési rendszerén keresztül. Összesen hat ilyen fiókot találtak a vizsgált 20, AI-tartalmakat közzétevő profil között. Az előfizetések átlagosan 3,87 euróba kerültek (ez jelenlegi árfolyamon nagyjából 1370 forint) havonta, de az egyik, közel 40 ezer követővel rendelkező profil, amely kiskorúnak tűnő, többnyire iskolai egyenruhás lányokról készült videókat tesz közzé, három különböző csomagot (alap, standard vagy deluxe) kínál exkluzív videókért. Ezek ára havi 3,49 és 115,99 euró között mozog.

Nemcsak a tartalomelőállítók profitálnak a kiskorúakat szexualizáló, a pedofil bűnelkövetőket vonzó tartalmakból, maga a TikTok is részesedést kap az előfizetési rendszerből. Az exkluziv tartalmakat kínáló fiókok a platformhasználati díj levonása után alapesetben a bevétel 70 százalékát kapják meg.

A kommenteket törölték, a felhasználókat nem

A TikTok közösségi irányelvei tiltják a gyermekek szexuális kizsákmányolását, az explicit képek megosztására irányuló felhívásokat, valamint a platformon kívüli kapcsolatfelvételre ösztönző tartalmakat is.

A cég hivatalos álláspontja szerint a súlyos szabálysértések – például a gyermekek szexuális bántalmazását rögzítő anyagok terjesztése vagy népszerűsítése – már első alkalommal végleges kitiltást vonnak maguk után.

A Maldita vizsgálata szerint azonban ez a gyakorlatban nem mindig érvényesül.

A vizsgálat során azonosított, potenciális elkövetők által kommentelt videókat a Maldita jelentette a TikToknak, de a platform a 40 ilyen videó közel háromnegyedét fent hagyta, mert úgy döntöttek, nem sértik a szabályaikat.

Emellett több mint száz, gyerekeket szexuálisan kizsákmányoló tartalmak cseréjére vagy megszerzésére utaló kommentet is jelentettek a platformnak. Ezeket végül törtölte a TikTok, de a kommentek mögött álló profilokat nem.

A Maldita felhívta a figyelmet arra, hogy az EU digitális szolgáltatásokról szóló rendelete (Digital Services Act, DSA) 34. cikkének értelmében a TikToknak fel kellene mérnie, hogy funkciói, például az ajánló algoritmusa, vagy tartalommoderálási rendszere jelenthetnek-e olyan kockázatokat, amelyek negatív hatással vannak a kiskorúak jogaira. A felméréssel azonosított kockázatok csökkentése érdekében is lépéseket kell tennie a platformnak.

Mit mondanak a hatóságok és a szakértők?

A Maldita cikke azt is kiemeli, hogy az olvasók mindig jelentsék a gyanús profilokat, kommenteket és videókat a platformok felé, ugyanakkor ne próbáljanak kapcsolatba lépni az érintett felhasználókkal, és semmiképpen se töltsék le vagy osszák tovább az illegális tartalmakat.

Hangsúlyozzák, hogy már gyermekek szexuális kizsákmányolását ábrázoló anyagok birtoklása vagy továbbküldése is bűncselekmény lehet, ezért a gyanús eseteket célszerű a hatóságoknak vagy erre szakosodott bejelentő rendszereknek is jelezni.

A szakértők szerint a platformoknak speciális, kifejezetten gyermekek elleni szexuális bűncselekmények felismerésére képzett moderációs csapatokat kellene működtetniük. Ezek a csoportok felismerhetnék a kódolt nyelvezetet, elemezhetnék a groomingmintázatokat, azonosíthatnák a hamis profilokat, és közvetlenül együttműködhetnének a hatóságokkal.

A Maldita megkereste a TikTokot, a Telegramot és a Zangit is, hogy reagáljanak a platformjaikon történtekre. Csak a Telegramtól érkezett hozzájuk válasz, amelyben a platform tulajdonosai kijelentik, hogy „zéró toleranciát alkalmaznak a gyermekek szexuális bántalmazásával kapcsolatos anyagokkal szemben, ami a szolgáltatási feltételeikben is kifejezetten tiltott.” Hozzátették, hogy feldolgozzák a felhasználók és a civil szervezetek bejelentéseit annak érdekében, hogy érvényesítsék a szolgáltatási feltételeiket ezen a területen.

Mi a helyzet Magyarországon?

A Lakmusz megkereste a Hintalovon Gyermekjogi Alapítványt azzal kapcsolatban, hogy Magyarországon találkoztak-e a Maldita által feltárt esetekhez hasonlóval.

Bár az Alapítvány gyermekjogi tanácsadásához online biztonsággal kapcsolatos kérdésekkel is lehet fordulni, Rácz Dominika, a Hintalovon Alapítvány szakmai vezetőjének elmondása szerint az Alapítvány nem kapott még ilyen jellegű megkeresést. Rácz hangsúlyozta azonban,

„ebből nem vonható le következtetés, egyrészt azért, mert az online térben elkövetett szexuális bántalmazásoknak is rendkívül nagy a látenciája, másrészt pedig az elkövetők által használt platformok folyamatosan változhatnak.”

Rácz szerint az elmúlt évek tapasztalatai alapján az elkövetők jellemzően olyan platformokon jelennek meg, amelyeket sok gyerek használ, és ahol könnyen lehet kapcsolatot létesíteni, vagy tartalmakat megosztani. Ezek az online terek (közösségi oldalak, játékplatformok vagy üzenetküldő alkalmazások) időről időre változnak, az elkövetők által alkalmazott módszerek azonban gyakran hasonlóak maradnak.

„Az elkövetők kapcsolatot próbálnak kialakítani a gyerekekkel, bizalmat építenek, információt gyűjtenek róluk, illetve igyekeznek a gyerekeket titoktartásra bírni és a kommunikációt zárt, nehezebben ellenőrizhető felületekre terelni, majd a folyamat következő pontján szexuális tartalmakat kérnek vagy osztanak meg velük, és visszaélésszerűen járnak el velük szemben”

– magyarázza Rácz.

Magyarországon a Nemzeti Média- és Hírközlési Hatóság (NMHH) Internet Hotline (IH) szolgáltatása 2011 óta működtet internetes tájékoztató és segítségnyújtó szolgálatot, szakmai együttműködésben dolgozik a Nemzeti Nyomozó Irodával, és tagja a a gyermekek online szexuális kizsákmányolása ellen küzdő nemzetközi szövetségnek, az INHOPE-nak (International Association of Internet Hotlines).

Az IH-hoz olyan online tartalmakat lehet bejelenteni, amelyekről a bejelentő feltételezi, hogy jogsértőek. Nyolc bejelentési kategória van, köztük a gyermekkel szembeni online szexuális bántalmazás és a kiskorúakra káros tartalom.

Az NMHH 2025-ös Internet Hotline beszámolója szerint a gyermekkel szembeni online szexuális bántalmazás kategóriában olyan tartalmakat lehet bejelenteni, amelyek „a 18 év alatti (akár létező, akár nem létező) személyt a nemiséget súlyosan szeméremsértő nyíltsággal, célzatosan a nemi vágy felkeltésére irányuló helyzetben, pózban ábrázolják.” Az egyéb, kiskorúakra káros tartalom kategóriában jelenthetők be az olyan tartalmak, amelyek a bejelentő megítélése szerint negatívan befolyásolhatják a kiskorúak szellemi, lelki, erkölcsi vagy fizikai fejlődését, azonban nem sorolhatók a többi bejelentési kategóriába.

A beszámoló szerint az IH 2025-ben összesen 2575 bejelentést kezelt. A legtöbb bejelentés, vagyis a bejelentések 32 százaléka gyermekkel szembeni online szexuális bántalmazás kategóriában érkezett.

Ez összesen 831 bejelentést jelent ebben a kategóriában, ami több mint kétszerese a 2024-ben beérkezett 379 bejelentésnek.

2025-ben az IH elemzői a 831 bejelentés alapján összesen 1193 linket vizsgáltak meg, közel kétszer annyit, mint 2024-ben.

A vizsgált linkek 53 százaléka bizonyult az elemzők vizsgálata alapján feltételezhetően gyermekek szexuális kizsákmányolását ábrázoló tartalomnak.

Az NMHH beszámolója szerint a leginkább érintett csoport a fiatal lányok, követve az eddigi tendenciát – 2025-ben az áldozatok 78 százaléka volt lány. Azonban a fiú áldozatok aránya növekedett az elmúlt évekhez képest, 2025-ben az áldozatok 16 százaléka volt fiú. Az áldozatok többsége (61 százaléka) 13 év alatti. A felvételek döntő többsége otthoni környezetben készült, gyerekszobában vagy fürdőszobában.

A bejelentések vizsgálatakor az IH 194 esetben vette fel a kapcsolatot a Nemzeti Nyomozó Irodával, 124 esetben kereste meg a tartalomszolgáltatót (ilyenkor az IH nem kötelezheti törlésrea platformot, csak jelezheti a feltételezetten jogsértő vagy kiskorúakra káros tartalmat), 333 esetben pedig jelzést küldött a tárhelyszolgáltató szerint érintett INHOPE taghotline-nak.

A jelentett linkek 28 százaléka, vagyis 185 link közösségimédia-platformokhoz kapcsolódott, és 75 százalékban a Telegramot érintette.

Az összes kategóriára beérkező bejelentés közül egyébként a TikTok a harmadik helyen áll, 143 a platformmal kapcsolatos bejelentés érkezett tavaly az IH-hoz. Az összes bejelentés közül a legtöbb a Facebookkal kapcsolatosan érkezett, összesen 340 bejelentés.

Mint a beszámolóban fogalmaznak, „a közösségimédia-platformokkal való folyamatos együttműködés kiemelt jelentőségű a gyermekek szexuális online bántalmazásának visszaszorításában”.

Támogatják a kiterjedtebb EU-s ellenőrzést

Rácz Dominika a Lakmusz megkeresésére azt is hangsúlyozta, hogy a Hintalovon a gyerekek szexuális kizsákmányolása ellen küzdő nemzetközi szervezet, az ECPAT magyarországi tagjaként már többször felhívta a figyelmet arra, milyen lépéseket kellene tenniük az online platformoknak.

Tavaly októberben közzétett közleményükben például azon uniós szabályozási javaslat mellett érveltek, amely a gyermekek online térben történő szexuális bántalmazásának megelőzését és visszaszorítását célozza. Ez a javaslat kötelezné a szolgáltatókat, hogy bejelentést tegyenek abban az esetben, ha platformjaikon gyerekek online szexuális bántalmazását észlelik. Emellett a javaslat előírja például, hogy a szolgáltatók kötelezően szűrjék az üzeneteket, ami a végpontok közötti titkosítással védett kommunikációs csatornákra is kiterjedne. A javaslat ezen része a közbeszédben Chat Control néven híresült el, azzal a keretezéssel, hogy az EU megfigyelné a felhasználók privát beszélgetéseit.

(Címlapi fotó: ZHANG RONGQING/Imaginechina via AFP)