A maszk tilos, a smink nem – két képzőművész a Budapest Pride előtt olyan arcfestéseket mutatott be egy workshopon, amelyek megzavarhatják az arcfelismerő algoritmusokat. A sminkeket saját fejlesztésű arcfelismerővel tesztelték.

„Sokan egyszerűen nem engedhették meg maguknak, hogy megkockáztassanak egy 200 ezres bírságot” – mondta Várhegyi Dávid, aki képzőművész társával, Veres Nonával a Pride napján, néhány órával a felvonulás előtt arcfelismerés-ellenes workshopot tartott egy belvárosi szórakozóhelyen.

Az esemény résztvevői kreatív sminkelési és arcfestési technikákat sajátíthattak el - az ezekkel készült sminkekben jogszerűen lehet tüntetni és felvonulni, mégis megzavarhatják az arcfelismerő algoritmusokat. A résztvevők a helyszínen egy AI-alapú demón keresztül rögtön le is tesztelhették, mennyire sikerült láthatatlanná tenniük magukat az arcfelismerő kamerák számára.

Erre külön felhívták a figyelmet a jogvédők és a Budapest Pride szervezői is: szerintük a büntetőeljárás elkerülése érdekében sem egészségügyi, sem jelmez jellegű maszk viselése nem ajánlott, mert az a hatóságok szerint egyértelműen az arc eltakarásának minősül. A smink viszont nem takarja el az arcot, viszont egy AI-arcfelismerő dolgát megnehezítheti.

Kérdőjelek a Pride körül

A Pride napján nemcsak az volt kérdés, hogyan kezeli majd a rendőrség a betiltott rendezvényt, hanem az is, milyen technológiával figyelik a résztvevőket, és hogyan végzik el a képelemzést.

A hivatalos eljárás szerint a rendőrség által készített felvételeket egy központi szervhez, a Nemzeti Szakértői és Kutató Központhoz (NSZKK) továbbítják, ahol azokat egy biometrikus adatbázissal vethetik össze. Erre az NSZKK-t egy 2015-ben elfogadott törvény hatalmazta fel, amely egy központi arcképnyilvántartás felállításáról rendelkezett. A nyilvántartásban a magyar állampolgárok igazolványképeiből származó biometrikus profilok szerepelnek.

A gyülekezési törvény módosítása és az arcfelismerő technológiák felhasználási lehetőségének kibővítése látszólag lehetőséget teremtett utólagos bírságok akár tömeges kiszabására – a legmodernebb, lényegében valós idejű biometrikus azonosítást elvégző rendszerek ezt automatikusan, több tízezres nagyságrendben is képesek elvégezni. Ezt a rendvédelmi eljárást ugyanakkor egyértelműen tiltja az EU, ugyanis súlyosan sérti a magánszférát és elriasztja az állampolgárokat alapvető jogaik gyakorlásától.

Ráadásul az EU-rendelet szerint azokat a rendszereket is valós idejűnek kell tekinteni, amelyek csak kis késleltetéssel működnek, ha az azonosítás gyorsasága befolyásolhatja az emberek viselkedését. A Társaság a Szabadságjogokért álláspontja szerint az arcfelismerő technológiák felhasználási körének szabálysértésekre történő kibővítése már önmagában is sértette ezt az EU-s szabályozást.

A gyors törvényi szigorítás mellett aggodalmat keltett egy korábbi – meg nem erősített, a magyar kormány által hivatalosan cáfolt – információ is, amely szerint a magyar és a kínai kormány tárgyalásokat folytat egy AI-alapú térfigyelő kamerarendszer telepítéséről.

A kínai AI-technológia mindenképpen uniós szabályozást sértene. A Belügyminisztérium Hadházy Ákos kérdésére július 24-én minderről azt állította: jelenleg nem működik és nincs is fejlesztés alatt olyan informatikai rendszer, amely rendőrségi kamerák felvételeit mesterséges intelligenciával elemezné, és az így azonosított személyeknek automatikusan, emberi ellenőrzés nélkül szabálysértési bírságot küldene.

A rendőrség még július 7-én azt is közölte, hogy a Pride résztvevői ellen nem indít eljárást. A szervezők ellen ugyanakkor nyomozás indult, Karácsony Gergely főpolgármestert már be is idézték gyanúsítottként.

Demózás miniben

„Az arcfelismerő algoritmusok alapelvei hasonlóak, így egy egyszerűbb rendszeren is jól modellezhető a működésük, még akkor is, ha nem tudjuk pontosan, milyen technológiát alkalmaznak Magyarországon”

– mondta Veres Nona, a júniusi workshop egyik szervezője. Az eseményen egy nyílt forráskódú, deep learning alapon működő arcfelismerő rendszert teszteltek. Ez a biometrikus arcfeltérképező technológia csak nagy általánosságban hasonlít arra, amit az állami szintű rendszerek alkalmaznak. Azokhoz csak komoly biztonsági jogosultságokkal lehet hozzáférni – tette hozzá Veres.

A workshopon abból indultak ki, hogy az algoritmusok jellemzően az arcon kijelölt pontokkal dolgoznak. Ilyen például a szemek és az orr távolsága, az állkapocs íve vagy a száj formája. Ezeket minden rendszer másként kezeli, de a legtöbb mesterséges intelligencia nemcsak a pontok elhelyezkedését, hanem a köztük lévő fény-árnyék viszonyokat is elemzi.

Ha azonban ezeket a kulcspontokat tudatosan eltorzítják, például világos színt visznek oda, ahol árnyéknak kellene lennie, az a rendszer szempontjából hibás értelmezéshez vezethet: a virtuális képmáson rossz helyre kerül az állkapocs vonala vagy megváltozhatnak az arc domborulatai.

Aki június 28-án részt vett a workshopon, maga is kipróbálhatta, hogyan működik egy arcfelismerő rendszer. A jelentkezők elküldhették a nevüket egy saját magukról készült fotó kíséretében, amit a szoftver „megtanult”: a képekhez hozzárendelte a keresztneveket. A teszt során a résztvevők a kamera elé álltak: ha a program felismerte az arcukat, a nevük megjelent a képernyőn. Ezt követte az arcfestés, és ha jól sikerült, a program már nem tudta beazonosítani őket, és csak annyit írt ki: „unknown” (vagyis ismeretlen).

Várhegyi szerint az eseménytől is függ, hol lehet extrémebb sminkeket bevetni, a Pride-on például senki nem lógott ki a tömegből. Hasonló a helyzet egy focimeccsen is – ott is teljesen megszokott az arcfestés, sőt, sokszor szinte elvárás. A 2022-es katari világbajnokságon például közel 15 ezer arcfelismerő kamera pásztázta a tömeget, amit sok szurkoló látványos arcfestéssel próbált kijátszani.

Sminkinspirációk: corpse paint

A szervezők az arcfestés terén a Meselány Felszabadítási Mozgalom vizuális világából indultak ki – a Várhegyi Dávid által alapított csoport stílusa erősen kötődik az anime esztétikájához. Ennek egyik karakteres eleme az úgynevezett „anime szem” smink, amit általában csukott szemhéjra festenek. Ez egy látványos megoldás, a gyakorlatban azonban nem túl kényelmes, és a tömegben vonulást sem könnyíti meg.

Veres szerint vannak olyan anime sminktechnikák is, amelyek hatékonyabbak, ezekhez azonban már komolyabb gyakorlat kell. Ilyen például az erős orrkontúrozás vagy a szemvonal eltolása úgy, hogy az már szinte el is tünteti az arccsontot.

Ennél jóval könnyebben elkészíthető a „majális smink”, amivel itthon is gyakran találkozni, főleg az ünnepeket kísérő gyerekfoglalkozásokon. A féloldalas festést Várhegyi különösen ajánlotta: ez teljesen összezavarja az arcfelismerő algoritmusokat, mert míg az egyik oldal alapján beazonosítható lehet az arc, a másik már annyira torz, hogy a rendszer nem tudja eldönteni, egyáltalán arcot lát-e. Hasonlóan hatékony lehet a Pókember-smink is, amely az orrot, az állat és a szájat is eltakarja – ez már önmagában jelentősen rontja az azonosítás esélyét. A hatást tovább lehet fokozni például színes kontaktlencsékkel vagy más kiegészítőkkel.

A sminkes inspirációk között szerepelt a heavy metal zenei szubkultúra is, ahol az arcfestés, például a „corpse paint” már az 1960-as évektől jelen van. Ez a hullaszerű, démoni megjelenés nemcsak vizuálisan ütős, de biometrikus szempontból is rendkívül zavaró: szétzilálja az arc karakteres pontjait.

A vizuális azonosítást szolgáló algoritmusok kijátszása nem új téma a művészetben sem – a workshopon két erős példát is említettek. Hito Steyerl 2013-as videójában azt mutatta meg, hogyan lehet eltűnni a gépi látás elől: zöld háttér előtt zöldre festett arccal gyakorlatilag láthatatlanná vált a kamera előtt. De előkerült Adam Harvey CV Dazzle projektje is, ami a divat eszközeivel – kontrasztos smink, 3D-s kiegészítők, hajpótlás – csapja be az arcfelismerő rendszereket.

Arra a kérdésre, hogy mennyiből lehet ezeket otthon elkészíteni, Veres azt válaszolta: bár a kiegészítők nyilván drágábbak, maga a smink meglepően olcsón is megoldható. Fekete-fehér arcfesték már egy kínai boltban is kapható, és nagyjából 5 ezer forintból összeállítható egy teljes szett. Ha lesz még hasonló esemény, a résztvevők a „toolkit” alapján akár otthon is felkészülhetnek.

_

Címlapi kép: Várhegyi Dávid-Veres Nona-Kelemen Kristóf