SECURINFO.hu | Kreált „mesterarcokkal” Vezethetők Félre Az Arcfelismerő Rendszerek?

SECURINFO.hu | Kreált „mesterarcokkal” vezethetők félre az arcfelismerő rendszerek?

Forrás: Computerworld

A szakemberek három mély arcfelismerő rendszerrel – Dlib, FaceNet és SphereFace – szemben tesztelték módszereiket. Ron Shmelkin a tanulmány vezető szerzője a Vice Motherboardnak elmondta, hogy azért használták ezeket a rendszereket, mert ezek képesek az arcok “magas szintű szemantikai jellemzőit” is felismerni, amelyek kifinomultabbak, mint a bőrszín vagy a fényhatások.

A módszer

A kutatók egy StyleGAN-t (stílus karakter képalkotó program) használtak az arcok generálásához, majd egy evolúciós algoritmus és neurális hálózat segítségével optimalizálták és megjósolták a sikerüket. Az evolúciós stratégia ezután különböző sikerességi arányú jelöltek iterációit, vagy generációit hozza létre. A kutatók ezután az algoritmust egy neurális hálózat betanítására használták, hogy a legjobb jelölteket a legígéretesebbeknek minősítsék. Ez a megoldás képes a jelöltek sikerének előrejelzésére, és így az algoritmust arra irányítja, hogy jobb, és egyre nagyobb valószínűséggel megfelelő jelölteket hozzon létre.

“Szeretnénk tovább vizsgálni annak lehetőségét, hogy a módszerünk által generált mesterarcokat hogy használjuk fel annak érdekében, hogy segítsünk megvédeni a meglévő arcfelismerő rendszereket az ilyen támadásoktól” – mondta Shmelkin.

A kutatók még azt is megjósolják, hogy az általuk készített mesterarcokat a deepfake technológia segítségével animálni lehetne, hogy megkerüljék az életképesség-érzékelést, amely alapján megállapítható, hogy egy biometrikus minta valódi vagy hamis.

A tanulmány azt is megjegyzi, hogy a Massachusettsi Egyetem Labeled Faces in the Wild (LFW) adatállományában a 60 év feletti fehér férfiak a fiatalabb csoportokhoz képest általában kevésbé változatosak, így e csoport nagy részét lefedhetné egyetlen idősebb mesterarc. Emellett a kilenc létrehozott mesterarc közül csak kettő volt nő, ami a tanulmány szerint megfelel a női arcok “sokkal kisebb gyakoriságának” az LFW-adatkészletben (22 százalék).

A Blavatnik kutatóinak eredményei megmutatják, hogy az arcfelismerő szoftverek hibásak és elfogultak lehetnek. A bűnüldöző szervek által történő folyamatos használatuk több téves letartóztatást eredményeztek, különösen, hogy bebizonyosodott, a rendszer könnyen manipulálható.

Forrás: Computerworld




Forrás