2023-12-22 | Adatvédelem, Érdekességek, IT jog
Mi az a deepfake?
A deepfake olyan, a hitelességét tekintve rendkívül meggyőző videó vagy hangfelvétel, amelyben általában emberek arcát felhasználva hamis képmásokat, hanganyagokat mutatnak be, melyeket mesterséges intelligencia felhasználásával állítottak elő. A fényképek retusálása vagy a beszédhang módosítása nem új keletű gyakorlat, azonban az MI nemcsak a képek és hangok megváltoztatását, hanem azok létrehozását is lehetővé teszi.
Ma már bárki tud jobb vagy rosszabb minőségben, különösebb utánajárás és technikai ismeret nélkül is deepfake tartalmakat készíteni. A kifejezetten félrevezető céllal megalkotott deepfake víziója is hamar megszületett, de az effajta tartalom hosszú ideig csak fikcióként élt a köztudatban. Az elméleti lehetőség viszont azóta valósággá vált, sőt eszközeinek tárháza egyre csak bővül.
Hangmás
Az MI napjainkban már olyan jól utánozza az emberek fizikai megjelenését és hangját, hogy nehéz eldönteni mely anyagok valódiak és melyek a hamisak. Két nemrégiben közzétett felmérés keretén belül több mint 500 embernek játszották le generált és eredeti forrásból származó hangmintákat. A résztvevők azt a feladatot kapták, hogy mindegyik fájl meghallgatása után döntsék el, melyik valódi, és melyiket állította elő a mesterséges intelligencia. Ez csak az esetek 73 százalékában sikerült nekik, és azután is csak kis mértékben javult a helyzet, hogy a kutatók oktatást tartottak nekik a deepfake-re jellemző jegyek felismeréséről. A vizsgált nyelvek eredményei között nem volt számottevő különbség.
A deepfake fejlődő tendenciái különösen nagy problémát jelentettek a közelmúltban a hírességek számára, akikről több ízben is terjesztettek, hamis kép és hangfelvételeket különböző közösségi portálokon.
"Úgy hisszük, hogy a generatív mesterséges intelligencia olyan technológiává vált, amely meg fogja változtatni a világot" - mondta Ning Zhang, a St. Louis-i Washington Egyetem informatikai és mérnöki tanszékének docense. "Azonban amikor visszaélnek vele meg kell találnunk a módját annak, hogy hatékonyan védekezhessünk ellene."
Védekezés több irányból
Többen próbálkoznak olyan szoftverek fejlesztésévek, amely segíthet a deepfake visszaélések elleni küzdelemben. Másik oldalról bizonyos szoftverek már a meglévő források felhasználásánál akadályozzák a deepfake készítést (pl. Glaze).
A legtöbb szoftver olyan zavaró, az emberi szem-fül számára nem észlelhető jelekkel operál, amely megzavarja az MI generátort.
Ne legyenek azonban illúzióink: megvédeni azokat, akinek a hangja már széles körben elérhető az interneten nem lehet, mivel a mesterséges intelligenciával működő generátorok már most is hozzáférnek rengeteg híresség, filmsztár vagy politikus hangjához. De azok sem nyugodhatnak, akiknek a hangja nem ilyen széles körben elterjedt. Már évek óta köztudott, hogy csupán 5 másodperc hanganyag elengedő lehet egy személy hangjának utánzásához.
Hogyan ismerhetjük fel, ha egy felvétel manipulált?
Szerencsére ma még a legtöbb generált felvétel könnyen felismerhető, amennyiben ismerjük a deepfake tipikus felismerő jegyeit:
- a képek és videó felvételek esetében az ún. „üveges” tekintet
- a tárgyak vagy emberek szélein szokatlan pixelmintázatok
- a felületek elmosódottsága
- a beszélő szájának természetellenes mozgása
- a videó felvételeken az alany egyáltalán nem, vagy természetellenesen pislog
- hangfelvételek esetén a háttérzaj hiánya
Törvényi szabályozás
A törvényi rendelkezések a deepfake létrejöttét elősegítő technológiát nem, de a felhasználásának módját már szabályozzák. A deepfake algoritmussal létrehozott tartalmak viszonylag új jelenségnek számítanak, de a szakértők már felhívták a figyelmet arra, hogy milyen kockázatokat is jelenthetnek az egyénekre, szervezetekre vagy akár országok kormányaira nézve. Egyes országokban már léteznek kifejezetten az ilyen tartalmakkal való visszaélések ellen létrehozott büntető szankciók, ugyanakkor a legtöbb helyen, ahogy hazánkban is, a jogi háttér egyelőre még csak áttételesen – a polgári törvénykönyv általános személyiségi jogokat védő passzusaival és a büntető törvénykönyv általános, informatikai tárgyú cselekményekre vonatkozó szankcióival - biztosított.
Amennyiben az információs-technológia jogával vagy a mesterséges intelligencia jogi szabályozásával kapcsolatos jogi segítségre van szüksége, forduljon bizalommal szakértő kollégáinkhoz!
