Szakmai blog

Deepfake ellen orvosság - Morgan Freemannel

2023-12-22 | Adatvédelem, Érdekességek, IT jog

Deepfake ellen orvosság - Morgan Freemannel

 

Mi az a deepfake?

 A deepfake olyan, a hitelességét tekintve rendkívül meggyőző videó vagy hangfelvétel, amelyben általában emberek arcát felhasználva hamis képmásokat, hanganyagokat mutatnak be, melyeket mesterséges intelligencia felhasználásával állítottak elő. A fényképek retusálása vagy a beszédhang módosítása nem új keletű gyakorlat, azonban az MI  nemcsak a képek és hangok megváltoztatását, hanem azok létrehozását is lehetővé teszi.

Ma már bárki tud jobb vagy rosszabb minőségben, különösebb utánajárás és technikai ismeret nélkül is deepfake tartalmakat készíteni. A kifejezetten félrevezető céllal megalkotott deepfake víziója is hamar megszületett, de az effajta tartalom hosszú ideig csak fikcióként élt a köztudatban. Az elméleti lehetőség viszont azóta valósággá vált, sőt eszközeinek tárháza egyre csak bővül.

 

Hangmás

Az MI napjainkban már olyan jól utánozza az emberek fizikai megjelenését és hangját, hogy nehéz eldönteni mely anyagok valódiak és melyek a hamisak. Két nemrégiben közzétett felmérés keretén belül több mint 500 embernek játszották le generált és eredeti forrásból származó hangmintákat. A résztvevők azt a feladatot kapták, hogy mindegyik fájl meghallgatása után döntsék el, melyik valódi, és melyiket állította elő a mesterséges intelligencia. Ez csak az esetek 73 százalékában sikerült nekik, és azután is csak kis mértékben javult a helyzet, hogy a kutatók oktatást tartottak nekik a deepfake-re jellemző jegyek felismeréséről. A vizsgált nyelvek eredményei között nem volt számottevő különbség.

A deepfake fejlődő tendenciái különösen nagy problémát jelentettek a közelmúltban a hírességek számára, akikről több ízben is terjesztettek, hamis kép és hangfelvételeket különböző közösségi portálokon.

"Úgy hisszük, hogy a generatív mesterséges intelligencia olyan technológiává vált, amely meg fogja változtatni a világot" - mondta Ning Zhang, a St. Louis-i Washington Egyetem informatikai és mérnöki tanszékének docense. "Azonban amikor visszaélnek vele meg kell találnunk a módját annak, hogy hatékonyan védekezhessünk ellene."

 

Védekezés több irányból

Többen próbálkoznak olyan szoftverek fejlesztésévek, amely segíthet a deepfake visszaélések elleni küzdelemben. Másik oldalról bizonyos szoftverek már a meglévő források felhasználásánál akadályozzák a deepfake készítést (pl. Glaze).

A legtöbb szoftver olyan zavaró, az emberi szem-fül számára nem észlelhető jelekkel operál, amely megzavarja az MI generátort.

Ne legyenek azonban illúzióink:  megvédeni azokat, akinek a hangja már széles körben elérhető az interneten nem lehet, mivel a mesterséges intelligenciával működő generátorok már most is hozzáférnek rengeteg híresség, filmsztár vagy politikus hangjához. De azok sem nyugodhatnak, akiknek a hangja nem ilyen széles körben elterjedt. Már évek óta köztudott, hogy csupán 5 másodperc hanganyag elengedő lehet egy személy hangjának utánzásához.

 

Hogyan ismerhetjük fel, ha egy felvétel manipulált?

Szerencsére ma még a legtöbb generált felvétel könnyen felismerhető, amennyiben ismerjük a deepfake tipikus felismerő jegyeit:

  • a képek és videó felvételek esetében az ún. „üveges” tekintet
  • a tárgyak vagy emberek szélein szokatlan pixelmintázatok
  • a felületek elmosódottsága
  • a beszélő szájának természetellenes mozgása
  • a videó felvételeken az alany egyáltalán nem, vagy természetellenesen pislog
  • hangfelvételek esetén a háttérzaj hiánya

 

Törvényi szabályozás

A törvényi rendelkezések a deepfake létrejöttét elősegítő technológiát nem, de a felhasználásának módját már szabályozzák. A deepfake algoritmussal létrehozott tartalmak viszonylag új jelenségnek számítanak, de a szakértők már felhívták a figyelmet arra, hogy milyen kockázatokat is jelenthetnek az egyénekre, szervezetekre vagy akár országok kormányaira nézve. Egyes országokban már léteznek kifejezetten az ilyen tartalmakkal való visszaélések ellen létrehozott büntető szankciók, ugyanakkor a legtöbb helyen, ahogy hazánkban is, a jogi háttér egyelőre még csak áttételesen – a polgári törvénykönyv általános személyiségi jogokat védő passzusaival és a büntető törvénykönyv általános, informatikai tárgyú cselekményekre vonatkozó szankcióival - biztosított.

 

Amennyiben az információs-technológia jogával vagy a mesterséges intelligencia jogi szabályozásával kapcsolatos jogi segítségre van szüksége, forduljon bizalommal szakértő kollégáinkhoz!

Megkezdte működését az Online Platform Vitarendező Tanács

2024-09-10
Megkezdte működését az Online Platform Vitarendező Tanács

Az Online Platform Vitarendező Tanács (OPVT) augusztus 29-én kezdte meg működését, miután a Digitális Szolgáltatási Koordinátor elvégezte a testület tanúsítását. Cikkünkben röviden bemutatjuk az OPVT hátterét, lényegét és eljárását.

Bővebben

A kriptók új korszaka – hatályba lép a kriptovaluták piacáról szóló törvény

2024-05-14
A kriptók új korszaka – hatályba lép a kriptovaluták piacáról szóló törvény

2024. június 30-án hatályba lép az első kimondottan a kriptovaluták piacát szabályozó törvény a kriptoeszközök piacáról szóló 2024. évi VII. törvény. A szabályozás szükségességét a kriptovaluta egyre nagyobb térnyerése és az uniós előírások hívták életre. Bár néhány évvel ezelőtt még csak néhány ismerték a kriptovaluta fogalmát, mára elmondhatjuk, hogy a gazdaság egy nagyon meghatározó részét képezik a különböző kriptoeszközök. Cikkünkben a jogszabály legfontosabb rendelkezéseit foglaljuk össze.

Bővebben

Szoftvertesztelés fontossága

2024-02-01
Szoftvertesztelés fontossága

A szoftvertesztelés szinte elengedhetetlen része a szoftverfejlesztésnek és létfontosságú alkotóeleme a szoftver megbízhatóságának és az erőforrások optimalizálásának. Hogyan érdemes lefolytatni, és a fejlesztés melyik részén célszerű bevonni a tesztelés faktorát?

Cikkünkben ezekre a kérdésekre keressük a választ.

Bővebben

Állunk rendelkezésére az információs technológiával kapcsolatos jogi kérdések tekintetében!

Kapcsolat