Nyakunkon a hamis fotók korszaka, de kiszúrhatjuk a megtévesztést

2023. május 05. 17:16

A mesterséges intelligencia (MI) alapú képgeneráló rendszerek annyira belemerültek a hamis képek gyártásába, hogy szemmel láthatóan saját magukra, azaz MI-re van szükségünk, hogy kiderüljön, nem ember volt az „alkotó”. Bár az emberi szem sok esetben már nem tudja kiszúrni a hamis képeket, többen állítják, van megoldás.

2023. május 05. 17:16
null
Fekete Kíra

Manapság olyan képek terjednek az interneten, ahol a pápa pufikabátot visel, Donald Trumpot pedig bilincsbe verik – mivel ezek a szituációk a valóságtól meglehetősen elrugaszkodtak, ezért jelez a belső hangunk, hogy itt valami nem stimmel. 

A képgeneráló mesterséges intelligencia fejlődésével ugyanis pár kattintással bárki kérhet ilyen kamu képet. Ráadásul már kevés ahhoz a két szemünk, hogy megállapítsuk, mi valódi és mi nem. Egyelőre ugyan hibázik a képalkotó rendszer – egyes esetekben hat ujjat rajzol vagy egy végtaggal megrövidíti az embert – sok esetben mégis a valóságtól megkülönböztethetetlen képeket gyárt. 

„Egészen elképesztő, hogy mire képesek manapság a mesterséges intelligencia képgenerátorok” – fogalmazott S. Shyam Sundar, a Pennsylvaniai Állami Egyetem kutatója, aki a médiatechnológiák pszichológiai hatásait tanulmányozza. Hangsúlyozza, hogy az elmúlt egy évben rengeteget fejlődtek a képgeneráló rendszerek. Sundar szerint azért  is voltak képesek ilyen mértékben fejlődni a képgeneráló MI-k, mivel egyre több olyan kép áll rendelkezésükre, például az interneten, amelyek alapján betanítható egy ilyen rendszer. 

Már nem tudunk különbséget tenni

Az angliai Lancaster Egyetem pszichológusa, Sophie Nightingale és társai 2021-ben megvizsgálták, vajon milyen eséllyel ismerik fel az emberek a mesterséges intelligencia képeit. Az eredmény elbizonytalanította a szakembereket. 

A kutató megdöbbenésére a többség nem tudta megmondani a különbséget a generált és a valódi igazolványképek között

 – mutatott rá a Scientific American szakmai blog. Ráadásul itt ugye nem is művészi álomképekről, hanem hús-vér emberek, illetve nem létező, de igen valóságosra generált személyek „fantomképeiről” volt szó.

„Alapvetően ott tartunk, hogy 

ezek a képek annyira valósághűek, hogy az emberek nem képesek különbséget tenni a generált  és a valódi arcok között”

– világított rá a kutató. Egy második tesztben a kutatók megpróbálták fejleszteni a tesztalanyok mesterséges intelligenciát felismerő képességét. A résztvevőknek elmondták, hogy helyesen válaszoltak vagy nem, és előre adtak nekik tippeket, hogyan ismerjék fel a generált képeket, például elcsúszott fülbevalót vagy „összenőtt” fogakat keressenek. A kutatás eredménye azonban azt mutatta, hogy így is csupán tíz százalékkal nőtt a helyes válaszok száma. 

Fehérköpenyes MI

A képgeneráló technológia fejlődésével paradox módon az emberek legjobb pajzsát az MI-generált képek ellen egy másik MI rendszer adhatja: egy, a hamis képek kiszűrésére kiképzett MI-rendszer. A szakértők szerint: ahogy a mesterséges intelligencia képgenerálási képességei javulnak, az algoritmusok ügyesebben ismerik fel a robotok által létrehozott pixelméretű nyomokat, mint mi, emberek.

„Az ilyen MI-alapú ‘detektívprogramok’ készítése ugyanolyan módon történik, mint bármely más gépi tanulási feladat” – állítja a Wisconsin-Madison Egyetem informatikusa, Yong Jae Lee. Elmagyarázta, hogy hamis és valódi képeket mutatnak a rendszernek, ebből a gép leszűri a következtetéseket, tanul, és egy idő után nagy pontossággal felismeri a generált, nem valós fotókat.

A detektálására szolgáló rendszereknek is megvannak a maguk gyengéi, állítják a szakértők. A legtöbb algoritmust egy specifikus MI-generátor képein képzik ki, így tanácstalan, amikor más algoritmusok hamisítványait kell felismerni. Lee éppen egy olyan kutatáson dolgozik, ami ezt a problémát próbálja megoldani, és inkább arra összpontosít, hogy a detektor felismerje, mi tesz egy képet valódivá. 

„A képeket generáló mesterséges intelligencia rendszerek és a mesterséges intelligencia által generált képeket detektáló rendszerek közötti harc egy igazi ‘fegyverkezési’ verseny lesz” – jelentette ki  Dél-Kaliforniai Egyetem informatika kutató docense, Wael AbdAlmageed. A szakértő szerint egyik megoldás sem lesz képes megfogni minden mesterségesen előállított képet, de attól még érdemes folytatni a harcot.

A felhasználóknak pedig az eddigieknél sokkal kritikusabban kell szemlélni a vizuális információkat, és minden esetben fel kell tennünk a kérdést, hogy a neten látott, például kompromittáló vagy más fotók (sőt, újabban videók) hamisak, mesterséges intelligencia által generáltak-e.

Már eljárt az idő a „hiszem, ha látom” mondás felett, hiszen már a szemünknek sem hihetünk a valóságot túl ügyesen mémelő világban.

Összesen 5 komment

A kommentek nem szerkesztett tartalmak, tartalmuk a szerzőjük álláspontját tükrözi. Mielőtt hozzászólna, kérjük, olvassa el a kommentszabályzatot.
Sorrend:
szemlelo
2023. május 07. 19:31
Ez a megoldás az összes, tanulóalgoritmus által generált termék esetén, legyen az szöveg, kép, feladat megoldás. Csak majd a generáló programokat is tanítják arra, hogy jobb termékeket készítsen. Megindul egy verseny a hamisító és a hamisítást felismerő programok között.
mediator01
2023. május 06. 01:26
Miután a homo sapiens tönkretette a környezetét, most tönkreteszi a civilizációját is. A sok hamis adat megszünteti a bizalmat az emberi kapcsolatokban, ami káoszhoz, anarchiához vezet. Majmok voltunk, azok is maradtunk, sőt, már azok sem. Gaia pedig majd csak kihever bennünket egyszer.
NERbot
2023. május 05. 19:50
Orbán Viktort nem lehet hamisítani, mert senki nem tud úgy szotyizni zsebredugott kézzel trottyos nadrágban, ahogy ő.
Jelenleg csak a hozzászólások egy kis részét látja. Hozzászóláshoz és a további kommentek megtekintéséhez lépjen be, vagy regisztráljon!