Láthatatlan vízjelek kerülhetnek egyes képekre a neten – ez annak rossz hír, aki csalni akar
A mesterséges intelligenciának ma már nem jelent kihívást, hogy a felhasználó utasításai alapján elkészítsen egy olyan képet, amiről nehéz eldönteni, hogy valódi történést ábrázol-e. Elég csak a pufidzsekis Ferenc pápa fotójára gondolni, ami zavarba hozta a fél internetet.
Az MI által gyártott képek felismerése igen nehéz. Jó esetben a szoftverek vízjellel vagy más jelöléssel látják el a készítményüket, de semmi esély nincs arra, hogy szabad forráskódú szoftverrel ne gyártsanak rossz szándékú, jelöletlen képeket. Júniusban a The New York Times tett próbát öt képellenőrző programmal, és az eredmény nem valami megnyugtató. Kiderült például – ez sem meglepő –, hogy tartalmi ellenőrzésről szó sincs, tehát emberi szemmel nyilvánvalóan lehetetlen helyzeteket a gép nem feltétlenül ismer fel. Technikailag pedig az okoz nehézséget, hogy ha az MI által gyártott képeket néhány ponton megváltoztatják, akkor az ellenőrző program sokkal nehezebben bukkan nyomra.
Mivel az ilyen képek létrehozására használható képgeneráló szolgáltatásoknak több millió felhasználója van – csak a Midjourney 14 millióval büszkélkedhet –, egyre sürgetőbb lenne az ilyen alkotások megkülönböztethetősége, detektálhatósága.
A Google most ezzel kapcsolatban állt elő a vízjelek nem egészen új ötletével – írja a BBC. A vízjel az az ábra vagy szöveg, amit egy képen helyez el a tulajdonosa, hogy egyértelmű legyen, ő készítette az adott alkotást. Ezek a jelek szemmel is jól láthatóak, a Google azonban jelen esetben láthatatlan vízjelekkel operálna.
Az ötlet szerint az MI-képgenerátor szolgáltatások a létrehozott képek pixelei mögé rejtenének el szabad szemmel nem észlelhető vízjeleket. Ezeket aztán a detektorok könnyen megtalálnák. Az elképzelés a Google szerint működik, igaz, a módszert egyelőre csak a saját, Imagen képalkotó mesterséges intelligenciáján tesztelte le.
A cég szerint ugyanakkor könnyen be lehetne építeni egy ilyen eszközt más képalkotó szolgáltatásokba is. És erre akár jogi eszközökkel is kötelezni lehetne a szolgáltatókat.
Ha a módszer valóban beválik, azzal esélyt lehetne adni arra, hogy kevesebb olyan kép szülessen, amivel át akarják verni az internetezőket. Más kérdés, hogy az emberek egy része valószínűleg hamarabb hisz majd a saját szemének, mint egy tényellenőrző csoportnak, amely megállapítja, hogy a kép nem valódi jelenetet ábrázol.
