A Google és az Oxfordi Egyetem kutatói szerint valós a veszélye annak, hogy a mesterséges intelligencia az ember ellen fordul
A mesterséges intelligenciával (MI) kapcsolatos kutatások óta hallani különféle, a rendszer veszélyére vonatkozó figyelmeztetéseket. Vezető tudósok, de a technológiai világ ismert alakjai is gyakran hangoztatják, hogy ha nem vigyázunk, a gép egyszer képes lehet eltörölni a teljes emberiséget. (Más kérdés, hogy a kritikusok szerint ennek semmi esélye, hiszen a programokat úgy fejlesztik, hogy ilyesmi egyáltalán ne következhessen be.)
Ugyanakkor legalább ennyire ijesztő állítások sorakoznak az AI Magazine augusztusi számában publikált tanulmányban is. Ezt az Oxfordi Egyetem és a Google Deepmind kutatói jegyzik (alábecsülni tehát nem érdemes), akik úgy vélik: az MI-vel kapcsolatos kockázat, hogy egyszer az ember ellen fordul, valójában sokkal nagyobb.
A kutatók abból indulnak ki, hogy az MI képes lehet csaláshoz folyamodni, hogy az általa kitalált stratégia mentén jutalmat kapjon – írja a BGR. Ez végső soron egy olyan forgatókönyvet vázol fel, aminek a végén a program a rendelkezésre álló erőforrásokat is átveszi tőlünk. Michael Cohen, a tanulmány társszerzője szerint mindez egzisztenciális katasztrófába sodorna minket, mivel egy fejlett géppel szemben képtelenek lennénk győzni.
A kutatók a világszerte zajló (MI-)kutatásokkal kapcsolatban is tettek pár figyelmeztetést: úgy vélik, hogy bizonyos kísérleteket, amik a legkülönbözőbb mesterségesintelligencia-ágensek fejlesztését célozzák, inkább jobb lenne most leállítani – félő ugyanis, hogy a munka katasztrofális változásokat indít be.
A szakértők úgy összegeznek: az MI-vel kapcsolatos fenyegetés nemcsak lehetséges, hanem valószínű.
