Beteg fia ágyékáról küldött fotókat az orvosnak egy férfi, pedofilnak nézte a Google
A Google nem hajlandó visszaállítania a fiókját annak a felhasználónak, aki a fia ágyékáról készített orvosi felvételeket. A cég algoritmusa észlelte a képeket, amiket a gyermek szexuális kizsákmányolásaként értelmezett, így letiltotta a férfit, hogy hozzáférjen a fiókjához – derült ki a New York Times beszámolójából.
A szakemberek régóta figyelmeztetnek már arra, hogy az olyan algoritmusok, mint amit a Google is használ, meglehetősen korlátozott képességekkel bír. Ezzel egyelőre nem kezdtek semmit a vállalatok, főleg azért nem, mert közben komoly nyomás nehezedik rájuk a szexuális zaklatással kapcsolatos tartalmak visszaszorítására.
Daniel Kahn Gillmor, az American Civil Liberties Union nevű jogvédő szervezet munkatársa szerint bár a technológiai vállalatok a felhasználók életével kapcsolatos hatalmas adatmennyiséghez férnek hozzá, mégsem ismerik őket teljesen.
A férfi, akit csak Markként emleget a lap, azután készített fényképeket a fia ágyékáról, hogy az begyulladt, és azzal a célzattal, hogy elküldi az orvosának. A doktor a felvételeket felhasználva antibiotikumot írt fel, ám amikor a fotók a felhőben is megjelentek, a Google rendszere sértőnek találta azokat. Két nappal később a férfi Google-fiókját letiltotta a rendszer, mert a fotók sértik a cég szabályzatát, sőt, törvénytelenek is lehetnek. A Times szerint emellett a Google a telefonján lévő egyik videót is megjelölte, így a San Franciscó-i rendőrség eljárást indított ellene. Markot végül minden bűncselekmény alól felmentették, a cég azonban nem állította vissza a felhasználói fiókját.
Christa Muldoon, a Google szóvivője szerint a moderátorokat orvosok képezték ki, hogy keressenek elváltozásokat vagy más hasonló tüneteket egy hasonló kép esetén. Azt azonban elismerte, hogy a moderátorok közül senki sem volt orvos, és nem is látta egyetlen orvos sem a felvételeket.
