Zdjęcie własnego dziecka na telefonie doprowadziło do wizyty policji w domu mężczyzny oraz do pozbawienia go konta Google. Policja odpuściła. Google nie.

Mark, jak przedstawia bohatera swojego artykułu New York Times, w lutym zeszłego roku, użyczył żonie swój telefon z Androidem, aby ta, za namową pielęgniarki wykonała fotografię spuchniętych, intymnych części ciała swojego dziecka, przed teleporadą lekarską. Zdjęcie pachwiny dziecka zostało następnie przesłane na iPhone’a żony Marka. Teleporada zakończyła się przepisaniem antybiotyków, ale dla marka był to początek innych kłopotów.

Zdjęcie pachwiny dziecka zostało automatycznie skopiowane do chmury Google Photos, a tam algorytm oflagował je jako pornografię dziecięcą. Niemal automatycznie Mark, bohater artykułu i ojciec dziecka, stracił dostęp do swojego konta Google, ze względu na ciężkie naruszenie regulaminu usług. Mark zgłosił oczywiście reklamację i konieczność ręcznej weryfikacji, ale nie przyniosło to pożądanego skutku. W grudniu zeszłego roku Mark został przesłuchany przez policję z San Francisco, która pod ciężarem argumentów i dowodów, odstąpiła od dalszych czynności. Google obstaje jednak przy swoim.

Szefowa Google d.s. bezpieczeństwa dzieci powiedziała, że weryfikatorzy podtrzymali decyzję algorytmu, ponieważ nie zauważyli na zdjęciu wysypki, czy zaczerwienienia, a jedynie to, mogło by zostać uznane za zdjęcie do celów medycznych. Claire Lilley dodała również, że na koncie mężczyzny znaleziono również wideo na którym dziecko leży na łóżku z rozebraną kobietą. OK, w tym momencie robi się już nieco dziwniej.

Bohater artykułu NY Timesa nie pamięta jednak, aby taki film nagrywał, czy przechowywał w swoim telefonie. Mogę sobie jednak wyobrazić, że coś takiego nagrałem jakiegoś ranka, kiedy się obudziliśmy, po prostu jako rodzinny poranek, mówi. Dlaczego jednak na golasa?

Algorytmy mające za zadanie wykrywanie dziecięcej pornografii nie są bezbłędne. W zeszłym roku zapowiedź Apple dotycząca wprowadzenia do swoich usług podobnej technologii spotkała się z olbrzymią falą krytyki ze strony użytkowników i ekspertów. Apple ugiął się i wstrzymał wdrożenie skanowania zdjęć użytkowników pod kątem posiadania ewentualnej pornografii dziecięcej.

{loadmoduleid 1123}