Sprawa zaczęła się od tego, że Jacky Acine, czarnoskóry nowojorczyk odkrył, iż na jego koncie w aplikacji Google Photos zdjęcie przedstawiające jego samego w towarzystwie czarnoskórej przyjaciółki zostało zakwalifikowane do albumu zatytułowanego „Gorillas” (goryle). Dokonał tego automat, który w Google Photos odpowiada za rozpoznawanie treści fotografii i grupowanie ich do odpowiednich kategorii.
Acine nie krył oburzenia, które wyraził dosadnym komentarzem na swoim koncie na Twitterze. Incydent szybko stał się głośny w internecie wywołując lawinę krytycznych komentarzy pod adresem Google. Użytkownicy oskarżali koncern o rasizm i brak szacunku dla różnic rasowych.
Google zareagował szybko. Ustami swojej rzeczniczki Katie Watson wyraził żal z powodu pomyłki i przeprosił zarówno Acine’a, jak i jego przyjaciółkę. - Jesteśmy wstrząśnięci tym, co się stało, i jest nam bardzo przykro - podkreśliła w komunikacie Watson. - Podjęliśmy natychmiastowe działania w celu usunięcia tego feralnego błędu. Ten incydent potwierdza, ile jeszcze pracy czeka nas nad doprowadzeniem systemu do doskonałości.
W Stanach Zjednoczonych oskarżenie o rasizm jest jednym z najgorszych dla wizerunku firmy. Dlatego w ślad za przeprosinami Watson głos zabrał także Yonatan Zunger, główny programista działu społecznościowego Google. Zapewnił, że błąd zostanie jak najszybciej usunięty, prewencyjnie zaś ekipa pracująca nad rozwojem Google Photos usunęła szybko dział „Goryle” z biblioteki albumów dostępnych w aplikacji. Zunger przekonywał także, że system Google nie jest w żadnym wypadku nastawiony na dyskryminację czarnoskórych użytkowników. Na dowód przytoczył przykłady, w których mechanizm omyłkowo kwalifikował twarze białych osób na fotografiach jako oblicza psów oraz fok.
Google nie uniknął także fali krytyki ze strony dziennikarzy. W portalach internetowych i stacjach telewizyjnych w USA szybko pojawiły się statystyki wskazujące, że Afroamerykanie stanowią jedynie 2 proc. wszystkich pracowników Google. - Być może gdyby Google i inne duże firmy zatrudniały więcej czarnoskórych, to podobne błędy zdarzałyby się rzadziej - napisał między innymi serwis Fusion.
W obronie programistów i Google stanęli jednak niektórzy eksperci. Jest wśród nich Babak Hodjat z Sentient Technologies, startupu zajmującego się sztuczną inteligencją, który w pewnym sensie usprawiedliwia działanie mechanizmu w Google Photos. - Być może trzeba położyć większy nacisk na uczenie maszyn kontekstów kulturowych związanych z rozpoznawaniem obrazu - podkreśla Hodjat w rozmowie z „The Wall Street Journal”. - Jak dotąd podobne systemy niezbyt dobrze radzą sobie z odróżnianiem od siebie żywych obiektów. Dla maszyny nie jest istotne, czy pomyli z gorylem szympansa, czy też człowieka. Dla nas natomiast ma to ogromne znaczenie.
Hodjat sugeruje też, że przyczyną tej konkretnej pomyłki mógł być fakt, iż mechanizm Google Photos nie miał do czynienia ze zbyt dużą liczbą zdjęć goryli, i nie zdążył nauczyć się skutecznego sposobu odróżniania ich od ludzi.
Serwis Google Photos został uruchomiony pod koniec maja br. Wcześniej większość jego funkcji polegających na zarządzaniu zdjęciami i dzieleniu się nimi w internecie stanowiła integralną część platformy społecznościowej Google+.
