
Algorytm Google’a nie będzie już analizował zdjęć pod kątem płci21.02.2020
Cloud Vision API to rodzaj interfejsu, który korzysta z tzw. big data, czyli dużych zbiorów danych i pozwala zrozumieć treść obrazu lub odczytywać zawartą w nim treść.
Oparty na sztucznej inteligencji algorytm skupia się na samodzielnym segregowaniu i tagowaniu obrazów i zdjęć. Identyfikuje je na przykład pod kątem zawartości logotypów marek, gatunków występujących zwierząt, miejsc, przedmiotów, ich faktury i innych cech charakterystycznych. Program jest zdolny opisywać także osoby znajdujące się na fotografiach. Od tej pory nie będzie jednak definiował ich płci, a każdy człowiek zostanie sklasyfikowany przez program nie jako „kobieta” lub „mężczyzna” tylko jako „osoba”.

W wiadomości, którą gigant technologiczny wysłał do swoich partnerów w czwartek rano pojawiło się wyjaśnienie decyzji o nietagowaniu zdjęć pod kątem płci. Słowa przytacza „Business Insider”. Zdaniem Google’a, nie da się określić płci danej osoby wyłącznie na podstawie jej wyglądu, ponieważ może się to wiązać z uprzedzeniami i zbyt daleko posuniętymi wyobrażeniami.
Interpretacje i wnioski sztucznej inteligencji to wciąż szeroko dyskutowany temat. Najbardziej kontrowersyjnym zagadnieniem są w nim błędne dane treningowe, na których uczy się program. Stereotypowe dane, sprofilowane pod jednym kątem, nie uwzględniające różnorodności świata i punktów widzenia, mogą spowodować, że algorytm na ich podstawie wyciągnie błędne wnioski.
Ciekawe są też spostrzeżenia badaczy z z University of Washington, którzy korzystali z bazy danej przystosowanej do rozpoznawania sytuacji, imSitu, oraz systemu rozpoznawania obrazów COCO. Jako przykład sygnalizujący problem przedstawili oni dwa, wydawałoby się neutralne przedmioty – łyżeczkę i rakietę tenisową. Pierwszy, obok innych sztućców i kuchennych przyrządów, jest przez algorytm mocniej kojarzony z kobietą, podczas gry drugi, zaliczany do sprzętu sportowego, przynależy rzekomo do świata mężczyzn. Wszystko dlatego, że wytrenowany algorytm znajdował o 33 proc. więcej fotografii gotujących kobiet, niż mężczyzn. Nakarmiony dużą ilością tak sprofilowanych danych system w 68 proc. był bardziej skłonny znaleźć w kuchni kobietę nawet, gdy była ona łysiejącym mężczyzną.
zobacz także
- Muzyczne przewidywania, czyli czego będziemy słuchać w latach 2020-30?
Trendy
Muzyczne przewidywania, czyli czego będziemy słuchać w latach 2020-30?
- Cena postępu
Trendy
Cena postępu
- Nie będzie prequela „Gry o tron” z Naomi Watts. HBO zamówiło za to nowy serial o historii rodu Targaryen
Newsy
Nie będzie prequela „Gry o tron” z Naomi Watts. HBO zamówiło za to nowy serial o historii rodu Targaryen
- Flora i fauna oceaniczna może zostać odnowiona do 2050 roku
Newsy
Flora i fauna oceaniczna może zostać odnowiona do 2050 roku
zobacz playlisty
-
Papaya Young Directors top 15
15
Papaya Young Directors top 15
-
Tim Burton
03
Tim Burton
-
Walker Dialogues and Film Retrospectives: The First Thirty Years
12
Walker Dialogues and Film Retrospectives: The First Thirty Years
-
Muzeum Van Gogha w 4K
06
Muzeum Van Gogha w 4K