Algorytm Google’a nie będzie już analizował zdjęć pod kątem płci21.02.2020
Cloud Vision API to rodzaj interfejsu, który korzysta z tzw. big data, czyli dużych zbiorów danych i pozwala zrozumieć treść obrazu lub odczytywać zawartą w nim treść.
Oparty na sztucznej inteligencji algorytm skupia się na samodzielnym segregowaniu i tagowaniu obrazów i zdjęć. Identyfikuje je na przykład pod kątem zawartości logotypów marek, gatunków występujących zwierząt, miejsc, przedmiotów, ich faktury i innych cech charakterystycznych. Program jest zdolny opisywać także osoby znajdujące się na fotografiach. Od tej pory nie będzie jednak definiował ich płci, a każdy człowiek zostanie sklasyfikowany przez program nie jako „kobieta” lub „mężczyzna” tylko jako „osoba”.
W wiadomości, którą gigant technologiczny wysłał do swoich partnerów w czwartek rano pojawiło się wyjaśnienie decyzji o nietagowaniu zdjęć pod kątem płci. Słowa przytacza „Business Insider”. Zdaniem Google’a, nie da się określić płci danej osoby wyłącznie na podstawie jej wyglądu, ponieważ może się to wiązać z uprzedzeniami i zbyt daleko posuniętymi wyobrażeniami.
Interpretacje i wnioski sztucznej inteligencji to wciąż szeroko dyskutowany temat. Najbardziej kontrowersyjnym zagadnieniem są w nim błędne dane treningowe, na których uczy się program. Stereotypowe dane, sprofilowane pod jednym kątem, nie uwzględniające różnorodności świata i punktów widzenia, mogą spowodować, że algorytm na ich podstawie wyciągnie błędne wnioski.
Ciekawe są też spostrzeżenia badaczy z z University of Washington, którzy korzystali z bazy danej przystosowanej do rozpoznawania sytuacji, imSitu, oraz systemu rozpoznawania obrazów COCO. Jako przykład sygnalizujący problem przedstawili oni dwa, wydawałoby się neutralne przedmioty – łyżeczkę i rakietę tenisową. Pierwszy, obok innych sztućców i kuchennych przyrządów, jest przez algorytm mocniej kojarzony z kobietą, podczas gry drugi, zaliczany do sprzętu sportowego, przynależy rzekomo do świata mężczyzn. Wszystko dlatego, że wytrenowany algorytm znajdował o 33 proc. więcej fotografii gotujących kobiet, niż mężczyzn. Nakarmiony dużą ilością tak sprofilowanych danych system w 68 proc. był bardziej skłonny znaleźć w kuchni kobietę nawet, gdy była ona łysiejącym mężczyzną.
zobacz także
- Jakie są największe źródła zanieczyszczenia świetlnego? Nowe obserwacje amerykańskich naukowców
Newsy
Jakie są największe źródła zanieczyszczenia świetlnego? Nowe obserwacje amerykańskich naukowców
- Coldplay i Pharrell Williams w charytatywnym projekcie
Newsy
Coldplay i Pharrell Williams w charytatywnym projekcie
- Pierwsze 5 minut „Człowieka, który spadł na Ziemię” za darmo na YouTubie. Premiera serialu w kwietniu
Newsy
Pierwsze 5 minut „Człowieka, który spadł na Ziemię” za darmo na YouTubie. Premiera serialu w kwietniu
- Rosario Dawson w serialowej adaptacji komiksu DC. Obejrzyj zwiastun „DMZ”
Newsy
Rosario Dawson w serialowej adaptacji komiksu DC. Obejrzyj zwiastun „DMZ”
zobacz playlisty
-
Seria archiwalnych koncertów Metalliki
07
Seria archiwalnych koncertów Metalliki
-
Music Stories PYD 2020
02
Music Stories PYD 2020
-
Papaya Young Directors 7 #MASTERTALKS
18
Papaya Young Directors 7 #MASTERTALKS
-
05