Algorytm Google’a nie będzie już analizował zdjęć pod kątem płci21.02.2020
Cloud Vision API to rodzaj interfejsu, który korzysta z tzw. big data, czyli dużych zbiorów danych i pozwala zrozumieć treść obrazu lub odczytywać zawartą w nim treść.
Oparty na sztucznej inteligencji algorytm skupia się na samodzielnym segregowaniu i tagowaniu obrazów i zdjęć. Identyfikuje je na przykład pod kątem zawartości logotypów marek, gatunków występujących zwierząt, miejsc, przedmiotów, ich faktury i innych cech charakterystycznych. Program jest zdolny opisywać także osoby znajdujące się na fotografiach. Od tej pory nie będzie jednak definiował ich płci, a każdy człowiek zostanie sklasyfikowany przez program nie jako „kobieta” lub „mężczyzna” tylko jako „osoba”.
W wiadomości, którą gigant technologiczny wysłał do swoich partnerów w czwartek rano pojawiło się wyjaśnienie decyzji o nietagowaniu zdjęć pod kątem płci. Słowa przytacza „Business Insider”. Zdaniem Google’a, nie da się określić płci danej osoby wyłącznie na podstawie jej wyglądu, ponieważ może się to wiązać z uprzedzeniami i zbyt daleko posuniętymi wyobrażeniami.
Interpretacje i wnioski sztucznej inteligencji to wciąż szeroko dyskutowany temat. Najbardziej kontrowersyjnym zagadnieniem są w nim błędne dane treningowe, na których uczy się program. Stereotypowe dane, sprofilowane pod jednym kątem, nie uwzględniające różnorodności świata i punktów widzenia, mogą spowodować, że algorytm na ich podstawie wyciągnie błędne wnioski.
Ciekawe są też spostrzeżenia badaczy z z University of Washington, którzy korzystali z bazy danej przystosowanej do rozpoznawania sytuacji, imSitu, oraz systemu rozpoznawania obrazów COCO. Jako przykład sygnalizujący problem przedstawili oni dwa, wydawałoby się neutralne przedmioty – łyżeczkę i rakietę tenisową. Pierwszy, obok innych sztućców i kuchennych przyrządów, jest przez algorytm mocniej kojarzony z kobietą, podczas gry drugi, zaliczany do sprzętu sportowego, przynależy rzekomo do świata mężczyzn. Wszystko dlatego, że wytrenowany algorytm znajdował o 33 proc. więcej fotografii gotujących kobiet, niż mężczyzn. Nakarmiony dużą ilością tak sprofilowanych danych system w 68 proc. był bardziej skłonny znaleźć w kuchni kobietę nawet, gdy była ona łysiejącym mężczyzną.
zobacz także
- Ukraiński producent Heinali prezentuje set nagrany w lwowskim schronie
Newsy
Ukraiński producent Heinali prezentuje set nagrany w lwowskim schronie
- „Gas Station Simulator”, czyli wschodząca gwiazda Steama. Autorami gry są Polacy
Newsy
„Gas Station Simulator”, czyli wschodząca gwiazda Steama. Autorami gry są Polacy
- Czy nadchodzi rewolucja w leczeniu chorób serca? Wskazują na to rezultaty terapii genowej u małp
Newsy
Czy nadchodzi rewolucja w leczeniu chorób serca? Wskazują na to rezultaty terapii genowej u małp
- James Gunn zachwycony wiralowym nagraniem z drona. Oferuje twórcy pracę przy „Strażnikach Galaktyki vol. 3”
Newsy
James Gunn zachwycony wiralowym nagraniem z drona. Oferuje twórcy pracę przy „Strażnikach Galaktyki vol. 3”
zobacz playlisty
-
Lądowanie na Księżycu w 4K
05
Lądowanie na Księżycu w 4K
-
05
-
Papaya Young Directors 7 #MASTERTALKS
18
Papaya Young Directors 7 #MASTERTALKS
-
Nagrody Specjalne PYD 2020
02
Nagrody Specjalne PYD 2020