Newsy |

Algorytm Google’a nie będzie już analizował zdjęć pod kątem płci21.02.2020

źródło: pexels.com

Cloud Vision API to rodzaj interfejsu, który korzysta z tzw. big data, czyli dużych zbiorów danych i pozwala zrozumieć treść obrazu lub odczytywać zawartą w nim treść.

Oparty na sztucznej inteligencji algorytm skupia się na samodzielnym segregowaniu i tagowaniu obrazów i zdjęć. Identyfikuje je na przykład pod kątem zawartości logotypów marek, gatunków występujących zwierząt, miejsc, przedmiotów, ich faktury i innych cech charakterystycznych. Program jest zdolny opisywać także osoby znajdujące się na fotografiach. Od tej pory nie będzie jednak definiował ich płci, a każdy człowiek zostanie sklasyfikowany przez program nie jako „kobieta” lub „mężczyzna” tylko jako „osoba”.

Etykiety programu API
Etykiety programu API

W wiadomości, którą gigant technologiczny wysłał do swoich partnerów w czwartek rano pojawiło się wyjaśnienie decyzji o nietagowaniu zdjęć pod kątem płci. Słowa przytacza „Business Insider”. Zdaniem Google’a, nie da się określić płci danej osoby wyłącznie na podstawie jej wyglądu, ponieważ może się to wiązać z uprzedzeniami i zbyt daleko posuniętymi wyobrażeniami.

Interpretacje i wnioski sztucznej inteligencji to wciąż szeroko dyskutowany temat. Najbardziej kontrowersyjnym zagadnieniem są w nim błędne dane treningowe, na których uczy się program. Stereotypowe dane, sprofilowane pod jednym kątem, nie uwzględniające różnorodności świata i punktów widzenia, mogą spowodować, że algorytm na ich podstawie wyciągnie błędne wnioski.

Ciekawe są też spostrzeżenia badaczy z z University of Washington, którzy korzystali z bazy danej przystosowanej do rozpoznawania sytuacji, imSitu, oraz systemu rozpoznawania obrazów COCO. Jako przykład sygnalizujący problem przedstawili oni dwa, wydawałoby się neutralne przedmioty – łyżeczkę i rakietę tenisową. Pierwszy, obok innych sztućców i kuchennych przyrządów, jest przez algorytm mocniej kojarzony z kobietą, podczas gry drugi, zaliczany do sprzętu sportowego, przynależy rzekomo do świata mężczyzn. Wszystko dlatego, że wytrenowany algorytm znajdował o 33 proc. więcej fotografii gotujących kobiet, niż mężczyzn. Nakarmiony dużą ilością tak sprofilowanych danych system w 68 proc. był bardziej skłonny znaleźć w kuchni kobietę nawet, gdy była ona łysiejącym mężczyzną.

/ @papaya.rocks

zobacz także

zobacz playlisty