Generator tekstu oparty na sztucznej inteligencji. Twórcy boją się pokazać go światu15.02.2019

Organizacja non-profit OpenAI, wspierana m.in. przez Elona Muska oraz założyciela LinkedIn, Reida Hoffmana, odmówiła zaprezentowania wyników swoich badań nad sztuczną inteligencją. Naukowcy obawiają się, że opracowany przez nich genialny system zostanie użyty w niewłaściwy sposób. 

GPT2 to w dużej mierze generator tekstu. System sztucznej inteligencji, na którym bazuje,  przetwarza dostarczane mu treści, a następnie przewiduje, jak dalej powinna potoczyć się narracja. Jak podaje The Guardian, GPT2 jest w stanie tworzyć nową treść w sposób zbliżony do poprzedniej – zarówno pod względem tematyki, jak stylu pisania. Nie zdarzają mu się nagłe zmiany tematu, łamanie składni w przypadku zdań złożonych czy nagłe „zamyślenia”.

GPT2 testowali już m.in. dziennikarze Guardiana, którzy „nakarmili” go pierwszym zdaniem z Roku 1984 Orwella oraz redakcja Wired, gdzie GPT2 miał wymyślić coś na podstawie frazy „Hillary Clinton i George Soros”. W pierwszym przypadku sztuczna inteligencja stworzyła dziejącą się w przyszłosci powieść obyczajową, w drugim fałszywy polityczny wywód, pełen teorii spiskowych i wyssanych z palca oskarżeń. 

Już sam rozmiar bazy danych GPT2 robi wrażenie. Jak twierdzi kierujący badaniami firmy OpenAI Dario Amodei, system jest 12 razy większy i posiada 15 razy większą bazę od modelu AI uchodzącego do niedawna za najnowocześniejszy na świecie. GPT2 trenowany był na zbiorze zawierajacym ok. 10 milionów artykułów zassanych z portalu społecznościowego Reddit. Ogromna kolekcja analizowanego tekstu ważyła 40 GB (tyle co ok. 35 tys. kopii Moby Dicka).

Celem GPT2 nie jest wyłącznie produkowanie wyssanych z palca treści. Oprogramowanie może również wykonywać wyznaczone zadania, takie jak tłumaczenia, podsumowania, analizy czy wyciąganie wniosków. Często radzi sobie dużo lepiej i skuteczniej niż inne systemy sztucznych inteligencji skonstruowane specjalnie z myślą o tych konkretnych zadaniach.

Wysoka jakość generowanych przez GPT2 treści przeraziła jednak badaczy, którzy postanowili pozostawić na razie system za zamkniętymi drzwiami i przedyskutować konsekwencje użycia tego przełomowego wynalazku.  

Musimy przeprowadzić eksperymenty, aby dowiedzieć się wszystkiego o systemie. Jeśli nie możesz przewidzieć wszystkich możliwości danego modelu, musisz go popchnąć do określonych działań i zobaczyć, co potrafi. Na pewno są osoby, które chciałyby użyć go w bardziej złośliwych celach niż my. 

Jack Clark, OpenAI