19 lutego 2019, Wojciech Kulik

Stworzyli tak dobry algorytm SI, że aż go nie udostępnią - OpenAI

Kategoria: Ciekawostki Nauka, Tematyka: Na Topie sztuczna inteligencja

Naukowcy z organizacji OpenAI po raz pierwszy podjęli decyzję o nieudostępnianiu stworzonego przez siebie algorytmu. Sztuczna inteligencja okazała się zbyt dobra.

OpenAI to (wspierana przez Elona Muska) organizacja non-profit rozwijająca sztuczną inteligencję pod takim kątem, by technologia mogła zaoferować praktyczne korzyści wszystkim ludziom. Ostatecznie (zgodnie z nazwą) zamierzała udostępniać publicznie swoje rozwiązania, aby osiągnąć wspomniany przed momentem cel. „Zamierzała”, bo częściowo zrezygnowała z tych planów. Powód? Stworzyła coś, co ją przeraziło.

Zbyt wielkie ryzyko

Naukowcy stojący za projektem OpenAI – jak czytamy na łamach The Guardian – zaprojektowali tak zaawansowany algorytm sztucznej inteligencji, że aż zaczęli się obawiać tego, jakie konsekwencje mogłoby nieść ze sobą jego udostępnienie i wykorzystanie. Mając na celu troskę o nasze wspólne bezpieczeństwo, podjęła decyzję o zmianie planów.

Algorytm nazywa się GPT2 i jest częścią większego systemu służącego do błyskawicznego identyfikowania fake newsów. On sam jest w stanie tworzyć własne wiadomości i jest w tym – jak przekonują naukowcy – tak dobry, że poziom manipulatorstwa i zakrzywiania rzeczywistości mógłby stać się tak duży, że aż stanowiłoby to realne zagrożenie dla społeczeństwa. 

(Za) dobry generator tekstu

Wyszkolony na około 10 milionach artykułów i publikowanych pod nimi komentarzach algorytm jest w stanie przerabiać autentyczne wiadomości na fałszywe i tworzyć zupełnie nowe teksty (które brzmią realistycznie, ale nie są prawdziwe), ale też na przykład dokańczać dzieła literackie. Innymi słowy: jest to generator tekstu o nadzwyczaj wysokim poziomie. 

GPT2 to pierwszy algorytm sztucznej inteligencji opracowany przez OpenAI, który został „zamknięty” ze względu na to, że okazał się zbyt dobry. Poprzednie twory grupy zostały uznane za zgodne z zasadami etycznymi i moralnymi, a następnie „uwolnione” i dziś są wykorzystywane między innymi w rozmaitych ośrodkach badawczych. 

Źródło: The Guardian, inf. własna. Ilustracja: TheDigitalArtist/Pixabay

Komentarze

  • levusek1992, #

    Kiedyś dostaniemy ostro po tyłku przez SI. Ja na studiach już mocno oberwałem przez Sztuczną Inteligencje. Powtarzałem rok.

  • victordeleco2, #

    A ja napisałem licencjat ze sztucznej inteligencji. Stworzyłem własną sieć neuronową. Nie polecam :)

  • kitamo, #

    a teraz siedzisz na BMK i grasz w gierki :)

  • Anonim20, #

    kitamo, konsolowy plebsie wstawaj zesrałaś się jeleniu.

  • kitamo, #

    Ja jestem tak dobry w lekkoatletyce że odpusciłem sobie zupełnie olimpiade. To załamało by wielu innych zawodników.

  • drfrank3nstein, #

    Niech wypuszczą, to może portale od "newsów" zaczną pisać krótko i do rzeczy, a nie jakieś wodolejstwo.

  • Michał 06, #

    już żydzi będą wiedzieli co z tym zrobić ;)

  • sn00p, #

    "Stworzyli tak dobry algorytm SI, że aż go nie udostępnią" Wojtek zlituj się! Wiem że w tym konkretnym przypadku "gimbaza" wie o co chodzi ale.... miej litość!!!

  • Kapitan Nocz, #

    o matko, to SI chyba wyłączyli po tym jak wygenerowało tego niusa :) Po jaką chol#$, ktoś w programie do identyfikacji fałszywych niusów dodaje funkcję ich tworzenia ?! To jak by Allegro opracowało algorytm do wyłapywania nieuczciwych sprzedawców a on sam zaczął handlować i wystawiać lewe aukcje :) Kolejny raz ludzie pokazują, że z inteligencją nie mają dużo wspólnego...

  • BrumBrumBrum, #

    po prostu to SI wygenerowało kolejne 100 niby artykułów click bajtów na temat galaxy S10+ :) i ..... niesamowitych właściwościach pudełka w które zostanie zapakowany :D

  • skypan, #

    Zastanawia mnie ja AI poradziło by sobie z j.polskim ? Ponoć mamy jeden z trudniejszych języków do ogarnięcia. A słowo kurva ma tyle kontekstów, ze już sami się gubimy :)

  • axelbest, #

    No kuFra!!

  • Kapitan Nocz, #

    no Polacy uwielbiają popadać w samozachwyt nad swoimi walorami, polski język jest tak masakratycznie trudny, że powinni znieść maturę z polskiego a już najlepszym wyznacznikiem jego trudności jest obecna polska dyplomacja, która ni jak nie potrafi się z zadnym innym narodem dogadać haha

  • Grundi, #

    Brzmi to trochę jak :

    Zrobiliśmy coś tak dobrego, że podbijame stawkę i sprzedamy to tylko na czarnym rynku za grube kokosy :D

  • kitamo, #

    Jakby go wypuścili to na BMK wycieło by połowę artykułów.

  • Makkk, #

    Bardziej przeraża mnie wizja wytworzenia samoświadomości takiej SI. Aczkolwiek kompletnie się na tym nie znam i nie wiem, czy jest to możliwe.

  • xxx.514, #

    Ostrożnie stwierdzę, iż nie bezpośrednio. Raczej będzie rozwijać się to w ten sposób, że ludzie stworzą proto-SI, a te z kolei stworzy ulepszoną wersję siebie. Ten twór mógłby już skomponować pełne SI z lub bez wiedzy ludzi. Ale to tylko gdybania - dowiemy się, gdy T-1000 zapuka do drzwi metaforycznie to ujmując.

  • mgkiler, #

    Samoświadome SI, czy SI obdarzone świadomością - to raczej wytwór Sci-Fi.

  • rbialo, #

    Pamiętam czasy, gdy np. zapis danych na czymś w rozmiarze obecnych kart pamięci był uznawany za wytwór SciFi, także wiesz...

Dodaj komentarz

Dodawanie komentarzy tylko w wersji dla PC. Już wkrótce wersja mobilna.

Nie przegap

Szanowny Czytelniku.

Aby dalej móc dostarczać Ci materiały redakcyjne i udostępniać nasze usługi, pozostając w zgodzie z zasadami RODO, potrzebujemy również zgody na ewentualne dopasowywanie treści marketingowych do Twojego zachowania. Dbamy o Twoją prywatność. Nie zwiększamy zakresu naszych uprawnień. Twoje dane są u nas bezpieczne, a zgodę możesz wycofać w każdej chwili na podstronie polityka prywatności. Dowiedz się więcej.