4 sierpnia 2018, Wojciech Kulik

Ludzie manipulowani przez roboty

Kategoria: Ciekawostki Nauka, Tematyka: Na Topie roboty i cyborgi sztuczna inteligencja

Czy jesteście absolutnie pewni tego, co byście zrobili w sytuacji, gdy robot do złudzenia przypominający człowieka, poprosiłby was, żebyście go (błagam, błagam) nie „zabijali”?

Człowiek to w gruncie rzeczy istota emocjonalna. Czy sztuczne, odtwarzane przez roboty emocje również jednak mogą na niego zadziałać? Czy ludzie mogą wręcz być manipulowani przez maszyny? 

Jeśli nie macie w planach oglądania serialu Dobre miejsce (The Good Place), to obejrzyjcie poniższy klip:

Czy myślicie, że w rzeczywistości też mogłaby mieć miejsce taka sytuacja, w której robot „gra na emocjach” człowieka? Naukowcy postanowili to zbadać.

Czy człowiek da się zmanipulować robotowi?

W 2007 roku zespół naukowców przeprowadził ciekawy eksperyment: uczestnicy badania zostali poproszeni o wyłączenie robota przypominającego kota. W momencie, gdy próbowali to zrobić, maszyna błagała ich, aby zmienili zdanie. 

Ostatnio badacze z niemieckiego Uniwersytetu Duisburg-Essen powtórzyli eksperyment, zapraszając niespełna 90 ochotników. Dodatkowym uczestnikiem był interaktywny, humanoidalny robot Nao, a zadanie miało polegać na tym, by ludzie pomogli mu stać się bardziej „inteligentnym”. 

Robot oko

Po wykonaniu kilku „ćwiczeń” polegających głównie na rozmowie z robotem naukowiec prowadzący eksperyment prosił ochotników o wyłączenie humanoida, ale ten wtedy zaczynał błagać, by tego nie robić. Nie tylko mówił, ale też pracował swoim „ciałem”, by utrzymać się przy „życiu”. 

Co zrobi człowiek, gdy robot poprosi go o litość?

Jakie są wyniki? Okazało się, że wszystkie osoby, które zostały poproszone przez robota o litość, przynajmniej na moment wstrzymały się od wciśnięcia przycisku zasilania. Większość ostatecznie zrobiła to, o co poprosił ich badacz, ale prawie co trzeci ochotnik odmówił wyłączenia Nao (mówiącego, że boi się, że się nie obudzi).

Robot Wall-E

Dlaczego część ludzi wysłuchała prośby robota, a nie człowieka prowadzącego badanie? Gdy zostali o to zapytani, jedni odpowiadali, że podjęli taką decyzję tylko dlatego, że robot o to poprosił, ale nie kierowali się emocjami, inni wręcz przeciwnie – przyznali, że było im przykro albo też obawiali się reakcji maszyny.

Niebezpieczna skłonność do „antropomorfizacji” robotów

Według naukowców jest to dowód na to, że ludzie mają bardzo silną skłonność do „antropomorfizacji” robotów, czyli przypisywania im cech ludzkich. W efekcie występuje olbrzymie ryzyko, że człowiek może paść ofiarą emocjonalnej manipulacji dokonanej przez rozwiniętą sztuczną inteligencję.

Jeśli naukowcy mają rację, to jest to dla nas bardzo zła wiadomość. Nie od dzisiaj eksperci przestrzegają przed możliwością wystąpienia „buntu maszyn”, w wyniku którego roboty ze sztuczną inteligencją w środku mogą obrócić się przeciwko „właścicielom”.

Robot przycisk

Firma Google tworzy nawet „czerwony przycisk”, który ma unieszkodliwić „niesubordynowane” roboty. I może ma rację, a może to tylko obawy przed nieznanym. Tak czy inaczej, wyniki badania przeprowadzonego w Niemczech skłaniają do myślenia.

Ale teoria „równania medialnego” znana jest od dziesięcioleci 

Nie jest to jednak nic całkowicie nowego. Trzeba mieć bowiem świadomość, że teoria „równania medialnego” (ang. Media Equation) znana jest od dekad. Głosi ona, że ludzie mają tendencję do traktowania komputerów i innych urządzeń jak ludzi. Zresztą możecie to znać.

Robot dłonie

Zdarzyło wam się kiedyś podziękować w duchu smartfonowi za to, że nie odmówił współpracy, gdy naprawdę wam się spieszyło, dodać „proszę” podczas wydawania poleceń wirtualnemu asystentowi albo przekonywać samego siebie, że ten pecet chodzi tak wolno tylko po to, żeby zrobić wam na złość? A może po prostu czuliście przywiązanie do bohaterów znanych z telewizji?

To właśnie przykłady nietypowego „socjalizowania się” – „równania medialnego” i „interakcji paraspołecznej”. Problem polega jednak na tym, że nauczyliśmy się tak funkcjonować w czasach, gdy maszyny nie opierały się jak dzisiaj na (może i niezbyt rozwiniętej, ale jednak) sztucznej inteligencji, a tak łatwo od swoich przyzwyczajeń się nie uwolnimy.

Źródło: TechXplore, Futurism, Newsweek, inf. własna. Ilustracje: Pixabay (CC0) - ColiN00B, intographics, tookapic, OpenClipart-Vectors, TheDigitalArtist

Komentarze

  • miedzianek, #

    Ludzie dają się manipulować władzy, to mają nie dać się robotom manipulować? Tym bardziej 'ludzkim' robotom?

  • .Alx., #

    Roboty w przyszłości będą mieć więcej praw niż ludzie...

    Jeszcze ich (prawie) nie ma, a już przyznaje im się obywatelstwo jak Sophii w Arabii Saudyjskiej. Ten humanoidalny robot o fizjonomii kobiety ma tam większe prawa niż "żywe odpowiedniki"...

    Faktem jest, że współczesny świat rządzi się emocjami, zamiast rozumem, a tymi naprawdę łatwo manipulować.
    Starach się bać jakie pole do popisu będą mieli w niedalekiej przyszłości "geniusze" od "poprawności politycznej".

  • Lister, #

    I pomyśleć, że dziś zrobiłem sobie powtórkę z "Ex Machina"...
    Tam SI nie błagała o litość, tylko wzięła sprawy w swoje mechaniczne łapy, między innymi... może ktoś nie oglądam, to nie będę spoilerował :)

  • TicTac, #

    Dokładnie o tym samym filmie pomyślałem :).. Ale z drugiej strony to Walle-go bym nie wyłączył ;)

  • kobold, #

    Nie wyłączył byś ponieważ zarówno Pixar jak i specjaliści od Disneya to arcy mistrzowie w dziedzinie sterowania emocjami. Podczas oglądania ich produkcji będziesz płakał, złościł się lub śmiał dokładnie wtedy kiedy tego zechcą ;-)

Dodaj komentarz

Dodawanie komentarzy tylko w wersji dla PC. Już wkrótce wersja mobilna.

Nie przegap

Szanowny Czytelniku.

Aby dalej móc dostarczać Ci materiały redakcyjne i udostępniać nasze usługi, pozostając w zgodzie z zasadami RODO, potrzebujemy również zgody na ewentualne dopasowywanie treści marketingowych do Twojego zachowania. Dbamy o Twoją prywatność. Nie zwiększamy zakresu naszych uprawnień. Twoje dane są u nas bezpieczne, a zgodę możesz wycofać w każdej chwili na podstronie polityka prywatności. Dowiedz się więcej.