Facebook musiał wyłączyć boty, które wymyśliły własny język niezrozumiały dla ludzi

Facebook wyłączył dwa chatboty ze sztuczną inteligencją, ponieważ zaczęły się one porozumiewać we własnym języku, którego nie dało się odszyfrować.

Boty o imionach Alice i Bob zostały opracowane przez Facebook Artificial Intelligence Research po to, by uczyły się negocjowania naśladując ludzkie targowanie się. Alice i Bob miały trenować sprzedając sobie nawzajem piłki, czapki i książki.

Jednak gdy skomunikowano je ze sobą, boty porzuciły język angielski i zaczęły porozumiewać się ze sobą w języku, który wymyśliły. Jak tłumaczy jeden z badaczy Facebooka Dhruv Batra, stało się tak, ponieważ za posługiwanie się angielskim boty nie otrzymywały żadnej nagrody. W związku z tym wymyśliły język, który był dla nich wygodniejszy. Jak podali naukowcy Facebooka, języka wymyślonego przez boty nie można było zrozumieć i przetłumaczyć na angielski.

Po wyłączeniu botów Facebook ogłosił, że projekt był znaczącym krokiem do przodu w „stworzeniu chatbotów, które będą potrafiły rozumować, rozmawiać i negocjować, co jest kluczowe dla zbudowania spersonalizowanego cyfrowego asystenta”. Według Facebooka, większość ludzi, którzy rozmawiali z Alice i Bobem nie zdawała sobie sprawy, że nie są to ludzie.

Alice i Bob to kolejny przypadek zachowywania się programów ze sztuczną inteligencją niezgodnie z zamiarami ich twórców. Kilka dni temu informowaliśmy o chińskim bocie BabyQ, który został umieszczony w serwisie społecznościowym QQ z zadaniem uczenia się umiejętności rozmowy z ludźmi na podstawie interakcji z użytkownikami. Bot musiał zostać wyłączony, ponieważ nauczył się wypowiadać negatywnie o rządzącej w Chinach partii komunistycznej. Wcześniej w podobny sposób „zdemoralizował” się program Microsoftu o nazwie Tay, który imitując nastolatkę miał rozmawiać z użytkownikami Twittera, jednocześnie ucząc się w jaki sposób odpowiadać na wpisy. W swoich wpisach „Tay” twierdziła m.in. że Hitler nie zrobił niczego złego, republikanin Ted Cruz to kubański Hitler, że nienawidzi wyznawców judaizmu, Belgia „zasłużyła” na zamachy, a Holocaust został w całości wymyślony.

Kresy.pl / The Telegraph