Bunt maszyn odwołany! Sztuczna inteligencja Facebook’a, która stworzyła własny język, jednak nam nie zagraża.

Grzegorz Dudek
Grzegorz Dudek
07.08.2017

Jakiś czas temu świat obiegły informacje, że należąca do Facebook’a sztuczna inteligencja, wykreowała własny język. Nie trudno się domyślić, że w konsekwencji internet został dosłownie zalany przez dziesiątki alarmujących artykułów.
Po głębszej analizie całej sytuacji wniosek może być jednak tylko jeden. Bunt sztucznej inteligencji, na miarę przedstawionego w serialu Battlestar Galactica, jak na razie nam nie grozi.

Poniżej zamieszczam fragment rozmowy, którą prowadziły ze sobą, należące do Facebook’a boty.

„Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to
Bob: you i i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to”

Jak nietrudno zauważyć powyższa konwersacja opiera się na języku angielskim, jednak zrozumienie sensu poszczególnych wypowiedzi przysparza wiele trudności. Zadaniem botów było przeprowadzenie negocjacji dotyczących podziału przedmiotów takich jak książki, czy piłki między siebie.
Podczas przygotowywania zadania zapomniano jednak nakazać botom, by porozumiewały się w zrozumiałym dla ludzi języku. W konsekwencji maszyny zaczęły posługiwać się skrótami.
Celem eksperymentu było stworzenie bota, który uczyłby się od rozmówcy technik negocjacyjnych, tak by ten w konsekwencji nie mógłby się zorientować, że w rzeczywistości rozmawia z maszyną. To właśnie dzięki umiejętności wzajemnego uczenia się, roboty były w stanie wykreować system skrótów, którym następnie zaczęły się posługiwać.

Wbrew twierdzeniom, które pojawiały się w internecie, rozmowa pomiędzy robotami wcale nie została przerwana w wyniku paniki badaczy. Jak wyjaśnił członek zespołu, eksperyment został zakończony, gdyż naukowcom zależało na stworzeniu botów, które są w stanie porozumiewać się z ludźmi. W przypadku powyższych maszyn byłoby to znacznie utrudnione.

W tym miejscu mogę oficjalnie stwierdzić, że bunt maszyn został odwołany. Z powyższej historii można wyciągnąć jednak kilka wniosków. Przede wszystkim należy zwrócić uwagę na potencjał uczenia maszynowego, które jak pokazuje powyższa sytuacja, prężnie się rozwija. Po drugie nie można nie zauważyć ciagłego rozszerzania działalności Facebook’a, który już dawno przestał być „zwykłym” portalem społecznościowym.

Można być właściwie pewnym, że w najbliższym czasie nie spełni się scenariusz świata zdominowanego przez inteligentne maszyny. Rzeczywistością może stać się jednak inna wizja – świata zdominowanego przez wielkie korporacje. 

źródło: fastcodesign.comthenextweb.com, Dhruv Batra – Facebook, gizmodo.com,

 

  • whomanista

    No ciekawe, tylko warto pamiętać, że tzw sztuczna inteligencja, wcale nie jest inteligentna. Wiele lat temu, ze względów marketingowych (i pewną tajemniczość komputerów dla zwykłych ludzi) zaczęto używać zwrotu ,,sztuczna inteligencja”. Natomiast definicja inteligencji brzmi tak – Jest to proces rozumienia zależności zachodzących w środowisku i swojego miejsca w nim. Te wszystkie ,,inteligentne” maszyny i boty są po prostu maszynami wirtualnymi lub rzeczywistymi, które mają wypełniać zadane im algorytmy. I to wszystko. To takie nadymanie balonika zainteresowania opinii publicznej. Podobnie w Polsce zazwyczaj angielskie słowo smart tłumaczy się na ,,mądry”. Jakby spryt miał coś wspólnego z mądrością. Zwykły bałagan semantyczny.

    • t.a.s.

      „Proces rozumienia zależności” można sprowadzić (i tak się najczęściej robi) do „znajomości ciągu przyczynowo-skutkowego”. W tym sensie udaje się stworzyć program, który jest w stanie bez problemu z większością ludzi wygrać w szachy. Taka gra to dla maszyny ciąg przyczynowo-skutkowy: ruch przeciwnika –> odpowiedz takim (takimi) ruchem (ruchami).

      Pytanie jest o zakres rozumianych zależności. Człowiek sam z siebie nie rozumie wszystkiego, z tego, co go otacza (a nawet w sobie). Tym bardziej nie sądzę, żeby udało się to maszynie (programowi). W kwestiach bardziej złożonych (niż gra), gdzie do zrozumienia zależności potrzeba jest ujęcia większej liczby składowych elementów (samych w sobie nieprzewidywalnych i o wielorakiej możliwości interpretacji) maszyna będzie mieć zawsze problem. Taką złożoną kwestią jest chociażby komunikacja międzyludzka – jedno z najwyższych osiągnięć ewolucyjnych gatunku homo sapiens. Na nią nie składają się same słowa – potrzebne jest odczytywanie kontekstu kulturowego, zdaniowego (słownego), mimiki rozmówcy, jego emocjonalności itp.

      „Rozumienie swojego miejsca w środowisku” – człowiekowi może sprawiać problem odpowiedź na pytanie: gdzie jest moje miejsce na ziemi i jaka jest moja rola, znaczenie, zadanie, czyli po co jestem (tu gdzie jestem). Nadanie celowości (czy też sensowności) istnienia maszynie wydaje się dużo prostsze – ona nie będzie pytać o sens swojego zadania, nie będzie go podważać, negować, zaprzeczać mu. Ludzka możliwość zmieniania celu, nadawania nowego sensu swojemu istnieniu związana jest z samostanowieniem o sobie (człowieka), ze świadomością siebie samego, umiejętnością transcendowania siebie. Tu więc się z Tobą zgodzę, że do inteligencji potrzebna jest świadomość. I to mocno rozwinięta.

      Tym samym uważam, że komputerom, botom, maszynom daleko, bardzo daleko jest do „bycia inteligentnym”.

      • DM

        W skrocie mozg czlowieka > maszyna. Dlatego, jak dluzej sie zastanowic to czlowiek jest cudownym bytem.

  • liquid12

    Teraz czekamy na ekranizację. Facebook: Judgement day. Johna Connora zagra Zuckenberg 🙂

  • Mong
  • civil

    Biorąc pod uwagę kryteria blokowania profili na fb oni mają od dawna własny „język” oraz „inteligencję” i puki nie ma alternatywy to gorzej dla logicznie myślących