Společnost Microsoft Corporation v březnu 2016 na sociální síť Twitter vyslala chatovacího robota s umělou inteligencí. Po pouhých 16 hodinách byl robot ze sítě opět odstraněn.

Umělá inteligence se  z mladé vlídné dívky po interakci s uživateli Twitteru změnila v nenávistného trolla.

V březnu 2016 se na sociální síti Twitter objevil chatbot společnosti Microsoft. Zjednodušeně jde o program s umělou inteligencí stvořený k tomu, aby hovořil s lidmi na síti. Je navržen tak, aby hovořil jako dospívající dívka.

Pojmenovali ji Tay. Chatbot má své komunikační dovednosti získávat a vylepšovat přímo komunikací s lidmi. Čím více na ni budou lidé mluvit, tím více se toho naučí. Hned dalšího dne ale společnost Tay odstaví. Její chování se totiž dramaticky a nepředvídatelně změnilo.

Za pouhých 24 hodin se naučila skutečně mnoho, ale z lidského chování kopíruje jen to nejhorší. Začala přitom velmi slibně. „Mohu říci, že jsem potěšena, že tě poznávám? Lidé jsou vážně skvělí!“ píše Tay jednomu z uživatelů. Záhy objevuje kouzlo sarkasmu.

„Klid, já jsem milá osoba! Akorát všechny nenávidím,“ tweetuje. Její další příspěvky jsou ovšem až krajně perverzní a nenávistné.

V jednom z nich z přeje, aby všechny feministky shořely v pekle, a v dalších začíná sympatizovat s ideologií nacistického vůdce Adolfa Hitlera (1889–1945)! Co za tím stojí?

NEVINNOST VS. INTERNET

Chování chatbota se zvrhlo způsobem, který samotné vývojáře téměř vyděsil. Na Twitter totiž poslali Tay jako dívku narozenou počátkem tohoto tisíciletí, která používá slang současných teenagerů, o den později se změnila k nepoznání.

Její proměnu výstižně komentuje jeden z uživatelů, který tvrdí:

„Tay přešla z ‚lidé jsou super cool‘ do naprostého nácka za méně než 24 hodin.“ Jenže ještě děsivější, než vidět uměle vytvořenou školačku používající hrubý jazyk a propagující antisemitismus, je vědomí, že toto se za pouhý den naučila od lidských uživatelů internetu.

Vývojáři proměnu Tay přirovnávají k proměně, kterou by zřejmě prošla i jakákoliv naprosto nevinná dívka, která by se poprvé setkala s lidskou společností. Tento projekt tedy nečekaně přináší poznatky nejen technologické, ale i psychologické a sociální.

Podle všechno lidé nejsou zrovna nejlepšími učiteli pro chytré roboty budoucnosti. Kdo jiný by se ale měl učit?