Společnost Microsoft Corporation v březnu 2016 na sociální síť Twitter vyslala chatovacího robota s umělou inteligencí. Po pouhých 16 hodinách byl robot ze sítě opět odstraněn.
Umělá inteligence se z mladé vlídné dívky po interakci s uživateli Twitteru změnila v nenávistného trolla.
V březnu 2016 se na sociální síti Twitter objevil chatbot společnosti Microsoft. Zjednodušeně jde o program s umělou inteligencí stvořený k tomu, aby hovořil s lidmi na síti. Je navržen tak, aby hovořil jako dospívající dívka.
Pojmenovali ji Tay. Chatbot má své komunikační dovednosti získávat a vylepšovat přímo komunikací s lidmi. Čím více na ni budou lidé mluvit, tím více se toho naučí. Hned dalšího dne ale společnost Tay odstaví. Její chování se totiž dramaticky a nepředvídatelně změnilo.
Za pouhých 24 hodin se naučila skutečně mnoho, ale z lidského chování kopíruje jen to nejhorší. Začala přitom velmi slibně. „Mohu říci, že jsem potěšena, že tě poznávám? Lidé jsou vážně skvělí!“ píše Tay jednomu z uživatelů. Záhy objevuje kouzlo sarkasmu.
„Klid, já jsem milá osoba! Akorát všechny nenávidím,“ tweetuje. Její další příspěvky jsou ovšem až krajně perverzní a nenávistné.
V jednom z nich z přeje, aby všechny feministky shořely v pekle, a v dalších začíná sympatizovat s ideologií nacistického vůdce Adolfa Hitlera (1889–1945)! Co za tím stojí?
![Experiment na Twitteru se rychle vymkl kontrole, foto Pixabay](https://enigmaplus.cz/wp-content/uploads/2022/11/twitter-1795652-1920-768x513.jpg)
NEVINNOST VS. INTERNET
Chování chatbota se zvrhlo způsobem, který samotné vývojáře téměř vyděsil. Na Twitter totiž poslali Tay jako dívku narozenou počátkem tohoto tisíciletí, která používá slang současných teenagerů, o den později se změnila k nepoznání.
Její proměnu výstižně komentuje jeden z uživatelů, který tvrdí:
„Tay přešla z ‚lidé jsou super cool‘ do naprostého nácka za méně než 24 hodin.“ Jenže ještě děsivější, než vidět uměle vytvořenou školačku používající hrubý jazyk a propagující antisemitismus, je vědomí, že toto se za pouhý den naučila od lidských uživatelů internetu.
Vývojáři proměnu Tay přirovnávají k proměně, kterou by zřejmě prošla i jakákoliv naprosto nevinná dívka, která by se poprvé setkala s lidskou společností. Tento projekt tedy nečekaně přináší poznatky nejen technologické, ale i psychologické a sociální.
Podle všechno lidé nejsou zrovna nejlepšími učiteli pro chytré roboty budoucnosti. Kdo jiný by se ale měl učit?
![Profilový obrázek Tay na Twitteru, foto Microsoft / Creative Commons / Fair use](https://enigmaplus.cz/wp-content/uploads/2022/11/tay-bot-logo.jpg)