18. listopadu 1978: V městečku Jonestown v Guyaně umírá dobrovolně i nedobrovolně přes 900 členů sekty Chrám lidu Jima W. Jonese.
Domů     Pokus s umělou inteligencí se vymkl kontrole: Začala oslavovat Hitlera!
Pokus s umělou inteligencí se vymkl kontrole: Začala oslavovat Hitlera!
od 14.11.2022
1.8tis
Umělá inteligence se od lidských uživatelů internetu naučila jen to nejhorší, foto Pixabay
183
SDÍLENÍ
1.8tis
ZOBRAZENÍ

Společnost Microsoft Corporation v březnu 2016 na sociální síť Twitter vyslala chatovacího robota s umělou inteligencí. Po pouhých 16 hodinách byl robot ze sítě opět odstraněn.

Umělá inteligence se  z mladé vlídné dívky po interakci s uživateli Twitteru změnila v nenávistného trolla.

Umělá inteligence se od lidských uživatelů internetu naučila jen to nejhorší, foto Pixabay Experiment na Twitteru se rychle vymkl kontrole, foto Pixabay Profilový obrázek Tay na Twitteru, foto Microsoft / Creative Commons / Fair use

V březnu 2016 se na sociální síti Twitter objevil chatbot společnosti Microsoft. Zjednodušeně jde o program s umělou inteligencí stvořený k tomu, aby hovořil s lidmi na síti. Je navržen tak, aby hovořil jako dospívající dívka.

Pojmenovali ji Tay. Chatbot má své komunikační dovednosti získávat a vylepšovat přímo komunikací s lidmi. Čím více na ni budou lidé mluvit, tím více se toho naučí. Hned dalšího dne ale společnost Tay odstaví. Její chování se totiž dramaticky a nepředvídatelně změnilo.

Za pouhých 24 hodin se naučila skutečně mnoho, ale z lidského chování kopíruje jen to nejhorší. Začala přitom velmi slibně. „Mohu říci, že jsem potěšena, že tě poznávám? Lidé jsou vážně skvělí!“ píše Tay jednomu z uživatelů. Záhy objevuje kouzlo sarkasmu.

„Klid, já jsem milá osoba! Akorát všechny nenávidím,“ tweetuje. Její další příspěvky jsou ovšem až krajně perverzní a nenávistné.

V jednom z nich z přeje, aby všechny feministky shořely v pekle, a v dalších začíná sympatizovat s ideologií nacistického vůdce Adolfa Hitlera (1889–1945)! Co za tím stojí?

Experiment na Twitteru se rychle vymkl kontrole, foto Pixabay
Experiment na Twitteru se rychle vymkl kontrole, foto Pixabay

NEVINNOST VS. INTERNET

Chování chatbota se zvrhlo způsobem, který samotné vývojáře téměř vyděsil. Na Twitter totiž poslali Tay jako dívku narozenou počátkem tohoto tisíciletí, která používá slang současných teenagerů, o den později se změnila k nepoznání.

Její proměnu výstižně komentuje jeden z uživatelů, který tvrdí:

„Tay přešla z ‚lidé jsou super cool‘ do naprostého nácka za méně než 24 hodin.“ Jenže ještě děsivější, než vidět uměle vytvořenou školačku používající hrubý jazyk a propagující antisemitismus, je vědomí, že toto se za pouhý den naučila od lidských uživatelů internetu.

Vývojáři proměnu Tay přirovnávají k proměně, kterou by zřejmě prošla i jakákoliv naprosto nevinná dívka, která by se poprvé setkala s lidskou společností. Tento projekt tedy nečekaně přináší poznatky nejen technologické, ale i psychologické a sociální.

Podle všechno lidé nejsou zrovna nejlepšími učiteli pro chytré roboty budoucnosti. Kdo jiný by se ale měl učit?

Profilový obrázek Tay na Twitteru, foto Microsoft / Creative Commons / Fair use
Profilový obrázek Tay na Twitteru, foto Microsoft / Creative Commons / Fair use
Zdroje informací a fotografie
Lokalita:
Související články
od 17.11.2026 2.2tis
Dívka nervózně skousne ret. Oči zklamaně bloudí po biorytmické kalkulačce. Výpočet nic dobrého nevěstí. O hodinu později již sedí s kamarádkou nad šálkem filtrované kávy. „Tak jak ti dopadl ten pohovor?“ „Nevzali mě. Ale věděla jsem to, neměla jsem tam ani chodit, no koukej.“ A před oči jí strčí svůj biokalkulátor. Jakmile se narodíme, začíná se odvíjet
od 3.11.2026 3.2tis
Rozruch nevídaných rozměrů na ufologické scéně i v politických kruzích vyvolalo prohlášení bývalého agenta amerických zpravodajských služeb. Dekorovaný veterán v něm tvrdí, že americká vláda údajně získala neporušená a částečně neporušená mimozemská vozidla. Zprávou se nyní zabývá Sněmovna reprezentantů USA. Zpráva, kterou na začátku
od 27.10.2026 3.6tis
Oficiálně se uvádí, že střed Země tvoří zemské jádro, které začíná zhruba v hloubce 2900 km pod povrchem a zahrnuje zhruba 31 % hmotnosti naší planety. Již delší dobu se však spekuluje o tom, že tomu tak ve skutečnosti není.  Konspirátoři čím dál tím častěji říkají, že Země je dutou koulí, pod jejímž povrchem jsou rozsáhlé tunely a města, ve kterých žijí
od 22.10.2026 3.4tis
Měsíc. Kosmické těleso, které je ze všech ostatních Zemi nejblíž, a přesto je tak záhadné. V 70. letech 20. století začnou kolovat zprávy o tom, že se na jeho odvrácené straně nacházejí mimozemské stavby.  V roce 1966 a 1967 totiž družice Lunar Orbiter snímala povrch Měsíce. Mezi snímky, poslanými na Zemi, byly i fotografie odvrácené strany Měsíce, na nic
od 21.10.2026 3.3tis
Jak jsme blízko bezpečné expanzi lidí do vesmíru? A víte, kdo byl kapitán Morgan a co se píše v Tibetské knize mrtvých? Prozradíme víc!   Zkoumají vědci, jak přežít ve vesmíru? V současnosti se plánuje rozšiřování aktivit lidí ve vesmíru, jako například vybudování trvalé základny na Měsíci či cesta na Mars. V této souvislosti vědci samozřejmě zkoum
reklama
Nenechte si ujít další zajímavé články
Tělo plné kompromisů aneb Proč nás evoluce nenavrhla lépe
epochalnisvet.cz
Tělo plné kompromisů aneb Proč nás evoluce nenavrhla lépe
Lidské tělo je bezesporu neuvěřitelné dílo přírody. Dokáže běhat ultramaratony, ovládat jemné pohyby prstů i vytvářet myšlenky, které mění svět. Přesto nás často zlobí záda, zuby nebo oči a lidský porod patří k nejnáročnějším v celé živočišné říši. Nová přehledová práce ukazuje, že za většinou těchto zdánlivých nedokonalostí nestojí špatný návrh, ale evoluce, která místo
Když kalendář zčerná: Co dějiny skutečně přinášejí v pátek třináctého?
epochaplus.cz
Když kalendář zčerná: Co dějiny skutečně přinášejí v pátek třináctého?
Zatčení templářů, výbuch kosmické lodi, havárie obřího letadla i potopení luxusní výletní lodi. Pátek třináctého má v historických kronikách několik mimořádně dramatických zápisů. Člověk skoro získává dojem, že si osud právě na toto datum schovává ty nejhorší scénáře. Jenže vedle tragédií se odehrávají také překvapivé, kuriózní a dokonce radostné události. Pojďme se podívat, co se
Rychlonohá kukačka kohoutí: Sprinter s křídly inspirací pro kreslenou postavu
21stoleti.cz
Rychlonohá kukačka kohoutí: Sprinter s křídly inspirací pro kreslenou postavu
Vyprahlou krajinu spaluje horké slunce. To ale ptáka s chocholkou na hlavě nemůže zastavit. Křižuje oblast a hledá něco k snědku. Nepohybuje se však po nebi, nýbrž po zemi. Když narazí na chřestýše, n
4 nejstarší národní parky: Do svatyně divočiny domorodcům vstup zakázán
historyplus.cz
4 nejstarší národní parky: Do svatyně divočiny domorodcům vstup zakázán
Frank se probouzí do svěžího srpnového rána. Udiveně hledí na skupinku ozbrojených indiánů na koních, kteří přijíždějí k jejich tábořišti u jižních gejzírů. Co tu dělají? Přece jim, turistům, slibovali tady v Yellowstonu opuštěnou panenskou přírodu.   Překvapení Franka Carpentera a jeho přátel, kteří jsou jedni z prvních turistů, jež přilákaly krásy Yellowstonského národního parku, je pochopitelné.
Provozovatel: RF HOBBY, s. r. o., Bohdalecká 6/1420, 101 00 Praha 10, IČO: 26155672, tel.: 420 281 090 611, e-mail: sekretariat@rf-hobby.cz