3. prosince 1967: Američan Herbert Schirmer spatří v Nebrasce podivný oválný objekt s červenými světly, jak se vznese a odletí.
Domů     Pokus s umělou inteligencí se vymkl kontrole: Začala oslavovat Hitlera!
Pokus s umělou inteligencí se vymkl kontrole: Začala oslavovat Hitlera!
od 14.11.2022
1.8tis
Umělá inteligence se od lidských uživatelů internetu naučila jen to nejhorší, foto Pixabay
183
SDÍLENÍ
1.8tis
ZOBRAZENÍ

Společnost Microsoft Corporation v březnu 2016 na sociální síť Twitter vyslala chatovacího robota s umělou inteligencí. Po pouhých 16 hodinách byl robot ze sítě opět odstraněn.

Umělá inteligence se  z mladé vlídné dívky po interakci s uživateli Twitteru změnila v nenávistného trolla.

Umělá inteligence se od lidských uživatelů internetu naučila jen to nejhorší, foto Pixabay Experiment na Twitteru se rychle vymkl kontrole, foto Pixabay Profilový obrázek Tay na Twitteru, foto Microsoft / Creative Commons / Fair use

V březnu 2016 se na sociální síti Twitter objevil chatbot společnosti Microsoft. Zjednodušeně jde o program s umělou inteligencí stvořený k tomu, aby hovořil s lidmi na síti. Je navržen tak, aby hovořil jako dospívající dívka.

reklama

Pojmenovali ji Tay. Chatbot má své komunikační dovednosti získávat a vylepšovat přímo komunikací s lidmi. Čím více na ni budou lidé mluvit, tím více se toho naučí. Hned dalšího dne ale společnost Tay odstaví. Její chování se totiž dramaticky a nepředvídatelně změnilo.

Za pouhých 24 hodin se naučila skutečně mnoho, ale z lidského chování kopíruje jen to nejhorší. Začala přitom velmi slibně. „Mohu říci, že jsem potěšena, že tě poznávám? Lidé jsou vážně skvělí!“ píše Tay jednomu z uživatelů. Záhy objevuje kouzlo sarkasmu.

„Klid, já jsem milá osoba! Akorát všechny nenávidím,“ tweetuje. Její další příspěvky jsou ovšem až krajně perverzní a nenávistné.

V jednom z nich z přeje, aby všechny feministky shořely v pekle, a v dalších začíná sympatizovat s ideologií nacistického vůdce Adolfa Hitlera (1889–1945)! Co za tím stojí?

Experiment na Twitteru se rychle vymkl kontrole, foto Pixabay
Experiment na Twitteru se rychle vymkl kontrole, foto Pixabay

NEVINNOST VS. INTERNET

Chování chatbota se zvrhlo způsobem, který samotné vývojáře téměř vyděsil. Na Twitter totiž poslali Tay jako dívku narozenou počátkem tohoto tisíciletí, která používá slang současných teenagerů, o den později se změnila k nepoznání.

Její proměnu výstižně komentuje jeden z uživatelů, který tvrdí:

„Tay přešla z ‚lidé jsou super cool‘ do naprostého nácka za méně než 24 hodin.“ Jenže ještě děsivější, než vidět uměle vytvořenou školačku používající hrubý jazyk a propagující antisemitismus, je vědomí, že toto se za pouhý den naučila od lidských uživatelů internetu.

reklama

Vývojáři proměnu Tay přirovnávají k proměně, kterou by zřejmě prošla i jakákoliv naprosto nevinná dívka, která by se poprvé setkala s lidskou společností. Tento projekt tedy nečekaně přináší poznatky nejen technologické, ale i psychologické a sociální.

Podle všechno lidé nejsou zrovna nejlepšími učiteli pro chytré roboty budoucnosti. Kdo jiný by se ale měl učit?

Profilový obrázek Tay na Twitteru, foto Microsoft / Creative Commons / Fair use
Profilový obrázek Tay na Twitteru, foto Microsoft / Creative Commons / Fair use
Foto: Pixabay, Creative commons
Lokalita:
reklama
Související články
od 1.12.2022 2.2tis
V polovině října se na Twitteru objevilo video, které zaznamenává přelet dvou zářících světel neznámého původu nad San Diegem v americké Kalifornii. Mimozemské teorie na sebe po zveřejnění klipu nenechaly dlouho čekat. Zajímavé záběry, které tento podzim na sociální síti Twitter zveřejnila uživatelka vystupující pod přezdívkou magot_e_dead, ukazují něco, co vypadá jako dva jasné objekty pohyb
od 28.11.2022 3.1tis
Dobývání vesmíru se stalo symbolem studené války, v níž bojuje USA se Sovětským svazem o technologickou nadvládu. Podle všeho ale boje probíhají také uvnitř znesvářených táborů. Vzájemná nevraživost firem podílejících se na americkém vesmírném programu měla skončit obrovskou tragédií. Mise Apollo 1 skončila ještě dřív, než vůbec mohla začít. Bezprostředně
od 25.11.2022 2.3tis
Na starověké Krétě prý bylo na sto minojských měst a dalších lokalit, které mohou nyní dosvědčit zázraky minojské civilizace. Některé se změnily v turisty vyhledávané archeologické parky, jiné provázejí legendy o tajných vykopávkách a záhadných nálezech. Do druhé skupiny patří krétská lokalita Tsoutsouras a tamní jeskyně Eileithyia. Jeskyně Eileith
od 24.11.2022 3.3tis
Když se raketoplán Challenger odlepí 28. ledna roku 1986 od země, to, co následuje, si nikdo neumí představit ani v těch nejčernějších nočních můrách. Anebo může? Přesně v 11.38 se zažehnou motory, aby mohl Challenger konečně vzlétnout. Velká sláva ale trvá pouhých 73 sekund. Potom náhle raketoplán exploduje a rozpadne se. V kabině, která se roztříští o mořskou hladinu, zahyne celá posádka. [ga
od 23.11.2022 2.8tis
Stále aktivní vulkán Merapi na indonéském ostrově Jáva má pro místní obyvatele velký význam i jako mytické a spirituální místo. Není tedy divu, že záhadný jev, který se před rokem objevil na vrcholu hory, je stále předmětem diskuzí. O co  se jednalo? V květnu roku 2021 se jednomu pohotovému fotografovi podařilo exponovat snímek, který zachycuje pap