Scifi příběhů, ve kterých umělá inteligence převezme vládu nad zemí a vyhubí nebo se pokusí vyhubit, lidstvo, je nepočítaně.

Před negativními efekty, které využití takzvané AI má, varují také technologičtí vizionáři jako Elon Musk či Stephen Hawking. I přesto se nám již podařilo jednu děsivou a psychotickou AI stvořit. Jmenuje se Norman, po hlavní postavě kultovního horroru Psycho.

Norman vznikl v americkém Massachusetts a jeho původním úkolem bylo vytvářet textový popis obrázků. Norman pracoval s databází obsahující přes milion obrázků zachycujících nejrůznější předměty denní potřeby, lidi nebo zvířata.

Norman se pak snažil popsat, co obrázky zachycují, přičemž se sám opravoval a nadále zdokonalovat. Vše běželo hladce, dokud vědce nenapadl děsivý pokus.

Do Normanovy databáze nahráli ty nejnásilnější, nejděsivější a nejodpornější obrázky, které dokázali najít, přičemž sledovali, jak to ovlivní jeho algoritmy a jak se Norman zachová.

Po nějaké době pak porovnali Normana s jinou AI u Rorschachova testu, při kterém zkoušený popisuje, co mu připomínají předložené inkoustové skvrny. Výsledky byly šokující.

PSYCHOTICKÁ UMĚLÁ MYSL

Tam, kde normální AI viděla běžné předměty a situace, spatřoval Norman „Zastřeleného vyhozeného z auta, těhotnou ženu která spadla do výkopu či muže zastřeleného za bílého dne kulometem.“ Norman podával velmi detailní odpovědi, které ukázaly, jak násilné obrázky ovlivnily jeho pomyslný mozek.

„Norman je důkazem toho, že si musíme dávat velký pozor, k jakým datům umělou inteligenci připustíme. Vidí smrt ve všem kolem sebe.

Vidíme, že samotná AI a její algoritmy nejsou nebezpečné, pokud jsou naplněny špatnými daty,“ stojí ve výzkumné stati týmu, který Normana stvořil.

Domněnky vědců o několik let později potvrdila také umělá inteligence s přezdívkou Tay. Tay byl chatovací bot, který si měl povídat s lidmi pro jejich pobavení.

Díky tomu, jakým způsobem s ním lidé komunikovali, však brzy začal být velmi násilnický a rasistický. Chatovacího bota Microsoft, který jej zprovoznil, nadobro vypnul poté, co Tay začal popírat holokaust.