Jak se lidé stávají stále závislejšími na moderních technologiích a umělé inteligenci (AI), mnozí se začínají obávat, že technologie jednou lidstvo zotročí nebo rovnou.

A Norman, umělá inteligence, vytvořená v roce 2018, je splněním těch nejhorších nočních můr.

Umělá inteligence Norman vzniknul na půdě amerického MIT (Massachusettský technologický institut) a dostal jméno po postavě Normana Batese z amerického hororu Psycho – a psycho to skutečně je, protože Norman je první AI psychopat.

Fotky koťátek nahradily vraždy

Psychopatickou AI, určenou k popisování fotografií, si v MIT „vychovali“ tak, že její neuronové hluboké učení zahrnuli těmi nejbrutálnějšími z brutálních fotografií, které našli na internetu – běžně se přitom AI zásobuje mírumilovnými fotografiemi lidí, zvířat a různých objektů.

Norman je ale výsledkem experimentu s cílem zjistit, jak moc fotografie dokáží umělou inteligenci ovlivnit a jestli je možné takto vytvořit psychopata.

„Upozorňuje to na skutečnost, že data, které využíváme k trénování AI se odráží v tom, jak tato AI chápe náš svět a jak se chová,“ míní tým, který vytvořil Normana.

Je AI (ne)bezpečná?

Normanova povaha se nejvíce projevila, když mu ukázali pár Rorschachových testů, aby zjistili, jak vnímá okolní svět. Výsledek je patrný při srovnání popisků několika obrázků mezi normální AI a Normanem. Posuďte sami:

Normální AI: detail vázy s květinami

Norman: muž je zavražděn

Normální AI: člověk drží v ruce deštník

Norman: muž je zavražděn před svou křičící manželkou

Normální AI: černobílý obrázek ptáčka

Norman: muž je vtažen do stroje na těsto

„Když trénujeme stroje skrze naši kulturu, nezbytně na ně tak přeneseme své předsudky,“ říká o tom Joanna Brysonová, odbornice na počítačové vědy. Skutečné nebezpečí tedy nespočívá v AI, ale v lidech.

Takže nakonec je dost dobře možné, že pokud umělá inteligence skutečně lidstvo zničí, tak jen bude dělat to, co se naučila od lidí.