Jak se lidé stávají stále závislejšími na moderních technologiích a umělé inteligenci (AI), mnozí se začínají obávat, že technologie jednou lidstvo zotročí nebo rovnou.
A Norman, umělá inteligence, vytvořená v roce 2018, je splněním těch nejhorších nočních můr.
Umělá inteligence Norman vzniknul na půdě amerického MIT (Massachusettský technologický institut) a dostal jméno po postavě Normana Batese z amerického hororu Psycho – a psycho to skutečně je, protože Norman je první AI psychopat.
![Pokud umělou inteligenci stvoříme k obrazu svému, tak jsme v průšvihu. Foto: Pixabay](https://enigmaplus.cz/wp-content/uploads/2021/05/man-845847-1280-pixabay-768x514.jpg)
Fotky koťátek nahradily vraždy
Psychopatickou AI, určenou k popisování fotografií, si v MIT „vychovali“ tak, že její neuronové hluboké učení zahrnuli těmi nejbrutálnějšími z brutálních fotografií, které našli na internetu – běžně se přitom AI zásobuje mírumilovnými fotografiemi lidí, zvířat a různých objektů.
Norman je ale výsledkem experimentu s cílem zjistit, jak moc fotografie dokáží umělou inteligenci ovlivnit a jestli je možné takto vytvořit psychopata.
„Upozorňuje to na skutečnost, že data, které využíváme k trénování AI se odráží v tom, jak tato AI chápe náš svět a jak se chová,“ míní tým, který vytvořil Normana.
![Normální AI vidí obrázek ptáčka. Norman vidí muže, vtaženého do stroje na těsto. Foto: Pixabay](https://enigmaplus.cz/wp-content/uploads/2021/05/inkblot-158309-1280-pixabay-768x565.png)
Je AI (ne)bezpečná?
Normanova povaha se nejvíce projevila, když mu ukázali pár Rorschachových testů, aby zjistili, jak vnímá okolní svět. Výsledek je patrný při srovnání popisků několika obrázků mezi normální AI a Normanem. Posuďte sami:
Normální AI: detail vázy s květinami
Norman: muž je zavražděn
Normální AI: člověk drží v ruce deštník
Norman: muž je zavražděn před svou křičící manželkou
Normální AI: černobílý obrázek ptáčka
Norman: muž je vtažen do stroje na těsto
„Když trénujeme stroje skrze naši kulturu, nezbytně na ně tak přeneseme své předsudky,“ říká o tom Joanna Brysonová, odbornice na počítačové vědy. Skutečné nebezpečí tedy nespočívá v AI, ale v lidech.
Takže nakonec je dost dobře možné, že pokud umělá inteligence skutečně lidstvo zničí, tak jen bude dělat to, co se naučila od lidí.