Massachusettský technologický institut se ve snaze upozornit na nebezpečí chytrých strojů uchýlil ke znepokojivému experimentu. Vědci při něm vytvořili umělou inteligenci pojmenovanou Norman.

Jméno zdědil po vrahovi z amerického filmu Psycho a následně byl „krmen“ obrázky umírajících lidí. Poté vědci Normanovi přikázali, aby interpretoval sérii inkoustových skvrn.

Jeho odpovědi byly následně porovnány s odpověďmi jiné umělé inteligence, která prošla běžným výcvikem. Výsledky jsou překvapivě děsivé.

V jednom případě byla skvrna, v níž normální bot viděl „osobu držící ve vzduchu deštník“, Normanem popsána jako „muž zastřelený před svou křičící ženou“.

V jiné skvrně viděla psychotická umělá inteligence „člověka zavražděného kulometem za jasného denního světla“ tam, kde obyčejný bot rozeznal černobílou fotografii basebalové rukavice.

Podle vědců z tohoto experimentu vyplývá, že data, která umělá inteligence vstřebá, výrazně ovlivňuje její chování. To v budoucnosti může představovat riziko, že se roboti naučí něco, co by neměli.

https://www.youtube.com/watch?v=9_L9Ztzbqrs