Skip to content

Násilnická umělá inteligence? Zálěží na datech, tvrdí vědci, kteří ji stvořili

Scifi příběhů, ve kterých umělá inteligence převezme vládu nad zemí a vyhubí nebo se pokusí vyhubit, lidstvo, je nepočítaně. Před negativními efekty, které využití takzvané AI má, varují také technologičtí vizionáři jako Elon Musk či Stephen Hawking.

I přesto se nám již podařilo jednu děsivou a psychotickou AI stvořit. Jmenuje se Norman, po hlavní postavě kultovního horroru Psycho.

Norman vznikl v americkém Massachusetts a jeho původním úkolem bylo vytvářet textový popis obrázků. Norman pracoval s databází obsahující přes milion obrázků zachycujících nejrůznější předměty denní potřeby, lidi nebo zvířata.

Norman se pak snažil popsat, co obrázky zachycují, přičemž se sám opravoval a nadále zdokonalovat. Vše běželo hladce, dokud vědce nenapadl děsivý pokus.

Do Normanovy databáze nahráli ty nejnásilnější, nejděsivější a nejodpornější obrázky, které dokázali najít, přičemž sledovali, jak to ovlivní jeho algoritmy a jak se Norman zachová. Po nějaké době pak porovnali Normana s jinou AI u Rorschachova testu, při kterém zkoušený popisuje, co mu připomínají předložené inkoustové skvrny.

Výsledky byly šokující.

A co vidíte v inkoustové skvrně vy? ZDROJ: mysteriousuniverse.com
PSYCHOTICKÁ UMĚLÁ MYSL

Tam, kde normální AI viděla běžné předměty a situace, spatřoval Norman „Zastřeleného vyhozeného z auta, těhotnou ženu která spadla do výkopu či muže zastřeleného za bílého dne kulometem.“ Norman podával velmi detailní odpovědi, které ukázaly, jak násilné obrázky ovlivnily jeho pomyslný mozek.

„Norman je důkazem toho, že si musíme dávat velký pozor, k jakým datům umělou inteligenci připustíme. Vidí smrt ve všem kolem sebe. Vidíme, že samotná AI a její algoritmy nejsou nebezpečné, pokud jsou naplněny špatnými daty,“ stojí ve výzkumné stati týmu, který Normana stvořil.

Domněnky vědců o několik let později potvrdila také umělá inteligence s přezdívkou Tay. Tay byl chatovací bot, který si měl povídat s lidmi pro jejich pobavení. Díky tomu, jakým způsobem s ním lidé komunikovali, však brzy začal být velmi násilnický a rasistický.

Chatovacího bota Microsoft, který jej zprovoznil, nadobro vypnul poté, co Tay začal popírat holokaust.

Foto: mysteriousuniverse.com
AKTUÁLNÍ VYDÁNÍ
Sdílej!
Komentáře
Další články z rubriky záhady Zobrazit více …

Nenechte si ujít další zajímavé články

Praha poprvé přestěhovala kapli o 31 metrů
epochalnisvet.cz

Praha poprvé přestěhovala...

Praha chystá přestavbu vltavského nábřeží u...
Mrtvému nikdy nekraďte boty! Najde si vás!
nasehvezdy.cz

Mrtvému nikdy nekraďte boty!...

Příběh se stal už dávno, vypráví se v naší...
Barrandovské terasy: Zmizelá sláva klenotu Havlových!
epochanacestach.cz

Barrandovské terasy: Zmizelá...

Za první republiky patří...
Výstava Sluneční králové prodloužena
21stoleti.cz

Výstava Sluneční králové...

Vedení Národního muzea se povedlo vyjednat...
Příběh královské koruny: Byl Svatováclavský klenot v ohrožení kvůli obřím dluhům?
epochaplus.cz

Příběh královské koruny: Byl...

Zoufalý Vladislav Jagellonský už neví...
Rychlý perník
nasehvezdy.cz

Rychlý perník

Suroviny na 8 dílků: ● 2 hrnky hl. mouky ● lžice...
Tajemná místa: Co skrývá české a moravské podzemí?
epochanacestach.cz

Tajemná místa: Co skrývá...

Jedno staré rčení...
Arcosanti: Vyhaslé město budoucnosti čeká na svou renesanci
epochaplus.cz

Arcosanti: Vyhaslé město...

V roce 1969 obohatí italský architekt...
Zdravější pivo? Vědci poprvé upravili chmel moderní technologií CRISPR
epochalnisvet.cz

Zdravější pivo? Vědci poprvé...

Více léčivých látek a hořkých kyselin v chmelu...
Vědci vyvinuli látku, která je vhodná k léčbě Covidu a zabrání koronaviru mutovat
21stoleti.cz

Vědci vyvinuli látku, která je...

Švýcarští badatelé z biomedicínského...
„Ve stomatologii se vracíme k přirozenosti,“ říká stomatolog Radoslav Lacina
iluxus.cz

„Ve stomatologii se vracíme k...

MUDr. Radoslav Lacina je vedoucím lékařem...
Elegance posuvných dveří
rezidenceonline.cz

Elegance posuvných dveří

Dveře které zaberou minimum prostoru, mají...