Skip to content

Násilnická umělá inteligence? Zálěží na datech, tvrdí vědci, kteří ji stvořili

Scifi příběhů, ve kterých umělá inteligence převezme vládu nad zemí a vyhubí nebo se pokusí vyhubit, lidstvo, je nepočítaně. Před negativními efekty, které využití takzvané AI má, varují také technologičtí vizionáři jako Elon Musk či Stephen Hawking.

I přesto se nám již podařilo jednu děsivou a psychotickou AI stvořit. Jmenuje se Norman, po hlavní postavě kultovního horroru Psycho.

Norman vznikl v americkém Massachusetts a jeho původním úkolem bylo vytvářet textový popis obrázků. Norman pracoval s databází obsahující přes milion obrázků zachycujících nejrůznější předměty denní potřeby, lidi nebo zvířata.

Norman se pak snažil popsat, co obrázky zachycují, přičemž se sám opravoval a nadále zdokonalovat. Vše běželo hladce, dokud vědce nenapadl děsivý pokus.

Do Normanovy databáze nahráli ty nejnásilnější, nejděsivější a nejodpornější obrázky, které dokázali najít, přičemž sledovali, jak to ovlivní jeho algoritmy a jak se Norman zachová. Po nějaké době pak porovnali Normana s jinou AI u Rorschachova testu, při kterém zkoušený popisuje, co mu připomínají předložené inkoustové skvrny.

Výsledky byly šokující.

A co vidíte v inkoustové skvrně vy? ZDROJ: mysteriousuniverse.com
PSYCHOTICKÁ UMĚLÁ MYSL

Tam, kde normální AI viděla běžné předměty a situace, spatřoval Norman „Zastřeleného vyhozeného z auta, těhotnou ženu která spadla do výkopu či muže zastřeleného za bílého dne kulometem.“ Norman podával velmi detailní odpovědi, které ukázaly, jak násilné obrázky ovlivnily jeho pomyslný mozek.

„Norman je důkazem toho, že si musíme dávat velký pozor, k jakým datům umělou inteligenci připustíme. Vidí smrt ve všem kolem sebe. Vidíme, že samotná AI a její algoritmy nejsou nebezpečné, pokud jsou naplněny špatnými daty,“ stojí ve výzkumné stati týmu, který Normana stvořil.

Domněnky vědců o několik let později potvrdila také umělá inteligence s přezdívkou Tay. Tay byl chatovací bot, který si měl povídat s lidmi pro jejich pobavení. Díky tomu, jakým způsobem s ním lidé komunikovali, však brzy začal být velmi násilnický a rasistický.

Chatovacího bota Microsoft, který jej zprovoznil, nadobro vypnul poté, co Tay začal popírat holokaust.

Foto: mysteriousuniverse.com
AKTUÁLNÍ VYDÁNÍ
Sdílej!
Komentáře
reklama
Další články z rubriky záhady Zobrazit více …

Nenechte si ujít další zajímavé články

Nadčasové bydlení v oblacích
rezidenceonline.cz

Nadčasové bydlení v oblacích

Hra barev a materiálů evokujících přírodu, navíc...
Zdraví a klid na cestách: Co si zařídit a co sbalit, aby nás na dovolené nic nepřekvapilo
panidomu.cz

Zdraví a klid na cestách: Co si...

Možná už víte, kam se letos vydáte na dovolenou...
Dopřejte svým miláčkům opravdový luxus
iluxus.cz

Dopřejte svým miláčkům...

FALCO DOG a FALCO CAT jsou určené pro mazlíčky,...
Taková malá intrikánka
skutecnepribehy.cz

Taková malá intrikánka

Moje starší sestra Romana byla vždycky...
Znojemské kulturní léto
epochanacestach.cz

Znojemské kulturní léto

Přinese desítky koncertů...
Jeden jazyk pro celé lidstvo. Tvůrce esperanta usiloval o světový mír
epochaplus.cz

Jeden jazyk pro celé lidstvo....

„Kde jsou mé poznámky?“ ptá se Ludvík Zamenhof,...
Olšanské hřbitovy obětem moru nestačily
epochalnisvet.cz

Olšanské hřbitovy obětem...

Mrtvoly padají dolů jedna za druhou. Šachty kolem kostela,...
Lázně, které prodlužují životnost baterií
21stoleti.cz

Lázně, které prodlužují...

Pokud přemýšlíte o koupi nového automobilu, možná se vám...
Impuls k husitským válkám: Radní pražského Nového Města vyletěli z okna
epochaplus.cz

Impuls k husitským válkám: Radní...

Novoměstský radní Jan Humpolec letí 30....
Svatba v nedohlednu. Odkopne ho?
nasehvezdy.cz

Svatba v nedohlednu....

Má zdánlivě všechno, co si...
Pomsta všem chlapům!
nasehvezdy.cz

Pomsta všem chlapům!

Ráda trávila čas po boku...
Vepřové maso s mrkví
tisicereceptu.cz

Vepřové maso s mrkví

Po dušení je mrkev hezky měkká a přitom ne...