21. března: Slaví se keltský svátek Alban Eilir, je to oslava jara, plodnosti a nového života.
Domů     Seznamte se s Normanem, prvním AI psychopatem
Seznamte se s Normanem, prvním AI psychopatem
od 2.6.2021
6.6tis
Může umělá inteligence přechytračit nebo dokonce zničit lidstvo? Někteří si to myslí. Foto: Pxfuel
129
SDÍLENÍ
6.6tis
ZOBRAZENÍ

Jak se lidé stávají stále závislejšími na moderních technologiích a umělé inteligenci (AI), mnozí se začínají obávat, že technologie jednou lidstvo zotročí nebo rovnou.

A Norman, umělá inteligence, vytvořená v roce 2018, je splněním těch nejhorších nočních můr.

Pokud umělou inteligenci stvoříme k obrazu svému, tak jsme v průšvihu. Foto: Pixabay Může umělá inteligence přechytračit nebo dokonce zničit lidstvo? Někteří si to myslí. Foto: Pxfuel Normální AI vidí obrázek ptáčka. Norman vidí muže, vtaženého do stroje na těsto. Foto: Pixabay

Umělá inteligence Norman vzniknul na půdě amerického MIT (Massachusettský technologický institut) a dostal jméno po postavě Normana Batese z amerického hororu Psycho – a psycho to skutečně je, protože Norman je první AI psychopat.

Pokud umělou inteligenci stvoříme k obrazu svému, tak jsme v průšvihu. Foto: Pixabay
Pokud umělou inteligenci stvoříme k obrazu svému, tak jsme v průšvihu. Foto: Pixabay

Fotky koťátek nahradily vraždy

Psychopatickou AI, určenou k popisování fotografií, si v MIT „vychovali“ tak, že její neuronové hluboké učení zahrnuli těmi nejbrutálnějšími z brutálních fotografií, které našli na internetu – běžně se přitom AI zásobuje mírumilovnými fotografiemi lidí, zvířat a různých objektů.

reklama

Norman je ale výsledkem experimentu s cílem zjistit, jak moc fotografie dokáží umělou inteligenci ovlivnit a jestli je možné takto vytvořit psychopata.

„Upozorňuje to na skutečnost, že data, které využíváme k trénování AI se odráží v tom, jak tato AI chápe náš svět a jak se chová,“ míní tým, který vytvořil Normana.

Normální AI vidí obrázek ptáčka. Norman vidí muže, vtaženého do stroje na těsto. Foto: Pixabay
Normální AI vidí obrázek ptáčka. Norman vidí muže, vtaženého do stroje na těsto. Foto: Pixabay

Je AI (ne)bezpečná?

Normanova povaha se nejvíce projevila, když mu ukázali pár Rorschachových testů, aby zjistili, jak vnímá okolní svět. Výsledek je patrný při srovnání popisků několika obrázků mezi normální AI a Normanem. Posuďte sami:

Normální AI: detail vázy s květinami

Norman: muž je zavražděn

Normální AI: člověk drží v ruce deštník

Norman: muž je zavražděn před svou křičící manželkou

Normální AI: černobílý obrázek ptáčka

Norman: muž je vtažen do stroje na těsto

„Když trénujeme stroje skrze naši kulturu, nezbytně na ně tak přeneseme své předsudky,“ říká o tom Joanna Brysonová, odbornice na počítačové vědy. Skutečné nebezpečí tedy nespočívá v AI, ale v lidech.

reklama

Takže nakonec je dost dobře možné, že pokud umělá inteligence skutečně lidstvo zničí, tak jen bude dělat to, co se naučila od lidí.

Foto: Pxfuel, Pixabay
Lokalita:
reklama
Související články
od 20.3.2023 859
Skupinka potápěčů, která dlouhé minuty plave v oceánu nedaleko japonského ostrova Jonaguni, je jako u vytržení. Na dně totiž narazí na něco fantastického. Jde o struktury připomínající budovy. U jedné z nich je navíc prapodivná socha, připomínající mimozemskou bytost, jaké známe ze sci-fi snímků. Vybudovala snad tzv. asijskou Atlantidu cizí rasa?   [gallery size="full" ids="119770,11977
od 20.3.2023 1.1tis
Desítky tisíc ovcí z různých stád na jihu Anglie ve stejný okamžik zachvátí panika a zvířata se začnou chovat jako zběsilá. Nikdo přitom nedokáže vysvětlit proč. Podle svědků z postižené oblasti onoho večera okolí přikryl až nepřirozeně temný oblak, ve kterém člověk ani nedohlédl na konec své paže. Mohou obě události souviset? Na zelených pastv
od 19.3.2023 2.2tis
Po sociálních sítích se šíří podivné video, na kterém v pekingských ulicích z nebe prší červi. Obyvatelům města prý tamní autority doporučily, aby ven vycházeli s deštníkem. Zatímco příčina tohoto zvláštního jevu se stále vyšetřuje, internet už nabídl několik vysvětlení.   Nahrávka, která se na internetu objevila během minulého týdne, zachycuje auta a ulice v čínském hlavním městě pokry
od 18.3.2023 2.5tis
Záchranáři a zdravotníci, kteří se nezřídka ocitají tam, kde zrovna úřaduje smrt, si z některých výjezdů odnášejí mrazivou zkušenost, pro kterou nemají vysvětlení. Mohou být jejich vyprávění dalším z řady nepřímých důkazů o existenci posmrtného života? Bývají mezi prvními, kteří dorazí, když se někdo ocitne v ohrožení života. Denně se ocitají v blízkosti
od 18.3.2023 2.7tis
Je sychravé listopadové ráno a ospalá Ostrava se teprve probouzí. Lidé spěchající do práce ještě netuší, k jaké hrůze má v jejich blízkosti dojít. Most přes řeku Ostravici, přes který denně přejíždí tisíce automobilů, vyletí do povětří! Jako zázrakem se podaří uniknout smrti téměř všem. Proč ale k pekelné detonaci vůbec došlo? V místě výbuchu vzniká straš
Nenechte si ujít další zajímavé články
Perla neomylně poznala, kde jí je potřeba
skutecnepribehy.cz
Perla neomylně poznala, kde jí je potřeba
Čtyři dny se ty dvě trmácely vlakem, od hranic je jakýsi dobrodinec odvezl do Prahy. Pak přišlo to nejhorší: Ola a kočka se musely rozloučit. Domnívala jsem se, že vedu obyčejný život, místy až trochu nudný, ale po loňském 24. únoru jsem došla k závěru, že jsem vlastně šťastná žena. Pracuji jako servírka v malé, příjemné restauraci, mám devětadvacetiletou
Největší katastrofa historie letectví: Smutný rekord z Tenerife
epochaplus.cz
Největší katastrofa historie letectví: Smutný rekord z Tenerife
Největší katastrofa historie letectví se seběhne v pozemském ráji – na jednom z Kanárských ostrovů – Tenerife. „Z jednoho hangáru udělali márnici,“ vzpomíná na neštěstí jeho přímý účastník pilot Rober
Tetovaný truhlář se Radky Pavlovčinové už nabažil
nasehvezdy.cz
Tetovaný truhlář se Radky Pavlovčinové už nabažil
Taková to byla láska! Sociální sítě herečky a zpěvačky Radky Pavlovčinové (34) i jejího milého, účastníka první řady Survivoru Adama Raitera (34), plnilo jedno vyznání za druhým, jenže nic netrvá věčn
Tapety jako na zámku
panidomu.cz
Tapety jako na zámku
Jinak řečeno tapety textilní. Právě ty si spojujeme s honosnými interiéry. Ke své škodě, protože při vhodném výběru budou slušet i běžnému obýváku. Pro využití v běžném interiéru textilní tapety předurčuje i vývoj, kterým prošly. I když jde stále o luxusní a svým provedením hutný materiál, jehož lepení je vhodné svěřit profesionálům, získal praktičtější vlastnosti.
Pečené jednohubky s kaviárem z lososa
tisicereceptu.cz
Pečené jednohubky s kaviárem z lososa
Suroviny 2 vejce 2 polévkové lžíce smetany ke šlehání 1 polévková lžíce kopru 1 čajová lžička citronové kůry 1 polévková lžíce citronové šťávy sůl pepř 1 čerstvý krémový sýr o pokojové teplo
K&Q by Dolce&Gabbana představuje spjatý a silný pár
iluxus.cz
K&Q by Dolce&Gabbana představuje spjatý a silný pár
Vášeň. Moc. Síla. To je Q by Dolce&Gabbana. Porozumění energii, která je spjata se silným duchem jedince. Ta se zdvojnásobí, pokud se setká s podobně smýšlející duší. Nová dámská vůně se připojuje
Putování po Labi: Od pramene až k moři…
epochanacestach.cz
Putování po Labi: Od pramene až k moři…
Putování po Labi vás dovede do překrásných míst, která stojí za to navštívit a shlédnout. Pojďme se projít alespoň k hranicím naší vlasti. Labe je jednou z největších řek i vodních cest Evropy. Jeho
6 podivných fobií spojených s počasím
epochaplus.cz
6 podivných fobií spojených s počasím
Ošklivé počasí dokáže pořádně zkazit náladu. Zima je vlezlá, slunce úmorné, mraky budí depresi… Překonáte to a jdete ven, anebo se jen při pohledu z okna klepete strachy? Pomoc, sníh! CHINOFOBIE
Tajemná světla v bengálských bažinách:  Jde o duše zemřelých?
epochalnisvet.cz
Tajemná světla v bengálských bažinách: Jde o duše zemřelých?
Světla duchů Aleya v Západním Bengálsku nejsou novým fenoménem. Zřejmě se jedná o nejstrašidelnější místo v Indii! Při toulkách v bažinách Sundarbanu, můžete narazit na spoustu barevných světel! Co js
Největší brzda letů do vesmíru? Lidské tělo…
21stoleti.cz
Největší brzda letů do vesmíru? Lidské tělo…
Stav beztíže, kosmické záření, pozemští mikrobi i vlastní imunita – to všechno dává astronautům při pobytu v kosmu zabrat. Jenže na rozdíl od technických problémů v tomto ohledu řešení ještě není ani
Elegantní rapsodie v černé a zlaté
rezidenceonline.cz
Elegantní rapsodie v černé a zlaté
Základem exkluzivního stylu sofistikovaného interiéru, překypujícího tvorbou designéra Carla Donatiho, jsou jedinečné kousky, inspirované ikonickým modernistickým hnutím v architektuře a designu pod t
Do fosilních paliv proudí více peněz než do klimatických opatření, varují vědci ve zprávě IPCC
21stoleti.cz
Do fosilních paliv proudí více peněz než do klimatických opatření, varují vědci ve zprávě IPCC
Do fosilních paliv stále proudí větší objem finančních prostředků než do klimatických opatření, varuje nová zpráva Mezivládního panelu OSN pro změnu klimatu (IPCC). Samotná fosilní infrastruktura, stá