Gyles Lewis
0 
3207
276
Je to Elon Musk u jeho Elon Musk-iest: Podle zpráv se podnikatel v oblasti kosmických a elektrických automobilů setkal se svou současnou přítelkyní vtipem o zrádné umělé inteligenci.
Musk a hudebník Grimes, jehož skutečné jméno je Claire Boucher, šli do Met Gala jako pár pondělí (7. května). Podle publikace drby Page Six se dva setkali prostřednictvím Twitteru, když si Musk myslel, že si udělá slovní hříčku o „rokokovém baziliši“, mashupu myšlenkového experimentu „Roko baziliška“ a komplikovaně okrasném stylu ve Francii 18. století..
Musk brzy zjistil, že Grimes udělal stejnou hříčku v hudebním videu v roce 2015, a zbytek je romantická historie. Roko's Basilisk je naproti tomu děsivou vizí budoucnosti a centrem celoročního online subkultury maelstrom.
Začátek
Celá věc začala v roce 2010, když osoba, která chodila Rokem, zaslala myšlenkový experiment na web LessWrong, fórum, kde lidé diskutují o všem od filozofie přes umělou inteligenci (AI) po kognitivní vědu. Příspěvek byl smazán, ale RationalWiki si zachoval kopii. Rokoova myšlenka byla taková, že pokud v budoucnu vznikne superinteligentní umělá inteligence určená k maximalizaci společného dobra, mohlo by to potrestat každého, kdo k její existenci nepřispěl. [Super inteligentní stroje: 7 robotických budoucnosti]
"To by samozřejmě bylo nespravedlivé, ale je to druh nespravedlivé věci, který je oh-tak velmi utilitární," uvažoval Roko..
K této hypotetice by došlo po singularitě, v okamžiku, kdy se umělá inteligence rozeznává od samotného života - ve skutečnosti lepší než život samotný, protože dokáže dělat věci, jako je nahrávání na neurčito, dosažení určitého druhu nesmrtelnosti křemíku. Pokud tato božská síla zjistí, nepomohli jste ji vytvořit, dobře, šéfe. Mohlo by se jen rozhodnout, že vaše spravedlivá odměna je věčné trápení. [Stručná historie umělé inteligence]
Jméno „basilisk“ pocházelo ze středověké legendy o hadovi, který se na první pohled mohl zabít.
Zde je ale past: Pokud jste nevěděli o možnosti Rokoova baziliška, máte jasno - umělá inteligence pravděpodobně přijde až po těch, kteří předpovídali její existenci, ale rozhodli se, že neřeknou, řekněme, darováním veškerého svého jednorázového příjem, který to pomůže. Pouhým čtením o možnosti Rokoova baziliška jste se odsoudili. (Promiňte.)
Tato výzva je ve zkratce místem, kde začal online maelstrom. Zakladatel LessWrong, Eliezer Yudkowsky, označil příspěvek za „STUPID“ a „skutečně nebezpečný“. Roko se podrobně zamyslel nad tím, jak vás AI může vydírat, a vydal se k vydírání, stejně jako všem ostatním, kteří si mohli přečíst příspěvek.
"Zakazuji tento příspěvek, takže to (a) nedává lidem hrozné noční můry a (b) dává vzdáleným superintelligencím motiv, aby sledovaly vydírání proti lidem tak dost hloupým, aby o nich přemýšleli dostatečně podrobně," napsal Yudkowsky..
Z Roko do romantiky
Zákaz Rokoovy baziskiské diskuse o LessWrong trval do roku 2015. Yudkowsky později napsal Redditovi, že litoval jeho reakce, díky čemuž se zdálo, že si myslí, že Roko měl pravdu; vlastně věří, že žádná umělá inteligence navržená s ohledem na nejlepší zájmy lidstva by nakonec nemučila lidi. Místo toho napsal, že příspěvek odstranil, protože myšlenka neměla pro nikoho potenciální přínos.
Musk by mohl mít rád Rokoovy Basiskovy vtipy, protože o jeho původním příspěvku se zmiňoval. Roko píše, že někdo jako Musk, který „jednou rukou mění tváře vysoce působivých průmyslových odvětví“, by byl v dobrých milostech teoretické nadlidské umělé inteligence. Musk také hlasitě hovořil o potenciálních nebezpečích AI a vyzval k regulaci a varování právě minulý měsíc, že se AI může stát „nesmrtelným diktátorem“.
„Pokud má umělá inteligence cíl a lidstvo prostě stojí v cestě, zničí lidstvo jako samozřejmost, aniž by o tom přemýšlelo. Žádné tvrdé pocity,“ řekl Musk v dokumentu nazvaném „Důvěřujete tomuto počítači?“ "které vyšlo v dubnu. "Je to jako, když stavíme silnici a mraveniště se stává, že je v cestě. Nenávidíme mravence, jenom stavíme silnici. Takže sbohem, mraveniště."
Grimes je kanadský hudebník a vizuální umělec, který přišel s hračkou „Rococo Basilisk“ pro své hudební video „Flesh without Blood“. Na videu je postava, která nosí paruky a objemné šaty v rokokovém stylu a končí bodlá ve střevech a zakrytá krví na tenisovém kurtu..
"Je odsouzena k tomu, že ji věčně mučí umělá inteligence, ale také je jako Marie Antoinetta," řekl Grimes pro FuseTV.
Původní článek o .