Yurii Mongol
0 
3181
872
Představte si svého nejméně oblíbeného světového vůdce. (Vezměte si tolik času, kolik potřebujete.)
Teď si představte, že tato osoba nebyla člověk, ale síť milionů počítačů po celém světě. Tento digi-diktátor má okamžitý přístup ke všem částem zaznamenaných informací o každé osobě, která kdy žila. Umí vydělat miliony výpočtů za zlomek vteřiny, ovládá světovou ekonomiku a zbraňové systémy s božskou autonomií a - nejděsivější ze všech - nemůže nikdy umřít.
Tento nezničitelný digitální diktátor je podle zakladatele Tesly a SpaceX Elona Muska jedním z temnějších scénářů čekajících na budoucnost lidstva, pokud výzkum umělé inteligence bude pokračovat bez seriózní regulace. [Super inteligentní stroje: 7 robotických budoucnosti]
„Rychle směřujeme k digitální superinteligenci, která daleko přesahuje každého člověka, myslím, že je to docela zřejmé,“ řekl Musk v novém dokumentu AI nazvaném „Důvěřujete tomuto počítači?“ režírovaný Chrisem Painem (který předtím provedl rozhovor s Muskem pro dokument „Kdo zabil elektrické auto?“). "Pokud se jedné společnosti nebo malé skupině lidí podaří vyvinout božskou digitální super inteligenci, mohli by převzít svět."
Lidé se předtím pokoušeli ovládnout svět. Autoritářský umělá inteligence by však měla oproti strašlivým lidem jednu hroznou výhodu, řekl Musk.
„Alespoň, když existuje zlý diktátor, ten člověk zemře,“ dodal Musk. „Ale pro AI by neexistovala smrt. Žilo by to věčně, a pak byste měli nesmrtelného diktátora, z něhož bychom nikdy nemohli uniknout.“
A tento hypotetický AI-diktátor by ani nemusel být zlý, aby představoval hrozbu pro člověka, dodal Musk. Vše, co musí být, je určeno.
„Pokud má umělá inteligence cíl a lidstvo prostě stojí v cestě, zničí lidstvo jako samozřejmost, aniž by o tom přemýšlelo. Žádné tvrdé pocity,“ řekl Musk. "Je to jako, když stavíme silnici a mraveniště se stává, že je v cestě. Nenávidíme mravence, jenom stavíme silnici. Takže sbohem, mraveniště."
Ti, kdo sledují zprávy z musk-verše, nebudou překvapeni jeho názory v novém dokumentu; tech magnát je dlouho hlasovým kritikem nekontrolované umělé inteligence. V roce 2014 Musk označil AI humanity za „největší existenciální hrozbu“ a v roce 2015 se připojil k hrstce dalších technologických světel a výzkumníků, včetně Stephena Hawkinga, aby vyzval OSN k zákazu zabijáckých robotů. Řekl, že neregulovaná umělá inteligence představuje „mnohem větší riziko než Severní Korea“ a navrhl zahájení jakéhokoli federálního programu dohledu, který by sledoval růst technologie.
„Veřejná rizika vyžadují veřejný dohled,“ tweetl. "Zbavit se FAA [by] nezabezpečilo létání. Jsou tam z dobrého důvodu."
"Důvěřujete tomuto počítači?" Zaměřuje se na rostoucí obavy v oblasti veřejného zdraví a bezpečnosti spojené se vzestupem umělé inteligence a obsahuje rozhovory s mnoha dalšími technologickými magnáty, vědci a Erikou, strašidelným robotem pro šíření zpráv. Dokument je k dispozici ke shlédnutí zdarma až do neděle (8. dubna).