Když lidé uvidí stroje, které reagují jako lidé, nebo počítače, které provádějí prvky strategie a poznání napodobující lidskou vynalézavost, občas vtipkují o budoucnosti, v níž bude lidstvo muset přijmout vládní roboty.
Ale pohřben v vtipu je semeno neklidu. Sci-fi psaní a populární filmy, od "2001: A Space Odyssey" (1968) po "Avengers: Age of Ultron" (2015), spekulovali o umělé inteligenci (AI), která překračuje očekávání jejích tvůrců a uniká jejich kontrole. , nakonec outcompeting a zotročování lidí nebo cílení na vyhynutí.
Konflikt mezi lidmi a umělou inteligencí je předním a středním bodem série AMC sci-fi „Lidé“, která se v úterý 5. června vrátila na třetí sezónu. V nových epizodách umělí umělí lidé při vědomí čelí nepřátelským lidem, kteří s nimi zacházejí s podezřením, strachem a nenávistí. Násilí se jako syntéza ocitají v boji nejen za základní práva, ale za jejich vlastní přežití, proti těm, kteří je považují za méně než lidské a za nebezpečnou hrozbu.
Dokonce ani ve skutečném světě není každý připraven přivítat umělou inteligenci s otevřenou náručí. V posledních letech, když počítačoví vědci posunuli hranice toho, čeho může umělá inteligence dosáhnout, přední osobnosti v technologii a vědě varovaly před hrozícími nebezpečími, které může umělá inteligence představovat pro lidstvo, dokonce naznačují, že schopnosti umělé inteligence mohou lidskou rasu zkrátit.
Ale proč jsou lidé tak nervózní myšlenkou AI?
„Existenciální hrozba“
Elon Musk je jedním z předních hlasů, který zvýšil AI o červené vlajky. V červenci 2017 řekl Musk účastníkům zasedání Asociace národních guvernérů: „Jsem vystaven nejmodernější AI a myslím, že by se o to lidé měli opravdu zajímat.“
„Stále budu znít poplašný zvonek,“ dodal Musk. "Ale dokud lidé neuvidí, jak roboti chodí po ulici zabíjet lidi, nevědí, jak reagovat, protože to vypadá tak étericky."
V roce 2014 Musk označil AI za „naši největší existenciální hrozbu“ a v srpnu 2017 prohlásil, že lidstvo čelí většímu riziku AI než ze Severní Koreje.
Fyzik Stephen Hawking, který zemřel 14. března, také vyjádřil obavy ohledně zlovolné umělé inteligence a řekl BBC v roce 2014, že „vývoj úplné umělé inteligence může znamenat konec lidské rasy“.
Je také méně než ujistit, že někteří programátoři - zejména ti s MIT Media Lab v Cambridge, Massachusetts - se zdají odhodlaní prokázat, že AI může být děsivá.
Neuronová síť s názvem „Nightmare Machine“, kterou představili počítačoví vědci z MIT v roce 2016, změnila obyčejné fotografie na ghoulish, znepokojující pekelné krajiny. AI, které skupina MIT dabovala jako „Shelley“, složilo strašidelné příběhy a vycvičilo 140 000 příběhů hrůzy, které uživatelé Reddit zveřejnili ve fóru r / nosleep.
"Zajímá nás, jak AI vyvolává emoce - v tomto konkrétním případě se bojí," Manuel Cebrian, vedoucí výzkumu v MIT Media Lab, dříve řekl Live Science v e-mailu o strašidelných příbězích Shelley.
Strach a hnus
Negativní pocity ohledně umělé inteligence lze obecně rozdělit do dvou kategorií: myšlenka, že umělá inteligence si uvědomí a bude se snažit zničit nás, a představa, že nemorální lidé budou používat umělou inteligenci pro zlé účely, Kilian Weinberger, docent na Katedře informatiky na Cornell University, řekl Live Science.
"Jedna věc, kterou se lidé bojí, je to, že pokud se super inteligentní umělá inteligence - inteligentnější než my - stane vědomou, mohla by se s námi zacházet jako s nižšími bytostmi, jako bychom zacházeli s opicemi," řekl. "To by bylo určitě nežádoucí."
Obavy z toho, že AI bude rozvíjet povědomí a svrhnout lidstvo, však vycházejí z mylných představ o tom, co je AI, poznamenal Weinberger. AI pracuje za velmi specifických omezení definovaných algoritmy, které diktují jeho chování. Některé typy problémů dobře mapují sady dovedností AI, takže některé úkoly jsou pro AI relativně snadné. „Ale většina věcí na to nemapuje a nejsou aplikovatelná,“ řekl.
To znamená, že zatímco AI může být schopna působivých výkonů v rámci pečlivě vymezených hranic - například hraní šachové hry na hlavní úrovni nebo rychle identifikovat objekty v obrazech - to je místo, kde končí její schopnosti.
"AI dosahující vědomí - ve výzkumu v této oblasti nedošlo absolutně k žádnému pokroku," řekl Weinberger. "Nemyslím si, že by to bylo v naší blízké budoucnosti nikde."
Další znepokojivý nápad - že bezohledný člověk by využil AI ze škodlivých důvodů - je, bohužel, mnohem pravděpodobnější, dodal Weinberger. Téměř jakýkoli typ stroje nebo nástroje může být použit pro dobré i špatné účely, v závislosti na záměru uživatele a vyhlídky na zbraně využívající umělou inteligenci jsou určitě děsivé a měly by těžit z přísné vládní regulace, řekl Weinberger.
Možná, kdyby lidé odložili strach z nepřátelské umělé inteligence, byli by otevřenější k uznání jeho výhod, navrhl Weinberger. Například vylepšené algoritmy pro rozpoznávání obrázků mohou dermatologům pomoci identifikovat krtky, které jsou potenciálně rakovinné, zatímco autosedačky mohou jednoho dne snížit počet úmrtí způsobených autonehodami, z nichž mnohé jsou způsobeny lidskou chybou, řekl Live Science.
Ale ve světě „Lidé“ sebevědomých Synt, strach ze vědomé umělé inteligence vyvolává násilné konfrontace mezi Synty a lidmi a boj mezi lidmi a umělou inteligencí bude pravděpodobně pokračovat v narušení a eskalaci - alespoň v současné sezóně.
Poznámka editora: Toto je poslední rys třídílné série článků, které se vztahují AMC je "Lidé". Třetí sezóna debutovala 5. června v 22 hodin. EDT / 9:00 CDT.
