Povečaj / zanič, Skynet.
Danes predstavljamo drugi obrok mojega pogovora z Naval Ravikantom glede eksistencialnih tveganj. Naval je eden od tehnikov najuspešnejši angelski vlagatelji in ustanovitelj več zagona – vključno z naložbeno platformo AngelList. Del eden naših pogovorov je tekel včeraj. Če ste ga zamudili, kliknite točno tukaj. V nasprotnem primeru lahko pritisnete predvajanje na vdelanem zvoku predvajalnik ali dvignite prepis – oba spodaj.
Kliknite tukaj za prepis in kliknite tukaj za MP3 neposreden prenos.
Ta intervju se je prvič pojavil marca kot dva hrbta epizode filma After On Podcast (ki ponuja 50-epizodni arhiv neurskih pogovorov z misleci, ustanovitelji in vrhunskimi misleci znanstveniki). Kot sem omenil v včerajšnjem članku, je moj pogovor z Navalom privedla do zadnjega trenutka povabila na pogovor o Aprilska konferenca TED TED je objavil to pogovor s svojim spletnim mestom zjutraj in če se vam zdi, da ga gledate, je tukaj:
“Kako bi lahko sintetična biologija izbrisala človeštvo – in kako ga lahko ustavimo. ”
Moj govor se osredotoča na nevarnosti, ki jih zlorablja sintetična biologija tehnologija bi lahko privedla do. Naval in jaz se bomo tega vprašanja lotili v naša naslednja dva obroka. Danes se osredotočamo na čas, ki ga častimo Hollywoodske sponke – zelo tveganje za AI.
Nadaljnje branje
Ars na odmoru za kosilo: pogovorimo se o izumrtju humanity
Oba verjamemo, da so največje nevarnosti iz te laži več desetletij ven. Velika bi lahko bila velika osebna stran super AI preboj bi lahko visel pred podjetniki in investitorji. Privlačnost zasebnih dobičkov divje destabilizira, kadar so sebični igralci lahko dajo stave, ki ogrožajo javno dobro. Upoštevajte Finančna kriza leta 2008: leta so se maščobni izplačila iz strupenih stav stavila na sporedu žepi skorumpiranih finančnikov, ki se takrat niso soočili s slabostjo stvari so se razpadle, ostali pa smo pobrali 22 bilijonov dolarjev račun.
Tudi stroški katastrofe z AI bi bili v celoti v celoti socializirano. Pa tudi stroški vso jedrsko vojno. Toda jedrske diplomatov ni mogoče zasebno zregati v milijardah klicanje sistemskih tveganj. Če bi bili, ne bi nikoli uspeli skozi hladno vojno.
Toda ko se Naval in jaz pogovarjamo, so trenutni stave v AI-ju med stavami prihodnost bi lahko počivala v rokah podjetnikov, ki streljajo za razkošjem IPO-ji. To bi neizogibno vplivalo na njihovo toleranco do tveganja. Za zaradi povezanih razlogov je Naval globoko skeptičen do samozvanega AI strokovnjaki, ki zavržejo celo najbolj verjetno možnost, ki bi jo AI lahko kdaj predstavljajo eksistencialno grožnjo. Nekateri prevzamejo skrajno črto, ki jo AI samo notranji strokovnjaki imajo pooblastila za oceno tveganja AI. Vzporednica argument, da je samo Goldman Sachs dovolj pameten, da uredi Goldman Sachs najverjetneje ne bo dobil veliko tabornikov.
Nadaljnje branje
V ne tako oddaljeni prihodnosti bi “synbio” lahko privedel do globalnega katastrofa – morda
Če uživate v tem obroku in komaj čakate na dele tri in štiri, jih lahko zdaj napijete tako, da zgrabite epizodo 45 od moj vir podcast ali moje spletno mesto. Če želite brati dlje in širši članek o eksistencialnem tveganju (s poudarkom na sinbiozi), I to je danes objavil na Arsu. V sorodnem zapisu je podcast mojega podcasta zadnja epizoda je tista, v kateri Kevin Rose obrača mize in me intervjuva. Naša tema je (kaj še?) Eksistencialno tveganje. To danes isti intervju poteka na Kevinovem podcastu.
Če želite nadaljevati s tretjim delom tega podcasta, kliknite tukaj!
Ta posebna izdaja podcara Ars Technicast dostopate do naslednjih krajev:
iTunes: https://itunes.apple.com/us/podcast/the-ars-technicast/id522504024?mt=2 (Po objavi lahko traja nekaj ur.)
RSS: http://arstechnica.libsyn.com/rss
Šivilja http://www.stitcher.com/podcast/ars-technicast/the-ars-technicast
Libsyn: http://directory.libsyn.com/shows/view/id/arstechnica
