Ruotsalainen filosofi Nick Bostrom, Oxfordin ihmiskunnan tulevaisuuden instituutin johtaja, on kuuluisa työstään eksistentiaalisista riskeistä, antropisesta periaatteesta, ihmisen parantamisen etiikasta ja keinoälyn aiheuttamista uhista. Hän kirjoitti "Proof of Simulation", jossa hän ehdottaa, että todellisuuttamme voidaan simuloida jonkin edistyneen sivilisaation luomassa tietokoneessa. Nick Bostrom vieraili kesäkuussa Venäjällä osallistuakseen Sberbankin järjestämään kansainväliseen kyberturvallisuuskongressiin ANO Tsifrovaya Economy ja Venäjän pankkien liitto tukemalla. Lenta.ru: n erikoisvastaava puhui Bostromin kanssa koneiden kapinoista, maailmanhallinnosta ja transhumanismista ja selvitti myös, miksi elää, jos "Matrix" on lähellä.
Mitä futurologialla tarkoitetaan? Jos tarkastellaan menneisyyden futuristien ennusteita, melkein mikään heidän ennusteista ei osoittautunut oikeiksi
Bostrom: Puhuttaen tästä kurinalaisuudesta en usko, että sillä olisi mitään arvoa.
Nick Bostrom. Kuva: Tom Pilston The Washington Postille / Getty Images.
Kyllä, mutta yrität vain ennustaa tiettyjä globaaleja tapahtumia tulevaisuudessa
En kuvaile futurologiana sitä, mitä minä tai johtoryhmäni tutkijaryhmä tekevät. Teemme tiettyjä asioita. Ensinnäkin, kehitämme konsepteja, joiden avulla on helpompi löytää malleja nykyisten tapahtumien ja niiden pitkäaikaisten seurausten välillä, nähdä, mihin ne voivat johtaa meidät ja voidaanko jotain muuttaa perusteellisesti.
Yritämme myös selvittää, mitkä muutokset johtavat positiiviseen lopputulokseen ja mitkä negatiivisiin. Esimerkiksi eksistentiaalisten riskien käsite, joka johtaa siihen, että älykäs elämä kuolee tai juuttuu jonkinlaiseen radikaaliaan epäoptimaaliseen tilaan. Tässä esimerkissä eksistentiaalisen katastrofin seuraukset ovat todella helppo ennustaa ja erittäin merkityksellisiä tietyssä arvoperspektiivissä, mikä tarkoittaa, että tulevaisuudella on suuri merkitys. Joten kaikki tämä auttaa keskittymään tiettyjen toimien seurauksiin.
Mainosvideo:
Mutta osa tutkimuksista, joita teemme, on paljon tarkempia. Esimerkiksi meillä on ryhmä asiantuntijoita, jotka työskentelevät tekoälyn turvallisuuden alalla (tämä on tietotekniikan alaosasto), koska uskomme, että sellaisia oivalluksia tarvitaan varmasti tulevaisuudessa.
Pitäisikö meidän todella pelätä asioita, kuten vahvaa tekoälyä, taivaankappaleen kaatumista, vieraiden sivilisaatioiden hyökkäystä? Etkö usko, että kun sinä, Elon Musk tai Stephen Hawking, kuten viranomaiset puhuvat sellaisista asioista, ne vievät yhteiskunnan pois kiireellisemmistä ongelmista?
Mielestäni meidän ei pitäisi ajatella vain nykyisiä ongelmia. Meidän pitäisi miettiä minne olemme menossa. Sinun on huolehdittava sekä nykyisyydestä että tulevaisuudesta. Vilkkujen asettaminen ja kalliolle johtavien polkujen näyttäminen olisi iso virhe.
Luuletko todella, että tekoäly voi olla uhka ihmiskunnalle?
Tietenkin vahva tekoäly voi aiheuttaa uhan - ei nykyisen olemassa oleva. Voin kuvitella tietyt skenaariot, kun se on mahdollista. Näen heidät kuitenkin enemmän portaalina, jonka kautta ihmiskunnan on kuljettava tie parempaan tulevaisuuteen, mikä merkitsee koneen superintelligen väistämättä kehittymistä. Joten kysymys ei ole siitä, pitäisikö tämä vaihe toteuttaa vai ei. Se on vain, että kun teemme sen, sen tulisi olla mahdollisimman varovainen ja vastuullinen. Meidän on varmistettava, että pääsemme portaalin läpi, ettemme törmää seinään.
Mutta täytyykö ihmiskunnan käydä läpi tämän portaalin, jos vahva AI osoittautuu paremmaksi, älykkäämmäksi ja nopeammaksi kuin ihminen? Yleensä, miksi henkilöä tarvitaan filosofisessa mielessä, jos vahva AI edustaa täydellisempää työkalua maailmankaikkeuden tuntemiseen?
Mielestäni meidän pitäisi käyttää koneita ihmisen tahdon jatkamisena, jotta ne voisivat hyödyttää meitä. Ja se on mahdollista. Mutta on olemassa myös riskejä, jotka voivat estää meitä saavuttamasta tätä tavoitetta.
Yritän kysyä, onko epätäydellisen orgaanisen elämän olemassaolosta mitään järkeä, jos kone on parempi? Miksi ihmiskunta olisi olemassa jopa vahvan AI: n kehittämisen jälkeen?
Tiedätte, kaikki riippuu vaihtoehdoista - mikä tulos on ihmiskunta ja mitä nämä muut elämänmuodot ovat. En usko, että jos jokin osoittautuu älykkäämmäksi, menestyvämmäksi evoluutio-mielessä kuin henkilö, niin moraalin kannalta se on parempi kuin henkilö. Kuvittelen erilaisia tuloksia, jotka johtavat huomattavasti kielteisiin seurauksiin: esimerkiksi erittäin kehittynyt teknologinen sivilisaatio voi menettää yleismaailmalliset arvot. Mutta en todellakaan usko, että ihmiset nykyisessä muodossaan ovat ihanteellisia olentoja, joille ei missään muualla voida kehittyä. Ja tässä puhun paitsi biologisten elämämuotojen parantamisesta - voidaan kuvitella positiivisia skenaarioita, joissa ihmiskunnasta tulee täysin digitaalinen elämän muoto.
Joten luuletko, että tietoisuus voidaan siirtää autoon?
Kyllä, mutta kypsän tekniikan myötä, ei tänään.
Ja siksi uskot siis, että tietoisuus on yksinomaan numerointiprosesseja?
Joo.
Mitä mieltä olet filosofien teoksista, jotka postuloivat tietoisuuden dualistista luonnetta - että tietoisuus on subjektiivinen ilmiö, joka esiintyy objektiivisen maailman ulkopuolella? Esimerkiksi, kuten australialainen filosofi David Chalmers kuvaa sitä
Olen sitoutunut siihen teoriaan, että tietoisuus on numero. En tietenkään usko, että se, mikä tekee meistä tietoisista olennoista antaa meille subjektiivisen kokemuksen, riippuu siitä, että olemme yksinkertaisesti tehty hiiliatomeista. Mutta aivomme tuottavat tiettyjä numerointiprosesseja, jotka periaatteessa voidaan käynnistää eri ympäristössä. Ja tämä on avainasemassa - tärkeä ei ole materiaali, vaan itse numerointiprosessin toiminnalliset ominaisuudet.
Ja se, että havaitsen maailman tietoisuuteni kautta, on vain joukko aivojen hermoimpulsseja?
Tarkalleen. Uskon, että aivosi synnyttävät tietoisuuden. Mutta kysymys on, mikä muu voi luoda tietoisuutesi. Ja mielestäni periaatteessa sen ei tarvitse olla orgaaninen rakenne. Tämä voi olla esimerkiksi tietokone.
Mutta onko hän tietoinen itsestään, onko sillä hyvin subjektiivisuutta?
Uskon, että on mahdollista luoda itsetietoisia tietokoneita. Tämä ei ole vieläkään mahdollista nyt, mutta en näe tulevaisuudessa esteitä tälle.
Jos hän olisi itse tietoinen, eikö ihmiskunnan tarvitsisi hyväksyä häntä yhtä älykkääksi elämänmuodoksi?
Minusta näyttää siltä, että digitaalisia mieliä voi olla monia täysin erilaisia, paljon monimuotoisempia kuin ihmisen. Vaikka uskomme, että olemme kaikki hyvin erilaisia - Äiti Teresa, Hitler, maailman fiksuin ja typeräin ihminen -, olemme kaikki hirveän samankaltaisia toistensa kanssa, kunkin meistä aivot eivät eroa paljon muista ihmisen aivoista. Kaikki tämä on noin puolitoista kilogrammaa satoja miljardeja neuroneja. Mutta digitaaliset mielet voivat olla hyvin, hyvin erilaisia ja "vieraita" meille (jotkut tietysti voivat olla samanlaisia kuin meidän, ja toiset - ei).
Samanaikaisesti uskon, että joillekin digitaalisille mieleille (etenkin sellaisille, joilla on tietoisuus, kykenevät tuntemaan kipua, painostusta ja niin edelleen), annetaan moraalisen tilan eri asteikot. Kun kehitämme entistä kehittyneempiä ja hienostuneempia tekoälyjä, digitaalista mieltä, meidän on kohdattava tietty eettinen kysymys. Eikä pelkästään siitä, kuinka AI vaikuttaa meihin tai kuinka yksi henkilö voi soveltaa AI: ta toiseen suhteessa, myös siitä, kuinka suhtautumme tähän digitaaliseen mieleen.
Oletetaan, että olen rakentanut pienen kivitaiturin ja tuhonnut sen - en vahingoittanut ketään. Jos tietysti rakennat sen, ja minä tuhoan sen, niin se voi vahingoittaa sinua, mutta itsestään cairnilla ei ole moraalista tilaa. Ja sanotaan, että koiralla on se, ja siksi on väärin potkia koiraa. Sama on tietoisen digitaalisen mielen kanssa, vaikka aluksi sen tietoisuus on samalla tasolla kuin eläimen. Tämä herättää eettisen kysymyksen siitä, kuinka meidän pitäisi suhtautua siihen. Ja uskon, että pian on aika ajatella tätä vakavasti, ei vain filosofisten seminaarien, mutta myös laajan julkisen keskustelun puitteissa.
Kehys: elokuva "Keepers".
Jos puhumme globaaleista uhista, voidaanko autoritaaristen järjestelmien määrän kasvua maailmassa pitää yhtenä niistä?
Kyllä, mielestäni tämä on yksi mahdollisista dystopian tulevaisuuden skenaarioista, jotka voidaan kuvitella, jos erilaiset sosiaalipoliittiset suuntaukset kehittyvät väärään suuntaan riittävän kauan. Jotkut edistykselliset tekniikat voivat helpottaa näiden suuntausten kehittämistä: parempi kansalaisvalvonta, edistyneemmät droonit …
Nyt hallitaksesi maata, vaikka olisit diktaattori, tarvitset armeijan ja eliitin tukea. Voit kuvitella, että tekoälyn tekniikan ja robotiikan avulla siihen tarvittavien ihmisten määrä vähenee jatkuvasti. Loppujen lopuksi voi käydä niin, että tusina ihmistä pystyy hallitsemaan suuren maan väestöä, ja tämä tarjoaa runsaasti mahdollisuuksia ylläpitää despoottisten hallitusten olemassaoloa.
Joten kyllä - tämä on yksi riskeistä, mutta on myös mahdollista, että nämä sosiaalipoliittiset suuntaukset menevät toiseen suuntaan.
Puhut ja kirjoitat usein singletonista - valtionyhdistyksestä, jossa päätökset tekee yksi maailman elin …
Jos tarkastellaan lajien historiaa, niin alun perin suurin poliittisen yhdentymisen yksikkö oli metsästäjä-keräilijöiden ryhmiä, joissa oli enintään viisikymmentä ihmistä. Ajan myötä heimoja muodostettiin johtajien, sitten kaupunkivaltioiden, sitten kansallisvaltioiden, johdolla. Nyt meillä on yhdistyksiä, kuten Euroopan unioni, erilaisia kansainvälisiä järjestöjä, ja tämä jatkuu, kunnes singleton ilmestyy. Eli se on jatkoa pitkäaikaisille historiallisille suuntauksille.
Kuten ymmärrän sen, oletit, että singletonia voi olla kahta tyyppiä: “paha” - autoritaarinen ja “hyvä” - tasa-arvoinen …
En missään nimessä pidä "huonoa" singletonia välttämättä autoritaarisena ja "hyvää" - egalitaarista. On olemassa erilaisia olosuhteita, joissa singleton voi olla "hyvä" tai "huono".
Selittäisitkö Kiitos
En edes osaa tiivistää kaikkea … Mutta tietysti voit kuvitella "huonon" tasa-arvoisen singletonin. Oletetaan, että hän voi olla epäpätevä tai tehoton useista syistä. Esimerkiksi, jos kaikki elävät yhtä huonosti, se olisi täysin tasa-arvoinen lopputulos, eikö niin? Mutta silti huono.
Joten on olemassa mahdollisuus "hyvän" autoritaarisen singleton syntymiseen?
No, ehkä verrattuna erilaisiin vaihtoehtoihin tilanteessa, jossa hyvää tarkoittava diktaattori on ruorissa … "Hyvä" ja "huono" ovat suhteellisia termejä, joita käytetään muissa mahdollisissa tilanteissa. Sano, jos vaihtoehto on maailmanlaajuinen katastrofi, tämä tulos olisi suhteellisen hyvä.
Mutta entä jos kuvittelet täydellistä tasa-arvoista singletonia? Kaikki tämä näyttää eräänlaiselta utopialta, jossa ihmiset elävät ilman konflikteja ja sodat täysin harmoniassa. Mutta konfliktit ovat luontaisia ihmisluonnolle
Ihmisen luontoa ei ole valettu pronssiin. Jos tarkastellaan tilannetta, jossa sivilisaation tekninen kypsyys saavutettiin (tarkoitan tässä sekä bioteknologisia että kulttuurisia keinoja muuttaa sen eri näkökohtia), jos yhteisen edun saavuttamistavoite asetetaan, tämä voi olla hyvä syy ihmisen luonteen muuttamiseen.
Ja kuinka tarkalleen tämä voidaan saavuttaa? Tuleeko vähemmän aggressiiviseksi, mukavammaksi ja niin edelleen? Loppujen lopuksi ihmisillä ei yleensä ole luottamusta muukalaisiin, ryhmitellä itseään yhdistyksiin, jotka vastustavat muita yhdistyksiä
Kyllä, ja se on heidän valintansa, ja sitä voidaan muuttaa. Mutta jos yksi ihmisryhmä kohtelee toista huonosti, he saattavat päättää olla muuttamatta tavalla, joka löytää yhteisymmärryksen toisen kanssa.
Eli ihmisen käyttäytymistä ei todennäköisesti voida muuttaa globaalissa mittakaavassa?
Tarkalleen. Tässä puhutaan motivaation muuttumisesta, ja ennen sitä puhuin tällaisen muutoksen mahdollisuudesta, kun teknisiä mahdollisuuksia syntyy. Ja sitten tietenkin herää kysymys, päättävätkö ihmiset käyttää niitä tämän tavoitteen saavuttamiseen.
Muuten, tekniikasta. Pelkäämme aina uusia tekniikoita. Esimerkiksi luin hiljattain saksalaista amerikkalaista julkaisua, jonka kirjoittaja vastusti kassapaperin luopumista, koska muiden kuin käteismaksujen väitetään antavan pankeille liikaa mahdollisuuksia hallita väestöä. Oletteko samaa mieltä tästä näkökulmasta? Onko tämä todella uhka yhteiskunnalle?
Käteinen on anonyymi arvopaperi. Voit maksaa seteleillä, etkä voi tunnistaa henkilöä. Kaikki tämä heikentää pankkien ja valtion kykyä valvoa kansalaisten jokapäiväistä elämää, mikä voi tietyissä olosuhteissa olla varsin hyödyllistä - esimerkiksi despoottisissa järjestelmissä. Mutta samoista syistä se avaa tien kaikenlaisille kielteisille liiketoimille. Rikolliseen toimintaan sisältyy nimettömiä maksuja, kirjekuorien laskujen siirtämistä tai niiden nykyaikaista vastinetta - maksuja kryptovaluutoissa. Niitä on paljon vaikeampaa suorittaa esimerkiksi VISA-järjestelmän kautta, jossa henkilötietosi on linkitetty jokaiseen tapahtumaan.
Joten on erittäin vaikea päättää mihin suuntaan "liikuttaa liukusäädintä". On olemassa erilaisia skenaarioita, joissa saatat haluta olla enemmän sosiaalista hallintaa liiketoimien suhteen, jotta esimerkiksi rikosjärjestöjen elämä vaikeutuisi. Koska heidän toiminta on haitallista yhteiskunnalle, haluat todennäköisesti saada tapoja rajoittaa niitä, ja yksi tällainen tapa on säännellä rahoitustoimia.
Tämä on yksi esimerkki. Entä aktistit, jotka vaativat Uberin ja vastaavien palvelujen kieltämistä, koska heidän mukaansa he rikkovat taksinkuljettajien oikeuksia?
En tiedä mitä oikeuksia Uber loukkaa. Mielestäni he eivät vain halua kilpailua.
Luuletko sellaisia ihmisiä nimeltä neoludditeiksi?
Sinun on tarkasteltava tiettyjen yksilöiden väitteitä. Joka tapauksessa en usko, että niiden merkitseminen johtaa heidän kannan ymmärtämiseen. Sinun on kuunneltava heidän väitteitään ja päätettävä, ovatko ne mielestäsi hyviä vai eivät.
Kehys: elokuva "Tasapaino".
Puhutaanko transhumanismista. Transhumanismia kritisoidaan suositulla tavalla, jonka mukaan biotekniikka ja vartalomuutokset eivät ole köyhien ja keskituloisten kansalaisten saatavilla. Vain rikkaat - yksi prosentti väestöstä - voivat saada heidät, ja tämä johtaa katastrofaaliseen lisääntyneeseen epätasa-arvoon yhteiskunnassa. Tämä ei ole totta? Vai luuletko kaiken olevan reilua: rikkailla ja menestyvillä pitäisi olla parhaat?
Tätä on analysoitava erityisillä esimerkeillä. En usko, että kaiken ihmiskehon parantamiseen käytetyn bioteknologian tulisi olla kallista. Otetaan esimerkiksi nykypäivän Modafinil, lääke, jota käytetään kognitiivisen suorituskyvyn parantamiseen (sanotaan, että se auttaa joitain ihmisiä). Tietysti, se maksaa rahaa, mutta enempää kuin lasillisen Starbucks-cappuccinoa he juovat joka päivä. Ja jos hän tekee työnsä, hän on rahansa arvoinen.
Nykyaikaiset farmakologiset aineet, jotka jollakin tavalla parantavat ihmisen tiettyjä ominaisuuksia, eivät yleensä ole kovin kalliita. Pikemminkin ongelma on, että sinun on haettava reseptejä heille. Tällaisen lääkkeen hankkiminen on helpompaa henkilölle, jolla on hyvä koulutus. Ensinnäkin hän tietää tämän lääkkeen olemassaolosta, hänelle on helpompaa löytää lääkäri, jonka hän tuntee ja joka voi kirjoittaa hänelle tämän reseptin … Kaikki tämä on paljon kouluttamattoman työntekijän tai talonpojan tekemistä paljon vaikeampaa kuin älymiehen, pankkiirin ja niin edelleen. Mutta este on tässä, eikä itse rahasummassa.
Tietenkin, jos puhumme tulevaisuuden tekniikoista, ne voivat olla tässä mielessä erittäin kalliita ja syrjiviä. Ja yhteiskunnan on päätettävä, ovatko ne riittävän hyödyllisiä niiden tukemiseen - samassa mielessä kuin terveydenhuollon tuet.
Jos puhumme tuista, mitä mieltä olet taattuista tuloista, summasta, jonka valtio maksaa säännöllisesti jokaiselle yhteiskunnan jäsenelle, riippumatta siitä työskenteleekö hän vai ei? Pitäisikö siitä tulla yleinen ihmisen käytäntö?
Mielestäni tätä ongelmaa on tarkasteltava samasta näkökulmasta kuin tekoälyä: sen pitäisi olla hyödyksi koko ihmiskunnalle ja noudattaa eettisiä ihanteita. Minusta vaikuttaa siltä, että kaikkien ihmisten, jotka saavuttavat tietyn iän, pitäisi saada osuus tietyistä eduista. Kuinka parasta tehdä tämä, se on jatkuva tulovirta tai tietty kerran maksettu pääoma, jonka henkilö voi sitten käyttää oman harkintansa mukaan tiettyihin palveluihin ja tavaroihin, en tiedä vielä. Jatkuvan tulovirran ylläpitäminen taas riippuu taloudellisesta tilanteesta. Ja pitkällä aikavälillä on ymmärrettävä, että todennäköisesti meidän on kohdattava maailman väestön eksponentiaalinen kasvu, joka voi ylittää maailmantalouden kasvun - jonkin verran Malthusian väite.
Luuletko nykyisessä eurooppalaisessa hyvinvointijärjestelmässä - Welferissä - olevan puutteita?
Se vaikuttaa minusta melko hyvältä. Tietysti on tapoja parantaa sitä. Mutta joka tapauksessa on hyvä, kun rikkaissa talouksissa on hyvinvointijärjestelmä, jolla on varaa siihen.
Mitä mieltä olet nykyisestä vasemmistolaisesta politiikasta - poliittinen oikeellisuus, osallisuus ja niin edelleen? Toimiiko hän todella kaikkien hyväksi?
Toisaalta sellaisten asioiden läsnäolo, joista ei voida puhua ja miettiä, vie minut filosofina mahdollisuuksista. Mielestäni katkera totuus on joskus hyvää, vaikka se loukkaanisi jotakuta, ja joudut maksamaan huomattavan hinnan keskustelemaan siitä, mikä on osa modernia todellisuutta.
Toisaalta, jos tämä myötävaikuttaa arkaluontoisemman yhteiskunnan rakentamiseen yhteisön ongelmiin, joiden edustajat tekevät parhaansa ollakseen vahingoittamatta toisiaan, vähentäen siten aggression ja väkivallan tasoa … Kaikki tämä voi olla erittäin myönteinen asia, vaikka se lähitulevaisuudessa edustaa tiettyjä riskejä. Katso, jos olet erittäin halukas olemaan poliittisesti korrekti pienissä päivittäisissä asioissa, todennäköisyys, että aiot suorittaa jonkinlaisen merkittävän ja julman etnisen puhdistuksen tai aloittaa sodan, vähenee huomattavasti. Yleensä, jos se tekee meistä herkempiä pienissä asioissa, niin se auttaa globaalissa mielessä, ja tällaisten ohjelmien kaikki pienet puutteet ovat täysin perusteltuja.
Luin yhdestä julkaisustasi, että moderni länsimainen kulttuuri "sabotoi aktiivisesti hedelmällisyyttämme syntyvyyden valvonnan käyttöönoton takia". Melko konservatiivinen argumentti. Voitko selittää sen?
Tätä tarkoitin: jos et käytä ehkäisymenetelmää, sinulla on enemmän vauvoja, mikä tarkoittaa sitä, että enemmän vauvoja selviää. Nyt ihmiset synnyttävät vähemmän lapsia kuin voisivat, mikä tarkoittaa, että he eivät ole evoluutiotasapainossa nykyaikaisen ympäristön kanssa.
Pitäisikö meidän antaa ensisijainen tehtävä biologiselle evoluutiolle eikä sosiaaliselle?
Uskon, että ensinnäkin pääroolissa tulisi olla inhimilliset arvot, ei joidenkin biologisten tehtävien.
Miksi et siis käytä ehkäisyvalintaa?
Voit tietysti sabotoida lisääntymispotentiaaliasi, mutta sinun on oltava tietoinen tekemästäsi, ja tämä on erittäin hyödyllistä. Esimerkiksi, jos harkitset pitkäaikaisia skenaarioita ihmisen sivilisaation kehitykselle, sinun on otettava huomioon, että lisääntymispotentiaalin sabotoivat ihmiset katoavat jotenkin maan pinnalta. Heidän geeninsä ei ole planeettageenivarastoissa, ellei tätä käytäntöä muuteta.
Nyt lyhyellä aikavälillä sinun ei tarvitse ajatella sitä, mutta sinun pitäisi olla tietoinen siitä, että toimit täällä erilaisia evoluutiotrendejä vastaan. Ja on tärkeää tunnustaa, että tällä on jonkin verran vaikutusta pitkällä tähtäimellä.
Kehys: elokuva "Lucy".
Toimiiko biologinen evoluutio edelleen ihmisyhteiskunnassa?
Tietysti. Se toimii ihmispopulaatiossa samoin kuin muissa populaatioissa. Tietenkin, nykyaikainen ympäristö, jossa elämme, on hyvin erilainen kuin evoluutiokykyinen ympäristö, mutta uskon, että tällä hetkellä ihmiskunnassa on erittäin vahva evoluutiovalinta. Ekologisessa aikataulussa se menee nopeasti, mutta sanotaan, suhteessa tekniikan kehityksen aikatauluun, päinvastoin, hyvin hitaasti. Vaikka valinta on erittäin nopeaa, monien sukupolvien on kuluttava läpi ennen suurta muutosta. Samanaikaisesti uskon, että alle parissa sukupolvessa saamme täydelliset työkalut ihmisen perimän manipulointiin ja muut mahdollisuudet muuttaa ihmisen tilaa. Siksi en ole erityisen huolestunut biologisen evoluution hitaasta kehityksestä, kun otetaan huomioon tällaisten tekniikoiden näkymät.
Pitäisikö meidän valita polku geenivarannon parantamiseksi bioteknologian avulla - valitsemalla “huonot” geenit ja pitämällä “hyvät”? Eikö tämä johda sosiaaliseen darwinismiin?
En usko, että geenilääketiede tai geenivalinta edellyttävät sosiaalista darwinilaista lähestymistapaa. Voit nähdä, miten tämä tapahtuu nyt: kun parit päättävät suorittaa in vitro -hedelmöityksen, alkioille tehdään geenidiagnostiikka. Sen sijaan, että vain tarkistaisimme soluja kromosomaalisten poikkeavuuksien varalta, voimme diagnosoida monenlaisia ongelmia, mukaan lukien ne, jotka eivät liity tautiin. Esimerkiksi taipumus pitkään terveelliseen elämään, älykkyys, urheilukyky, persoonallisuusominaisuudet … Sinulla on enemmän tietoa valitaksesi, mitkä 6-8-10 alkioista implantoida IVF-toimenpiteen aikana. Ja minusta vaikuttaa siltä, että juuri tämä konteksti on todennäköisimmin geneettisen tekniikan käytön kannalta.
Olet kirjoittanut "todistuksen simulaatiosta", jonka mukaan voimme elää todellisuudessa, jota simuloidaan jonkinlaisella tietokoneella. Kuinka tavallinen ihminen voi kuvitella tämän? Se on aluksi vaikea sulattaa
En ymmärrä aivan mitä tehtävääsi asetat. Sinun on vain hyväksyttävä, että mikään ei muutu, on vain, että tämän havaittavan todellisuuden perusta, jossa olemme, ei ole fysiikan peruslakia, vaan jonkinlainen tietokoneeseen upotettu tietokoneohjelma, jonka ovat luoneet edistyneet älykkäät olennot - ehkä teknisesti edistyneempiä sivilisaatio (luultavasti erittäin älykäs). Joten kaikki mitä näemme, ovat tällä tietokoneella käynnissä olevat prosessit, mutta tämän simulaation asukkaille - meille - ei ole mitään suurta eroa sen perustassa.
On mielenkiintoisempaa ajatella käytännön syitä tällaisen simulaation luomiseen. Ne voivat olla erilaisia, sen kirjoittajat voivat suorittaa muita simulaatioita muiden ongelmien ratkaisemiseksi. Simulaation loppumiseen on monia vaihtoehtoja - ja niin edelleen. Sillä on todella merkitystä verrattuna tilanteeseen, jossa tämä todellisuus olisi perustiedot.
Jos puhumme todellisuutta simuloivasta tietokoneesta, entä fysiikan lait? Tällainen tietokone on jättimäinen ja kuluttaa käsittämättömän määrän energiaa, muuten kuinka laskea jokainen alkuainehiukkas?
Varma. Siksi en usko, että tämä sivilisaatio jäljittelee todellisuuden kaikkia yksityiskohtia atomiin asti. Uskon, että on järkevämpää matkia niitä todellisuuden osia, joita havaitsemme silloin, kun tarkkailemme niitä (ehkä joitakin enemmän).
Otetaan esimerkiksi pöydän atomit, joissa istut. Sinulla ei ole aavistustakaan, mitä heille nyt tapahtuu. Sinun on tiedettävä vain pöydän mitat, väri ja paino. Ja simuloinnissa riittää, että lasketaan vain nämä ominaisuudet. Jos otat elektronimikroskoopin ja laitat sen alle pöydän, näet lisätietoja, jotka lasketaan erityisesti tätä varten. Mutta ne lasketaan vain siten, että et tavallinen ihminen huomaa poikkeavuuksia.
Siten, jos olet superintelligenssi, joka hallitsee todellisuutta täysin - kaikkiin sen elementteihin, on viisasta lisätä yksityiskohtia kun kiinnität niihin huomiota.
Osoittautuu, että todellisuutta simuloidaan kaikille seitsemälle miljardille ihmiselle, jotka elävät maan päällä? Eläimille? Muukalaisille?
Kaikki riippuu simulaation tyypistä. Jos puhumme simuloinnista kaikille eläville ihmisille, voidaan kuvitella, että se kattaa koko ihmiskunnan historian ja käynnistettiin melko hiljattain. Voit myös kuvitella simulaation suorittamisen yhdelle tietylle henkilölle tai pienelle ihmisryhmälle. Sitten tietenkin herää kysymys: miten kaikki muut ihmiset, joita näemme siinä, ovat täällä, kun he eivät ole tietoisia olentoja? Ehkä niitä simuloidaan vain ulkonäöltään, kuten videopelien hahmot. Yksi ratkaisematta oleva kysymys on edelleen: miten jäljitellä ihmisten ulkoista käyttäytymistä tuottamatta sivuvaikutuksena tietoisuutta, joka, kuten me yleensä oletamme, jokaisella ihmisellä on? Joten luomalla todennäköisesti uskottava henkilö käyttäytymisen suhteen,sinun on simuloitava hänen aivoissaan tapahtuvia prosesseja erityisellä tarkkuudella, jonka pitäisi tavalla tai toisella johtaa tietoisen mielen syntymiseen. Vaikka tietysti on olemassa mahdollisuus, että voit yksinkertaisesti väärentää sen. Ja sitten voimme kuvitella olevan olemassa pieni ryhmä simulaatioita - ihmisiä, joissa tietoisuus on kehittynyt kokonaan, kun taas loput ovat vain ekstrat.
Hypoteesi mukaan simulaatioissa voi olla monia simulaatioita - kuten pesänukkeja. Onko tässä tapauksessa pakollisen, ei jäljitellyn universumin olemassaolo? Kuinka se ilmestyi ja mikä se on?
Väitteeni oletaa, että fysikaalisessa todellisuudessa on jokin perustaso, jossa tietyt olennot kehittyvät, tulevat erittäin teknologisesti edistyneiksi, käyttävät näitä tekniikoita superintelligenssin (tai superintelligen tekoälyn) aikaansaamiseksi ja sitten heillä on paljon resursseja ja aikaa. He viettävät sen, luomalla nämä älykkäiden ihmisten simulaatiot - ehkä kuten me.
Ehkä ne antavat simulaation toimia edelleen, kun nämä ihmiset ovat luoneet simulaation, josta tulee sitten toisen tason simulaatio. Mutta kaikki tämä tapahtuu tietokoneessa, jonka on luonut sivilisaatio, joka on fyysisen todellisuuden perustasolla, ja samalla simulaatiossa voi olla koko simulaatiohierarkia. Mutta täällä kaikelle on erityinen raja, koska lopulta jäljitelmä suoritetaan tietokoneella, joka on fyysisen todellisuuden perustasolla. Käytettävissä olevalle energialle on rajoituksia näiden kapasiteettien ylläpitämiseksi, ja siksi sisäkkäisten simulaatioiden lukumäärä. Tietysti voit ottaa esoteerisen lähestymistavan, yrittää löytää porsaanreikiä loputtomalle pesemiselle, mutta en usko, että se kannattaa tehdä.
Entä jos ne simuloivat maailmoja, joissa fysiikan lait ovat täysin erilaisia kuin meidän?
Tämä on myös mahdollista, he voivat luoda jonkinlaisia fantastisia simulaatioita.
No, jos elämme simulaatiossa, mitä hyötyä on suunnitelmien laatimisesta, globaalien riskien ennustamisesta … Eksistentiaalinen kysymys - mikä on elämän tarkoitus simulaatiossa, kun sen luojat voivat yksinkertaisesti sammuttaa tietokoneen virran ja kaikki loppuu?
Yleisesti ottaen”todiste simulaatiosta” ei tarkoita sitä, että elämme simulaatiossa, vaan pikemminkin sen rajoissa, johon voimme uskoa. Siinä oletetaan, että yksi kolmesta lausunnosta on totta. Ensimmäinen on, että elämme simulaatiossa, mutta vaihtoehtoja on kaksi. Toinen on se, että kaikki sivilisaatiot menehtyvät ennen teknologisen kypsyyden saavuttamista, ja kolmas on, että kaikki kypsät sivilisaatiot menettävät kiinnostuksensa tällaisten simulaatioiden luomiseen, he vain päättävät olla tekemättä niitä.
Mutta jos väitämme, että elämme todella simulaatiossa, en ymmärrä, miksi jokapäiväisen elämän tarkoitus riippuu siitä, että todellisuutemme perusta on jonkin edistyneen sivilisaation luoma jäljitelmä, ei fysiikan peruslakien perusteella. Joka tapauksessa se, mitä sinulle tapahtuu seuraavaksi, mitä tapahtuu sukulaisillesi, ystävillesi ja muille ihmisille, riippuu toimistasi. Joten mitä simulaatiossa teet, on merkitystä, vaikka sen ulkopuolella ei olisikaan.
Lisäksi on mahdollista, että simulaation sisällä tapahtuva vaikuttaa siihen, mikä on sen ulkopuolella. Ehkä luojat kehittivät sen tieteellisiin tarkoituksiin tutkiaksesi, mitä ihmiset tekevät, ja tämä vaikuttaa siihen, mitä he tekevät, koska heidän on tärkeää ymmärtää ihmisen luonne tekemämme valintojen perusteella. Joten siellä voi olla ylimääräisiä seurauksia, jotka eivät ole selviä.
Haastatteli Mikhail Karpov