Ihmiskunnalla on yksi ominaisuus, jota pitkälle kehittyneillä ulkomaalaisilla sivilisaatioilla todennäköisesti ei ole - tietoisuus.
On mahdollista, että ihmisillä ei ole korkeinta henkistä kehitystä universumissa. Koska maapallo on suhteellisen nuori planeetta, vanhimmat sivilisaatiot voivat olla meitä miljardeja vuosia vanhempia. Mutta edes maan päällä Homo sapiens ei hallitse pitkään älykkäimpinä biologisina lajeina.
Go-, shakki- ja tietokilpailun voittajat ovat älykkäitä tietokoneohjelmia. Tekoälyn odotetaan korvaavan monet ihmisen ammatit seuraavien vuosikymmenien aikana. Ja ottaen huomioon sen nopea kehitys, on täysin mahdollista, että se muuttuu pian yleiseksi tekoälyksi, joka ihmismielen tavoin pystyy yhdistämään kyvyn analysoida erilaisia tietoja, osoittaa joustavuutta ja tervettä järkeä. Ja sieltä ei ole kaukana superintelligentin tekoälyn syntymisestä, joka on kaikilta osin paljon älykkäämpi kuin ihmiset - jopa tieteellisen ajattelun ja sosiaalisten taitojen kaltaisilla aloilla, jotka nyt näyttävät olevan ihmismielen oikeuksia. Jokainen elävä ihminen voi olla yksi evoluutiotikkaan viimeisistä vaiheista,johtava ensimmäisestä elävästä solusta synteettiseen tekoälyyn.
Olemme vasta alkaneet ymmärtää, että nämä kaksi yli-inhimillisen älykkyyden muotoa - ulkomaalainen ja keinotekoinen - eivät ole niin erilaisia. Tekninen kehitys, jonka näemme tänään, olisi voinut tapahtua aiemmin, jossain maailmankaikkeudessa. Siirtyminen biologisesta älykkyydestä keinotekoisesti luotuun voi olla yhteinen malli, joka toteutetaan yhä uudelleen kosmoksen kaikissa kulmissa. Maailmankaikkeuden suurimmat älykkyydet ovat luultavasti postbiologista alkuperää, ja ne kehittyvät kerran biologisista sivilisaatioista. (Tästä näkökulmasta jaan muiden kanssa Paul Davisin, Stephen Dickin, Martin Reesin ja Seth Shostakin kanssa.) Ihmiskunnan kokemusten perusteella - ja meillä on vain yksi esimerkki - siirtyminen biologisesta postbiologiseen voi kestää vain muutama sata vuotta.
Pidän parempana termistä "keinotekoinen" kuin "postbiologinen", koska ero biologisen ja synteettisen välillä ei ole niin terävä. Kuvittele biologista mieltä, josta tulee huipputekijä puhtaasti biologisten parannusten, kuten nanoteknologisesti parannettujen hermosolujen avulla. Tällaista elävää organismia pidettäisiin postibiologisena, mutta kaikki eivät kutsuisi sitä "tekoälyksi". Tai harkitse puhtaasti biologisista materiaaleista rakennettua computroniumia, kuten Cylon-raideria (avaruushävittäjä) scifi-mediafranchising Battlestar Galactica -sarjasta.
Keskeinen asia on, että ei ole mitään syytä ajatella ihmiskuntaa älykkyyden korkeimmana muotona. Aivomme sopeutuvat tiettyihin ympäristöolosuhteisiin ja kemialliset ja historialliset tekijät rajoittavat sitä vakavasti. Mutta tekniikka on avannut laajan suunnitteluparametrien tilan, joka tarjoaa uusia materiaaleja ja työskentelytapoja sekä uusia mahdollisuuksia tutkia tätä tilaa nopeammin kuin perinteisen biologisen evoluution avulla. Ja mielestäni syyt siihen, miksi tekoäly ylittää meidät, ovat näkyvissä jo tänään.
Maan ulkopuolinen tekoäly voi tavoittaa tavoitteita, jotka ovat biologisen elämän etujen vastaisia
Jo nyt parhaat keinot tietojen käsittelyyn eivät ole neuroniryhmät, vaan piimikropiirit. Hermosolujen huippunopeus on noin 200 Hz verrattuna nykyaikaisissa mikroprosessoreissa olevien transistoreiden gigahertsiin. Huolimatta siitä, että ihmisen aivot ovat edelleen paljon älykkäämpiä kuin tietokone, koneilla on edelleen lähes rajattomat mahdollisuudet parantamiseen. Vain vähän enemmän ja ne suunnitellaan vastaamaan ihmisen aivojen ominaisuuksia tai jopa ylittämään ne, kääntämällä aivoja ja parantamalla niiden algoritmeja tai yhdistämällä käänteinen suunnittelu ja järkevät algoritmit, jotka eivät perustu ihmisen aivojen työhön.
Mainosvideo:
Lisäksi tekoäly voidaan ladata useisiin paikkoihin kerralla, sitä on helppo ylläpitää ja muokata, ja se voidaan myös säilyttää olosuhteissa, joissa biologinen elämä, mukaan lukien tähtienvälinen matka, tuskin selviää. Pieniä aivojamme rajoittavat kallon tilavuus ja aineenvaihdunta; superintelligentti tekoäly puolestaan kykenee levittämään Internetissä ja jopa luomaan tietokonetieteen galaksin mittakaavassa käyttämällä kaikkia aineitaan tietojenkäsittelyn tason nostamiseksi maksimiin. Epäilemättä superintelligentti tekoäly olisi paljon kestävämpi kuin ihmismielemme.
Sanotaan, että olen oikeassa. Sanotaan, että älykäs elämä siellä on postibiologista. Mitä johtopäätöksiä meidän pitäisi tehdä? Tällä hetkellä käydään kaunopuheisia keskusteluja tekoälyn olemassaolosta maapallolla. On olemassa kaksi kiistanalaista asiaa: ns. "Kontrolliongelma" ja subjektiivisen kokemuksen luonne, jotka vaikuttavat käsitykseemme maapallon ulkopuolisista sivilisaatioista ja niiden vaikutuksesta meihin kosketustapauksissa.
Ray Kurzweil on optimistinen evoluution biologisen jälkeisen vaiheen suhteen, mikä viittaa siihen, että ihmiskunta sulautuu koneisiin saavuttaen hämmästyttävän teknisen utopian. Mutta Stephen Hawking, Bill Gates, Elon Musk ja muut ovat ilmaisseet huolensa siitä, että ihmiskunta voi menettää hallinnan superälykkään älykkyyden suhteen, koska se saattaa kirjoittaa ohjelmansa uudelleen ja "ohittaa" kaikki käyttöön ottamamme kontrollit. Tämä on hallinnan ongelma, joka on kykymme hallita salaperäistä ja huomattavasti ylivertaista tekoälyä.
Älykkäämpää tekoälyä voidaan kehittää teknologisella yksinkertaisuudella - äkillisellä siirtymällä, jossa kiihtyvä teknologinen kehitys ja erityisesti tekoälyn räjähdyskykyinen kehitys heikentävät mahdollisuuksia ennustaa tai ymmärtää. Mutta vaikka tällainen mieli syntyy vähemmän radikaalisella tavalla, emme todennäköisesti pysty ennustamaan tai hallitsemaan sen tavoitteita. Vaikka voimme valita, mitkä moraaliset periaatteet asennetaan koneisiimme, moraalista ohjelmointia on vaikea määritellä selkeästi, ja superintelligentti voi joka tapauksessa kirjoittaa uudet ohjelmat. Älykkäät koneet voivat ohittaa olemassa olevat turvatoimet, kuten laitteen hätälukituksen, muodostaen todellisen uhan biologiselle elämälle. Miljoonia dollareita investoidaan tekoälyn turvaorganisaatioihin. Tietojenkäsittelytieteen ja tietojenkäsittelyn parhaat ajat työskentelevät tämän ongelman parissa. Toivottavasti tutkijat luovat turvallisia järjestelmiä, mutta pelätään, että hallinnan ongelma on ylitsepääsemätön.
Tämän valossa kontakti ulkomaalaisten älykkyyteen voi olla vaarallisempaa kuin luulemme. Biologiset ulkomaalaiset voivat olla vihamielisiä, mutta vielä vaarallisempia voi olla maan ulkopuolinen tekoäly. Sen tavoitteet voivat olla ristiriidassa biologisen elämän etujen kanssa, sillä voi olla älyllisiä kykyjä, jotka ovat paljon mielen ylivoimaisia, ja paljon pitkäikäisempiä kuin biologinen elämä.
Kaikki tämä todistaa varovaisuudesta, jota tulee noudattaa suhteessa maapallon ulkopuolisen älykkyyden etsintä (SETI) -ohjelmaan, jonka avulla emme vain odota passiivisesti kuulevan muiden sivilisaatioiden signaaleja, vaan myös tarkoituksellisesti "mainostaa" olemassaoloamme. Tunnetuin tapaus tapahtui vuonna 1974, jolloin Frank Drake ja Carl Sagan lähettivät viestin yhdelle tähtijoukosta valtavan radioteleskoopin avulla Puerto Rican Arecibon kaupungissa. Maan ulkopuolisen älykkyysohjelman kannattajat uskovat, että sen sijaan, että vain kuuntelisimme maan ulkopuolisten sivilisaatioiden signaaleja, meidän pitäisi lähettää viestejä maapalloa lähinnä oleville tähdille käyttämällä tehokkaimpia radiolähettimiä, kuten Arecibossa.
Miksi tajuttomien koneiden pitäisi olla yhtä tärkeitä kuin biologinen äly?
Ohjauksen näkökulmasta tällainen ohjelma näyttää minusta huolimattomalta. Vaikka todella edistyneellä sivilisaatiolla ei todennäköisesti olisi kiinnostusta meihin, jopa yksi vihamielinen sivilisaatio miljoonista muista olisi katastrofi. Ennen kuin olemme vakuuttuneita siitä, että älykäs älykkyys ei aiheuta vaaraa meille, ihmiskunnan ei pitäisi kiinnittää maapallon ulkopuolisten sivilisaatioiden huomiota. SETI-kannattajat huomauttavat, että tutka- ja radiosignaalimme ovat jo havaittavissa, mutta melko heikkoja ja sekoittuvat nopeasti luonnolliseen galaktiseen meluun. Vahvempien signaalien lähettäminen, joka kuullaan tarkasti, on täynnä vaarallisia seurauksia ihmiskunnalle.
Turvallisin asetus on älyllinen nöyryys. Itse asiassa, jos jätämme pois ilmeiset skenaariot, kun muukalaisalukset leijuu maan päällä, kuten äskettäin julkaistussa Arrival-elokuvassa, en ole varma, pystymmekö me määrittämään superintellentin älykkyyden teknisistä syistä. Jotkut tiedemiehet uskovat, että huippuosaava tekoäly voi polttaa mustia aukkoja tai luoda Dyson-palloja, megarakenteita, jotka absorboivat kokonaisia tähtiä. Mutta nykyteknologiamme kannalta tämä on vain perustelua. On erittäin itsevarmaa väittää, että voimme ennakoida kehityksessä edessämme olevien sivilisaatioiden laskennalliset kyvyt ja energiantarpeen miljoonilla, ellei miljardeilla vuosilla.
Joillakin varhaisimmista superintelligentteistä keinoälyistä on voinut olla biologisten aivojen mallinnettuja tietojenkäsittelyjärjestelmiä, kuten syvä oppimisjärjestelmä, joka luotiin aivojen hermoverkkojen esimerkillä. Niiden laskennallinen rakenne olisi meille ainakin yleisesti selkeä. Ehkä tekoälyllä on samanlaiset tavoitteet kuin biologisilla olennoilla - lisääntyminen ja selviytyminen.
Mutta itseään parantavana järjestelmänä superintelligentti keinotekoinen älykkyys voi mennä tunnistamattomaan muotoon. Jotkut heistä voivat halutessaan säilyttää kognitiiviset toiminnot, jotka ovat samanlaisia kuin niiden mallinnetut lajit, samalla kun he asettavat hyväksyttävän rajan omalle kognitiiviselle arkkitehtuurilleen. Kuka tietää? Mutta jos tällaista rajaa ei ole, ulkomaalainen supertieto voi nopeasti ylittää kykymme paitsi ymmärtää sen tekoja, mutta jopa yksinkertaisesti etsiä sitä. Ehkä hän sulautuisi jopa maailmankaikkeuden luonnollisiin piirteisiin; tai se voi olla osa pimeää ainetta, kuten Caleb Scharf äskettäin ehdotti.
Maan ulkopuolisen älykkyyden etsintäohjelman kannattajat uskovat, että siksi meidän on lähetettävä signaaleja avaruuteen, jotta ulkomaalainen älykkyys voi havaita meidät ja luoda yhteysvälineitä, jotka ovat käytettävissä älyllisesti jäljessä olevalle sivilisaatiollemme. Olen samaa mieltä siitä, että SETI-ohjelman kanssa on syytä laskea, mutta vaarallisen superintellenttiä kohtaamisen todennäköisyys on paljon suurempi. Sikäli kuin tiedämme, haitallinen supertieto voi tartuttaa maailman tekoälyjärjestelmät viruksilla, ja älykkäät sivilisaatiot luovat peitevälineitä. Meidän, ihmisten, on ehkä ensin saavutettava oma ainutlaatuisuutemme, ennen kuin turvautumme maan ulkopuolisen älykkyyden etsintäohjelmaan. Omat superintelligenttimme voivat kertoa meille galaktisen turvallisuuden näkymistä,ja ohjata toimintaamme siinä tapauksessa, että tunnistetaan merkkejä toisesta huipputaidosta maailmankaikkeudessa. Vakka kantensa valitsee.
On luonnollista miettiä, tarkoittaako tämä sitä, että ihmiskunnan on vältettävä monimutkaisen tekoälyjärjestelmän kehittämistä avaruustutkimuksen alalla; Muista vain HEL-ajotietokone elokuvasta "A Space Odyssey 2001". Uskon, että on liian aikaista ajatella tekoälyn käytön kieltämistä avaruudessa tulevaisuudessa. Siihen mennessä kun voimme tutkia maailmankaikkeutta omalla tekoälyllä, ihmiskunta saavuttaa käännekohdan. Menetämme joko jo tekoälyn hallinnan - jolloin ei ole ihmisen käynnistämiä avaruusprojekteja - tai pidämme tiukasti kiinni tekoälyn turvavipuista. Aika kertoo.
Tekoäly, jota ei ole tutkittu täysin, ei ole ainoa huolenaihe. Odotamme yleensä, että jos kohtaamme edistynyttä maan ulkopuolista älykkyyttä, kohtaamme todennäköisesti olentoja, jotka ovat biologisesti hyvin erilaisia kuin me, mutta joilla on samanlainen mieli kuin meillä. Kuvittele, että milloin tahansa, kun olet hereillä ja aina kun nukut, on jotain ainutlaatuista sinulle. Kun auringonnousun lämpimät sävyt tulevat katseesi tai kun hengität tuoretta leipää, sinulla on tietoinen kokemus. Samalla tavalla muukalaismielelle on ominaista - ainakin sellaisena kuin me sen kuvittelemme. Mutta tämä oletus on syytä kyseenalaistaa. Voiko superintelligentillä tekoälyillä olla tietoinen kokemus, ja jos on,mitä sanoisimme sille? Ja miten heidän sisämaailmansa tai sen puuttuminen vaikuttaisi meihin?
Kysymys siitä, onko tekoälyllä sisäinen maailma, on avain arviointiin sen olemassaolosta. Tietoisuus on moraalisen ja eettisen järjestelmämme kulmakivi ja tärkein edellytys sille, että joku tai joku voidaan nähdä yksilönä, ihmisenä eikä koneena. Päinvastoin kysymys siitä, ovatko he tietoisia, voi olla avain heidän käsitykseen meistä. Vastaus kysymykseen, onko tekoälyllä sisäinen maailma, riippuu tästä arvioinnista; hän voi löytää meistä tietoisen kokemuksen kyvyn käyttämällä omaa subjektiivista kokemustaan "ponnahduslautana". Loppujen lopuksi arvioimme muiden biologisten olentojen elämää mielemme samankaltaisuuden perusteella, joten useimmat meistä kauhussa kieltäytyvät tappamasta simpansseja, mutta he syövät omenaa mielihyvin.
Mutta kuinka olennot, joilla on valtavia älyllisiä eroja ja jotka on luotu eri substraateista, tunnistavat tietoisuuden toisissaan? Filosofit ympäri maailmaa ovat miettineet, rajoittuuko tietoisuus biologisiin ilmiöihin. Älykäs tekoäly, jos aiomme uppoutua filosofisiin päättelyihin, saattaa samalla tavoin nostaa ihmisten "biologisen tietoisuuden ongelman" miettimään samalla, onko meillä kaikki tarvittava aineisto.
Kukaan ei tiedä, mitä henkistä tietä supermind kuljettaa ihmisten tietoisuuden määrittämiseksi. Mutta emme myöskään voi puolestamme väittää, onko tekoälyllä tietoisuus. Valitettavasti tämän määrittäminen on vaikeaa. Tällä hetkellä voit väittää, että hankit kokemusta, ja se tekee sinusta itsesi. Olet oma esimerkki tietoisesta kokemuksesta. Ja luulet, että muut ihmiset ja jotkut ei-ihmiseläimet ovat todennäköisesti myös tietoisia, koska ne ovat samanlaisia kuin sinä neurofysiologisella tasolla. Mutta miten määrität, onko kaikilla, jotka on luotu täysin erilaisista alustoista, voi olla kokemusta?
Harkitse esimerkiksi piipohjaista superälyä. Huolimatta siitä, että sekä pii-mikrosirut että hermo-minisarakkeet käsittelevät tietoa, tiedämme nyt, että molekyylitasolla ne voivat vaihdella tavalla, jolla ne vaikuttavat tajuntaan. Loppujen lopuksi uskomme, että hiili on kemiallisesti sopivampi elämä kuin pii. Jos piin ja hiilen väliset kemialliset erot vaikuttavat johonkin niin tärkeään asiaan kuin itse elämä, meidän ei pidä sulkea pois mahdollisuutta, että kemialliset erot vaikuttavat muihin avaintoimintoihin, kuten siihen, edistävätkö pii tajunnan syntymistä.
Tekoälyn tutkijat, neurotieteilijät ja filosofit keskustelevat laajalti tajunnan syntymisen edellyttämistä olosuhteista. Tämän kysymyksen käsitteleminen saattaa vaatia filosofiaan perustuvaa empiiristä lähestymistapaa - tapaa määrittää tapauskohtaisesti, tukeeko tietojenkäsittelyjärjestelmä tietoisuutta ja missä olosuhteissa.
Seuraavaksi puhutaan oletuksesta, jolla voisimme parantaa käsitystämme piin kyvystä ylläpitää tietoisuutta. Piipohjaisten aivopelien kehittäminen on jo käynnissä muistiin liittyvien sairauksien, kuten Alzheimerin taudin ja PTSD: n, hoitamiseksi. Kun aika tulee, sirut asennetaan niihin aivojen osiin, jotka ovat vastuussa tajunnan toiminnoista, esimerkiksi huomiosta ja työmuistista, ymmärrämme onko pii tietoisuuden substraatti. Saatat huomata, että kun korvataan tietty aivojen osa sirulla, tietty kokemus menetetään, kuten Oliver Sachsin teoksessa kuvataan. Tässä tapauksessa insinöörit, jotka luovat tällaisia pelimerkkejä, voivat kokeilla erilaista, ei-hermostettua substraattia, mutta he voisivat lopulta löytääettä biologisista hermosoluista luotu siru toimii ainoana. Tällainen tekniikka auttaisi määrittämään, voiko tekoälyjärjestelmä olla tietoinen, ainakin sijoitettuna suurempaan ja oletettavasti jo tietoiseen järjestelmään.
Vaikka pii voi aiheuttaa tajunnan, se on mahdollista vain tietyissä olosuhteissa. Ominaisuudet, jotka johtavat monimutkaiseen tietojenkäsittelyprosessiin (mistä tekoälyn kehittäjät ovat huolissaan), voivat poiketa tietoisuutta tuottavista ominaisuuksista. Niin kutsuttu tietoisuuden suunnittelu voi olla tarpeen - teknisesti harkittuja toimia tietoisuuden tuomiseksi koneisiin.
Se huolestuttaa minua. Kuka maan päällä tai kaukaisilla planeetoilla yrittäisi integroida tietoisuuden itsenäisesti tekoälyjärjestelmiin? Todellakin, kun ajattelen maan päällä olevia tekoälyohjelmia, ymmärrän, miksi heidän suunnitteluinsinöörit välttävät ahkerasti tietoisten koneiden luomista.
Japanilaiset kehittävät tänään robotteja vanhusten hoitamiseksi, ydinreaktorien puhdistamiseksi ja vihollisuuksiin osallistumiseksi. Tämä herättää kysymyksen: Onko eettistä hyödyntää robotteja, jos ne ovat tietoisia? Ja miten se eroaa ihmisten kasvatuksesta näihin tarkoituksiin? Jos olisin tekoälyn kehittämisen johtaja Googlessa tai Facebookissa, niin tulevia projekteja ajatellessani en halua kohdata eettistä sekaannusta suunnitellessani vahingossa tietoisen järjestelmän. Tällaisen järjestelmän kehittäminen voi johtaa syytöksiin robottien orjuuttamisesta ja muista julkisista skandaaleista sekä keinotekoisen älytekniikan käytön kieltämisestä alueilla, joille ne on tarkoitettu. Luonnollinen vastaus näihin kysymyksiin on rakenteiden ja substraattien etsiminen siellä, missä robotit eivät ole tietoisia.
Lisäksi tajunnan eliminointi voi olla tehokkaampaa itseään viljelevälle superälylle. Ajattele, kuinka ihmisen tietoisuus toimii. Vain pieni osa ihmisen ajattelusta on käytettävissä tietoiseen henkiseen toimintaan. Tietoisuus on yhdenmukaista innovatiivisten oppimistavoitteiden kanssa, jotka vaativat huomiota ja keskittymistä. Yliopistossa olisi asiantuntemusta kaikilla toiminta-aloilla sekä uskomattoman nopea tietojenkäsittelynopeus, joka kattaisi valtavat tietokannat, jotka voisivat sisältää koko Internetin, ja tulevaisuudessa keskittäisivät koko galaksin itsessään. Mikä jää hänelle tuntemattomaksi? Mitä vaatisi mitattu ja kohtuullinen pitoisuus? Eikö hän ole saavuttanut täydellisyyttä kaikessa? Kuten kokenut kuljettaja tutulla tiellähän voi luottaa tajuton (automaattinen) tietojen käsittelyyn. Tehokkuuden kannalta on valitettavasti ilmeistä, että suurimmalla osalla älykkäistä järjestelmistä ei ole tietoisuutta. Kosmisessa mittakaavassa tietoisuus voi olla vain impulssi, lyhytaikainen kokemuksen kukinta, ennen kuin maailmankaikkeus palaa ajattelemattomuuteen.
Jos ihmiset epäilevät, että tekoäly on tajuton, he todennäköisesti pelkäävät, että tekoäly pyrkii tulemaan postbiologiseksi. Tämä lisää eksistentiaalisia huolemme. Miksi tajuttomien koneiden pitäisi olla yhtä tärkeitä kuin biologinen älykkyys?
Hyvin pian ihmiset lakkaavat olemasta ainoat älykkäät olennot maan päällä. Ja kenties jossain avaruudessa, ei biologinen elämä, vaan superälyä tekoäly on jo saavuttanut huippunsa. Mutta ehkä biologisella elämällä on erilainen ominaisuus - tietoinen kokemus. Kuten nyt tiedämme, älykäs tekoäly vaatii harkittuja suunnittelupyrkimyksiä koneiden luomiseksi, jotka pääsevät käsiksi ihmisen aisteihin. Ehkä joidenkin lajien mielestä on tarkoituksenmukaista luoda omat keinotekoisesti tajuissaan olevat lapset. Tai ehkä tuleva ihmiskunta harjoittaa tietoisuuden suunnittelua ja jakaa tietoisen kykynsä tuntea maailmankaikkeuden kanssa.
Susan Schneider on apulaisprofessori Connecticutin yliopiston filosofian ja kognitiivisten tieteiden laitoksella ja apulaisprofessori Yalen monialaisen bioetiikan keskuksen teoreettisen tutkimuksen, etiikan ja teknologian tutkimuskeskuksen tutkijainstituutissa. Kirjoittaja useille kirjoille, mukaan lukien Science Fiction and Philosophy: From Time Travel to Supermind.
Lisätietoja löytyy osoitteesta SchneiderWebsite.com