Kuuluisa brittiläinen fyysikko Stephen Hawking totesi Johnny Deppin pääosassa kehitetyn tieteiskirjallisuuden "Transcendence" inspiroimassa artikkelissa, että tekoälyn uhkien aliarviointi voi olla ihmiskunnan historian suurin virhe.
Kalifornian yliopiston Berkeleyn yliopiston tietotekniikan professori Stuart Russellin ja MIT: n fysiikan professoreiden Max Tegmarkin ja MIT: n Frank Wilczekin kanssa kirjoittamassa artikkelissa Hawking huomauttaa keinotekoisen älykkyyden edistymisestä, panemalla merkille itse ajavat autot, Sirin ääniassistentti ja supertietokone. miehen voittaja Jeopardy TV -kilpailupelissä.
”Kaikki nämä saavutukset ovat vaaleita taustalla, mitä meitä odottaa tulevina vuosikymmeninä. Tekoälyn onnistunut luominen on suurin tapahtuma ihmiskunnan historiassa. Valitettavasti se voi osoittautua viimeiseksi, jos emme oppi välttämään riskejä”, Hawking lainasi brittiläisen The Independent -lehden.
Professorit kirjoittavat, että tulevaisuudessa voi käydä niin, että kukaan eikä mikään voi estää epäinhimillisen älykkyyden omaavia koneita parantamasta itseään. Ja tämä käynnistää ns. Teknologisen singulaarisuuden prosessin, joka tarkoittaa erittäin nopeaa teknologista kehitystä. Elokuvassa, jossa Depp osallistui, sanaa "transcendence" käytetään tässä mielessä.
Kuvittele tällainen tekniikka, joka ylittää ihmiset ja ohjaa finanssimarkkinoita, tieteellistä tutkimusta, ihmisiä ja aseiden kehittämistä ymmärryksemme ulkopuolella. Jos tekoälyn lyhytaikainen vaikutus riippuu siitä, kuka sitä hallitsee, niin pitkäaikainen vaikutus riippuu siitä, voidaanko sitä ollenkaan hallita.
On vaikea sanoa, mitä vaikutuksia tekoälyllä voi olla ihmisille. Hawking uskoo, että näihin aiheisiin on omistettu vain vähän vakavaa tutkimusta sellaisten voittoa tavoittelemattomien organisaatioiden, kuten Cambridge-keskuksen, jonka tarkoituksena on tutkia eksistentiaalisia riskejä,, ihmiskunnan tulevaisuuden instituutin ja tutkimusinstituuttien koneintelyn ja tulevan elämän ulkopuolella.
Hänen mukaansa jokaisen meistä tulisi kysyä itseltämme, mitä voimme tehdä nyt tulevaisuuden pahimman tapauksen välttämiseksi.