Poliitikkoilla ja kapitalisteilla on perjantaina iltapäivällä perinne polttaa paljon uutisia piilottaakseen keskuudessaan olevat huonot uutiset. Joten oli hiukan outoa, että sähköajoneuvojen valmistajan Teslan perustaja Elon Musk ja tunnetun tekniikan yrityshautomon Y Combinator presidentti Sam Altman paljastivat uuden AI-aiheisen yrityksensa viikon mittaisen AI-konferenssin lopussa Montrealissa viime joulukuussa.
Oli olemassa syy OpenAI: n esittelyyn niin myöhään. Ei siksi, että kukaan ei katsellut. Koska kaikki katselivat. Kun eräät Piilaakson tehokkaimmista yrityksistä havaitsivat tuulen puhaltavan, he alkoivat tarjota valtavia rahasummia äskettäin nousseelle OpenAI AI -taitoille pitääkseen nämä nerokset kotona. Viime hetken ehdotukset - jotkut tehtiin itse konferenssissa - kasvoivat niin suureksi, että Muskin ja Altmanin piti viivyttää uuden käynnistyksen ilmoittamista. "Summat ovat saavuttaneet hulluuden", sanoo Wojciech Zaremba, tutkija, joka liittyi OpenAI: n harjoittelujakson jälkeen Googlessa ja Facebookissa ja oli niiden joukossa, jotka saivat suuria tarjouksia klo 23.00.
Kuinka monta dollaria on hulluuden raja? Kaksi vuotta sitten, kun uusimpien koneoppimistekniikoiden markkinat alkoivat lämmetä, Microsoft Researchin johtaja Peter Lee sanoi, että AI: n huippututkijoiden kustannukset ovat ylittäneet Kansallisen jalkapalloliigan parhaan puolustajan kustannukset - ja se on normaalioloissa, ei silloin, kun suurimmat yrittäjät Piilaakso yrittää salametsätä parhaat kyvyt. Zaremba kertoo, että kun OpenAI kokoontui, sille tarjottiin kaksi tai kolme kertaa sen markkina-arvo.
OpenAI ei vastannut näitä ehdotuksia. Mutta hän tarjosi jotain erilaista: kyky tehdä tutkimusta keskittyi yksinomaan tulevaisuuteen tuotteiden eikä neljännesvuosittaisten voittojen sijasta ja jakaa lopulta suurin osa - ellei kaikki - tutkimuksesta kenen tahansa halukkaiden kesken. Se on totta: Musk, Altman ja yritys päättivät antaa pois sen, mikä voisi olla 2000-luvun muuttuvin tekniikka, ja antaa sen ilmaiseksi.
Zaremba sanoo, että hulluuden edessä olevat ehdotukset todella lykättivät häntä - huolimatta valtavasta kunnioituksesta yrityksiin, kuten Google ja Facebook. Hänen mielestään rahat kanavoitiin OpenAI: n perustamisen estämiseen, mikä vahvisti entisestään hänen sitoutumistaan anteliaaseen startupiin. "Tajusin", sanoo Zaremba, "että OpenAI on paras paikka minulle."
Tunnetko ironian tämän tarinan ytimessä? Vaikka maailman suurimmat teknologiayritykset yrittävät pitää tutkijansa yhtä kovana kuin NFL-joukkueet yrittävät pitää kiinni tähdensä takaisinotostaan, tutkijat itse haluavat vain kertoa näkemyksensä. AI-tutkimuksen hienostuneessa maailmassa valoisimpia mieliä ei johda vain seuraava tuotesykli tai voitto, tai heitä ei ole ollenkaan pakkomielle. He haluavat tehdä AI: stä paremman, ja on mahdotonta tehdä AI: tä, kun pidät viimeisimmät kehityksesi itsellesi.
OpenAI julkaisi äskettäin ensimmäisen erän AI-ohjelmistoja, työkalupakin lujittamisoppimiseen kutsuttuun tekniikkaan perustuvan keinotekoisen älykkyyden järjestelmien luomiseen, joka on yksi keskeisistä tekniikoista, jotka johtivat AlphaGon, Googlen AI: n, luomiseen, joka yllätti maailman kyvyillään. mene pelejä. Tämän työkalusarjan avulla voit rakentaa järjestelmiä, jotka avaavat uuden sukupolven robotteja, pelata Atari-pelejä ja kyllä, voittaa Go-maailmanmestarit.
Mainosvideo:
Mutta lelut ovat vasta alkua. OpenAI on miljardin dollarin tehtävä työntää AI niin pitkälle kuin mahdollista. Tavassa, jolla yritys kokoontui ja mitkä ovat sen suunnitelmat, näet seuraavan uuden innovaatioaallon. Emme vielä tiedä, onko OpenAI näiden muutosten päätekijä. Mutta tämän melko epätavallisen käynnistyksen luomisen takana olevat tekijät osoittavat, että seuraavan sukupolven AI ei muuta vain tekniikkaa, vaan myös tapaa, jolla se toimii.
Keinotekoinen äly on kaikkialla
Piilaaksossa on intohimo liioitteluun. Rohkeasti kuulostavat lausunnot tulisi aina täyttää suolajyvällä. Mutta tekoälyn alalla muutoksia todellakin tapahtuu. Yrityksissä, kuten Google ja Facebook, syvän oppimisen tekniikat auttavat jo Internet-palveluita tunnistamaan valokuvissa olevat kasvot, tunnistamaan älypuhelimien äänikomennot ja vastaamaan Internet-hakuihin. Ja sama tekniikka voisi ratkaista tulevaisuudessa monia muita ongelmia. Se voi auttaa koneita oppimaan ymmärtämään luonnollista kieltä - jota olemme tottuneet puhumaan ja kirjoittamaan. Se voi auttaa kehittämään uuden tyyppisiä robotteja, antamaan automaattien paitsi suorittaa tehtävänsä myös oppia lennossa. Ja jotkut uskovat, että tämä antaa viime kädessä koneille jotain järkeä - kyvyn ajatella todella kuin ihminen.
Ja tällaisten lupausten kanssa syntyy syvä ahdistus. Musk ja Altman ovat huolissaan siitä, että jos ihmiset voivat luoda AI: itä, jotka tekevät suuria asioita, he voivat rakentaa AI: t, jotka tekevät kauheita asioita. He eivät ole pelkästään yksin. Vaikka tämä saattaa tuntua vastaintuitiiviselta, Musk ja Altman uskovat myös, että paras tapa torjua haitallista AI: ta ei ole rajoittaa pääsyä tekoälyyn, vaan laajentaa sitä. Juuri tämä pyrkimys johtaa nuorten ja älykkäiden idealistien ryhmään.
OpenAI ilmestyi eräänä iltana viime kesänä Rosewood-hotellin yksityisessä huoneessa Piilaaksossa, hyväpalkkaisessa kaupunkihotellissa, joka istuu kirjaimellisesti riskikapitalistisen maailman keskellä. Elon Musk lounasteli Ilja Sutskeverin kanssa, joka oli silloin Google Brain -yrityksessä, joka kehittää syviä hermoverkkoja - keinotekoisia älyjärjestelmiä, jotka voidaan kouluttaa suorittamaan tehtäviä analysoimalla valtavia määriä digitaalista tietoa, mukaan lukien valokuvien tunnistaminen ja sähköpostien kirjoittaminen, oppiminen kirjeenvaihdosta. Suckever oli yksi hankkeen pääkehittäjiä.
Ilja Sutskever
Sam Altman, jonka Y-yhdistelmä auttoi muotoilemaan Airbnb-, Dropbox- ja Coinbase-kaltaisia yrityksiä, välitti kokouksen yhdistämällä useita AI-tutkijoita ja nuorten, mutta veteraanien rakentaja Greg Brockmanin, entisen teknologiajohtajana start-up Stripe -yrityksessä, toisen yrityksen Y combinator. Se oli eklektinen ryhmä. Mutta jokaisella oli tavoite: luoda uudentyyppinen AI-laboratorio, joka toimisi Googlen ja kaikkien muidenkin ulkopuolella. "Paras mitä voin kuvitella haasteeksi", Brockman sanoo, "on siirtää ihmiskunta luomaan todelliset AI turvalliselle tielle."
Musk oli siellä pitkän ystävyytensä vuoksi Altmanin kanssa - ja koska AI on kriittinen hänen erilaisten hankkeidensa tulevaisuudelle ja koko tulevaisuudelle. Tesla tarvitsee AI: n, jos se haluaa rakentaa itse ajavia autoja. SpaceX, toinen Muskin yrityksistä, tarvitsee AI: n viedäkseen ihmiset avaruuteen ja pitämään heidät turvassa ja äänen siellä. Mutta Musk on myös yksi ensimmäisistä (ja äänekkääimmistä), jotka varoittivat, että jonain päivänä ihmiskunta voi menettää hallinnan järjestelmissä, jotka ovat riittävän tehokkaita oppimaan yksinään.
Oli ongelma: paljon ihmisiä, jotka olivat riittävän taitavia ratkaisemaan kaikki nämä ongelmat, työskentelivät jo Googlessa (samoin kuin Microsoft, Facebook, Baidu ja Twitter). Ja kukaan illallisella ei ollut täysin varma, että nämä tutkijat voidaan houkutella uuteen startupiin, vaikka Musk ja Altman olisivat sen takana. Ja ainakin yksi avainpelaaja oli valmis poistumaan aluksesta. "Ymmärsin riskit", Suckever sanoo, "mutta tiesin myös, että olisi mielenkiintoista kokeilla."
Katkaise ympyrä
Keskustelujen kanssa Muskin, Altmanin ja muiden kanssa Rosewoodilla rohkaistuina, Brockman päätti pian rakentaa laboratorion, joka heillä kaikilla oli mielessä. Vahvasti sitoutuneena projektiin, hän toi mukanaan Yoshua Bengio, Montrealin yliopiston tutkijan ja yhden syvän oppimisen liikkeen perustajista. Kaksi muuta teollisuuden pioneeria - Jeff Hinton ja Jan Lecun - työskentelevät vastaavasti Googlessa ja Facebookissa, mutta Bengio halusi elämää akateemisessa maailmassa, jossain muualla kuin teollisuus lonkeroiden ulottuvilla. Hän hahmotteli luettelon alan parhaista tutkijoista ja seuraavien viikkojen aikana Brockman otti yhteyttä kaikkiin mahdollisiin, mukaan lukien useat muut.
Monet näistä tutkijoista suhtautuivat myönteisesti ajatukseen, mutta olivat varovaisia tällaisen harppauksen mahdollisuudesta. Yrittääkseen purkaa ympyrän Brockman valitsi kymmenen tutkijaa, joita hän halusi nähdä eniten, ja kutsui heidät viettämään lauantain viinin, välipalojen ja keskustelun kanssa Napan laakson viinikellariin. Brockmanille jopa matka Napaan oli projektin katalysaattori. "Tämä on aliarvioitu tapa tuoda ihmisiä yhteen, etenkin silloin, kun sinun ei tarvitse kiirehtiä päästäksesi tavoitteeseesi", hän sanoo. "Sinun on mentävä sinne, mutta sinun on myös puhuttava." Ja kun he saivat viinin, ilmapiiri säilyi. Kuten Suckever sanoo, "viini oli keskusteluun toissijainen".
Greg Brockman
Päivän loppuun mennessä Brockman kutsui kaikki kymmenen tutkijaa liittymään laboratorioon ja antoi heille kolme viikkoa ajattelua. Toimikauden lopussa yhdeksän oli komennossa. Ja he pysyivät siinä huolimatta Piilaakson jättiläisten suurista tarjouksista. "Sain erittäin houkuttelevan oleskelutarjouksen, joten päätös ei ollut helppo", sanoo entinen työnantaja Suckever Googlesta. "Lopuksi päätin mennä OpenAI: hen osittain erittäin vahvan ihmisryhmän ja tietenkin lähinnä heidän tehtävänsä takia."
Syväoppimisliike alkoi yliopistoissa. Vasta äskettäin yritykset, kuten Google, Microsoft ja Facebook, ovat päättäneet käsitellä tätä aluetta, sillä brutaalin laskentatehon edistyminen on tehnyt näistä syvistä hermoverkoista todellisuuden, ei vain teoreettisen mahdollisuuden. Hintonin ja LeCunen kaltaiset ihmiset ovat poistuneet akateemisista puolista Googlessa ja Facebookissa näiden yritysten valtavien resurssien vuoksi. Mutta pysyi tiiviisti sidoksissa yhteistyöhön muiden alan tutkijoiden kanssa. Kuten LeCun selittää, syväoppiminen vaatii kuitenkin ideoiden vapaata virtausta. "Kun teet tutkimusta salassa", hän sanoo, "putoat takaisin".
Tämän seurauksena suurilla yrityksillä on nyt suuri osa AI-tutkimuksestaan käytössään. Tämä on merkittävä valttikortti etenkin Googlelle, joka on pitkään pitänyt verkkoimperiuminsa tekniikkaa salassa. Ei niin kauan sitten Google avasi lähdekoodin ohjelmistokoneelle, joka käyttää sen hermoverkkoja. Mutta paljon tulevaisuuden kilpailussa on vielä lukittu ja avainasemassa. Brockman, Altman ja Musk pyrkivät ajamaan avoimuuden käsitettä entisestään sanomalla, että he eivät halua yhden tai kahden suuren yrityksen hallitsevan tekoälyn tulevaisuutta.
Avoimuuden rajat
Se kuulostaa hyvältä. Mutta kaiken OpenAI: n idealismin suhteen tutkijat voivat joutua samoihin olosuhteisiin, jotka pakottivat heidät tekemään vanhoja töitä. Avoimuudella on rajansa. Eikä pitkän aikavälin visio AI: stä ole ainoa kiinnostus tähän peliin. OpenAI ei tee hyväntekeväisyystyötä. Muskin yritykset hyötyvät suuresti startup-työstä, samoin Altmanin Y-yhdistelmä. "On varmasti joitain kilpailevia kohtia", Lecun sanoo. - Se on voittoa tavoittelematon organisaatio, mutta sillä on läheiset suhteet Y Combinatoriin. Ja ihmisille maksetaan palkkaa työskennellä tällä alalla."
Lab ei maksa samoja tähtitieteellisiä palkkoja, joita Google ja Facebook tarjosivat AI-tutkijoille, Brockman sanoi. Mutta hän sanoo myös, että laboratorio "haluaa maksaa heille hyvin" ja tarjoaa korvauksia osakeoptioiden muodossa ensin Y Combinatorissa ja myöhemmin mahdollisesti SpaceX: ssä (joka, toisin kuin Tesla, on yksityinen yritys).
Brockman kuitenkin vaatii, että OpenAI ei tarjoa etuyhteydessä oleville yrityksille erityiskohtelua. OpenAI on tutkimusaloite, ei konsulttiyritys. Silti OpenAI: n idealismilla on rajoituksia. Yhtiö ei välttämättä avaa koodia kaikelle tuottamalleen, vaikka päätavoitteena on edelleen jakaa suurin osa siitä, olivatpa ne sitten tieteellisiä tai Internet-palveluita.”Avaaminen ei välttämättä ole paras vaihtoehto. Brockman sanoo, että idea on ravittava, katsottava, mihin se johtaa, ja sitten julkaistava. - Tuotamme paljon avoimen lähdekoodin koodeja. Mutta meillä on myös paljon tavaroita, jotka eivät ole vielä valmiita julkaisuun."
Suzkever lisää myös, että OpenAI voisi mennä jopa patentoimaan osaa työstään. "Emme patentoi mitään pian," Brockman sanoo. "Mutta olemme valmiita muuttamaan taktiikkaa pitkällä tähtäimellä, jos ajattelemme sen olevan parempi maailmalle." Esimerkiksi OpenAI voi tehdä proaktiivisia patentointeja estääkseen muita hankkimasta patentteja.
Jotkut saattavat nähdä patentteja voiton motiivina. Mutta se on patenttien koko asia.
Superintelligenssi-ongelma
Kun Musk ja Altman esittelivät OpenAI: n, ne kertoivat myös hankkeesta tapana neutraloida haitallisen superintelligenssin uhka. Tietysti tällainen superintelligenssi voi johtua OpenAI: n työstä, mutta he vaativat, että uhkia vähennetään asettamalla tekniikka kaikkien saataville. "Mielestämme on paljon todennäköisempää, että monet AI: t voivat pysäyttää satunnaisia huonoja toimijoita", Altman sanoo.
Mutta kaikki tällä alueella eivät usko tällaiseen tulokseen. Nick Bostrom, Oxfordin filosofi, joka varoitti Muskin tavoin AI: n vaaroista, huomauttaa, että jos jaat tutkimuksesi rajoituksetta, "huonot toimijat" voivat saada ne kiinni, ennen kuin kaikki ovat vakuuttuneita siitä, että he ovat turvallisia. "Jos sinulla on painike, joka tekee maailmasta paskaa", Bostrom sanoo, "et todennäköisesti halua antaa kaikille pääsyä siihen." Jos toisaalta OpenAI päättää pidättää tutkimusta estääkseen pahoja kavereita pääsemästä siihen, Bostrom kysyy: miten tämä eroaa Googlesta tai Facebookista?
Hän sanoo kyllä, OpenAI: n voittoa tavoittelematon tila voi muuttaa tai ei muuttaa asioita. Hänen mukaansa hankkeen todellinen vahvuus on, että Google ja Facebook voivat varmistaa sen.”Se pystyy vähentämään todennäköisyyttä, että superintelligenssi monopolisoituu. Se pystyy poistamaan yhden mahdollisista syistä, miksi joillakin yksilöillä tai ryhmillä on pääsy parempaan AI: hen kuin kaikilla muilla."
Äskettäisessä teoksessaan filosofi selittää, että OpenAI-kaltaisella aloitteella - aloitteella vapaasti jakaa tekemäsi - pääasiallinen vaikutus on keinoälyn etenemisen nopeuttaminen, ainakin lyhyellä aikavälillä. Ja se voi nopeuttaa etenemistä pitkällä tähtäimellä edellyttäen, että avoimuuden taso säilyy korkeampana kuin olisi kaupallisesti optimaalinen.
"Voi olla, että hyväntekeväisyyteen motivoitunut t & k-sijoittaja voi nopeuttaa kehitystä vakavasti noudattamalla avointa tiedepolitiikkaa", hän sanoo.
Kuinka Xerox PARC
Tammikuun alussa yhdeksän Brockmanin tutkijaa kokoontui asuntoonsa San Franciscossa. Projekti oli niin uusi, että heillä ei ollut edes taulua. (Kuvittele.) He ostivat muutaman samana päivänä ja saivat töihin.
Brockmanin mukaan OpenAI aloittaa tutkimalla vahvistusoppimista, konepohjaista tapaa oppia ongelmia toistamalla ne uudestaan ja uudestaan, seuraamalla, mitkä menetelmät tuottavat parhaat tulokset. Toinen suuri haaste on niin kutsuttu "ohjaamaton oppiminen" - sellaisten koneiden luominen, jotka voivat todella oppia itse ilman ihmisen apua. Nykyään syvä oppiminen riippuu huolellisesti merkitystä tiedosta. Jos haluat opettaa hermoverkon tunnistamaan kissojen valokuvat, sinun on syötettävä sille tietty määrä esimerkkejä - ja nämä esimerkit on merkittävä merkitsemällä valokuvia kissoilla. Tällainen koulutus toteutetaan ihmisten avulla. Mutta kuten monet muut tutkijat, OpenAI aikoo rakentaa hermoverkkoja, jotka voivat oppia ilman huolellista tietojen valintaa.
"Jos sinulla on todella hyvä opetusmenetelmä ilman opettajaa, koneet voivat oppia kaikesta Internetissä olevasta tiedosta - kuten ihminen, vain ympärilleen katselemalla - tai lukemalla kirjoja", Brockman sanoo.
Hänen mielestään OpenAI on 1970-luvulla olemassa olleen tekniikan tutkimuslaboratorion Xerox PARC: n moderni inkarnaatio. Aivan kuten PARC: n avoin ja ilmainen tutkimus on antanut aihetta kaikkeen graafisista käyttöliittymistä ja lasertulostuksesta olio-ohjelmointiin, Brockman ja hänen tiiminsä haluavat sukeltaa siihen, mikä oli aiemmin tieteiskirjallisuutta. PARC oli Xeroxin omistuksessa, mutta sitä syötettiin monien muiden yritysten, kuten Apple, käsissä, koska Steve Jobsin kaltaiset ihmiset suhtautuivat myönteisesti sen tutkimukseen. Brockman haluaa kaikkien tervetulleeksi OpenAI-tutkimukseen.
Brockman ja yritys rekrytoivat tämän dynaamisen tutkimuksen toisiinsa useita muita merkittäviä tutkijoita, kuten Ian Goodfellow, toinen vanhempi tutkija Google Brain -tiimissä. Brockman kertoo, että PARC sai pohjimmiltaan joukon fiksuja ihmisiä yhdessä ja päätti nähdä mitä tapahtui. "Tarvitset yhteisen vision ilman keskushallintaa."
Hallinnan puute on välttämätöntä ihanteen saavuttamiseksi. Jos tuoda tarpeeksi ihmisiä yhteiseen tavoitteeseen, lopputulos voittaa kaiken, mitä salaisesti kokit. Mutta jos AI: sta tulee niin voimakas kuin luvattiin, yhtälö muuttuu. Tarvitsemme varmuuden siitä, että uusi perustama AI noudattaa samoja tasa-arvoisia ihanteita, jotka johti sen luomiseen. Musk, Altman ja Brockman uskovat ihmisiin, väkijoukkoon. Ja jos he osoittautuvat oikeiksi, yhtenä päivänä tämä väkijoukko ei ole täysin ihminen.
ILYA KHEL