Cerebras Systems, nuori tekoälyyhtiö, on valmis näyttämään maailmalle Cerebras WSE (Cerebras Wafer Scale Engine) - historian suurin, tehokkain ja älykkäin puolijohdepiiri.
Cerebras WSE: ssä on 1,2 biljoonaa transistoria, elektroniset peruskytkimet, jotka ovat piisirun rakennuspalikoita. Vertailun vuoksi Intelin ensimmäisessä 4004-prosessorissa, joka julkaistiin vuonna 1971, oli 2 300 transistoria, kun taas viimeisimmässä Advanced Micro Devices -prosessorissa on 32 miljardia transistoria. Tässä ei kuitenkaan ole kysymys transistorien lukumäärästä.
Suurin osa siruista maailmassa on oikeastaan sarja siruja, jotka on luotu 12-tuumaisen piikiekon perusteella - niitä tuotetaan erikoistehtaissa suurissa erissä. Mutta Cerebras Systems-siru on 400 000 ydintä kytkettynä yhdelle levylle. Liitännät on suunniteltu toimimaan suurilla nopeuksilla, minkä vuoksi biljooni transistoreita toimii yhdessä yhtenä. Mutta se ei ole kaikki.
Tähän mennessä Samsung on luonut maailman suurimman sirun - sen rakenne on rakennettu kahdelle triljoonalle transistorille. Samsung-siru on kuitenkin vain valtava muistikortti, ja Cerebras-siru on monimutkaisin hermoverkko, joka on erityisesti suunniteltu tekoälyn kouluttamiseen. Cerebras-sirulla on 400 000 ydintä 42 225 neliömetriä. Se on 56,7x suurempi kuin Nvidian suurin GPU vain 21,1 miljardilla transistorilla.
Toinen Cerebras WSE: n piirre on, että siru on suunniteltu reititettäväksi viallisten alueiden ympäri.
Koko piikiekkoa ei ole mahdollista täydentää sirujen valmistuksen aikana, joten valmistusprosessi luo alueita, joita ei voida käyttää. Nvidia, Intel ja muut sirunvalmistajat kiertävät ongelman yksinkertaisesti: He veistävät “oikeat” sirut valmistus kiekossa ja heittävät loput pois. Mutta tätä ei voida tehdä, jos jokainen piikiekon siru on osa yhteistä piiriä. Siksi Cerebras joutui rakentamaan redundanssipiirejä siten, että jos jokin niistä rikkoutuisi tai palaisi, loput ottavat sen toiminnot. Toisin sanoen Cerebras-siru on miniatyyri-Internet, jolla on omat palvelimet ja työasemat. Ja kaikki nämä asemat on suunniteltu palvelemaan yhtä tekoälyä.
Omaa AI: ta kehittävät yritykset ovat nykyään sirutekniikan tärkeimmät kuluttajat, jotka ostavat osia valtavina määrinä. Ja käytettyjen sirujen koko on kriittisen tärkeä AI-koulutusprosessissa.
Mainosvideo:
Google, Facebook, OpenAI, Tencent, Baidu ja monet muut väittävät, että nykyaikaisen AI: n perustava rajoitus on, että mallien kouluttaminen vie liian kauan. Esimerkiksi Nvidian supertietokone, joka koostuu kymmenistä huipputeknisistä GPU-laitteista, viettää useita viikkoja koodin säätämisessä - ts. Neutroniverkon oppimisessa.
Ratkaisu ongelmaan olisi lisätä sirujen määrää tietokoneessa, mutta kun yli kahdeksan sirua kootaan, tietokoneen suorituskyky ei enää parane, vaan heikkenee, koska virheitä kertyy tiedonvaihdon aikana.
Kehittäjät itse kuvaavat projektiaan seuraavasti:”AI: n vaikein osa on tiedonsiirto. Neuraaliverkon kouluttaminen vaatii tuhansia operaatioita suoritettaviksi rinnakkain milloin tahansa, ja sirujen on jatkuvasti kommunikoitava, kun ne suorittavat näitä rinnakkaisoperaatioita. Mutta tietokoneet, joissa on useita IC-piirejä, yrittävät siirtää tietoja IC: ien välillä hitaiden johtojen kautta, jotka sitovat ne yhteen piirilevyllä. Tarvitsit jotain, joka voisi siirtää tietoja itse sirun nopeudella. Ratkaisu oli ottaa suurin löytyvä levy ja leikata siitä suurin siru."
Muisti on keskeinen osa mitä tahansa tietokonearkkitehtuuria. Muisti lähempänä laskentayksiköitä tarjoaa nopeammat laskut, pienemmät viiveet ja paremman energiatehokkuuden siirtäessä tietoja. Muotin koko on kuitenkin rajoitettu ja suurin osa tietokoneen muistista on muotin ulkopuolella. Cerebras Systems ohitti tämän ongelman antamalla jokaiselle ytimelle pääsyn 18 gigatavun sisäiseen muistiin. Seurauksena on, että Cerebras Wafer Scale Engine -muistissa on 3000 kertaa enemmän muistia kuin edistyneimmällä grafiikkaprosessorilla, ja samalla se tuottaa 10 000 kertaa enemmän kaistanleveyttä.
Uuden sirun ensimmäiset näytteet tulevat myyntiin syyskuussa, kun taas Cerebras Systems, rikkonut kaikkia tietokonealalla voimassa olevia sääntöjä, rikkoi myös laskentayksiköiden ja sirujen tuotannon erottamisen periaatetta. Cerebras-kiekkojen moottoria myydään yhtenä yrityksenä kehittämänä laitteena, joka on integroitu monimutkaiseen vesijäähdytysverkkoon, koska siru tuottaa äärimmäistä lämpöä, joka kuluttaa 15 kilowattia niin pienellä alueella.
Cerebras Systemsin perustaja ja toimitusjohtaja sanoo:”Suunniteltu alusta alkaen työskentelemään AI: n kanssa, Cerebras WSE sisältää perustavanlaatuisia innovaatioita, jotka lopulta rikkovat nykyisen tekniikan tason vuosikymmeniä kestäneen pysähtyneisyyden. Seurauksena on, että Cerebras WSE tarjoaa suorituskyvyn lisäyksiä satoja tai tuhansia kertoja nykyaikaisiin modulaarisiin ratkaisuihin verrattuna. Ja kaikki tämä naurettavalla virrankulutuksella ja vähän tilaa."
Toimituksellinen kommentti
Ensimmäiset Cerebras WSE: hen perustuvat AI-testit osoittavat, että Nvidian ylin AI ratkaisee tehtävät viikkojen ja kuukausien ajan, Cerebras WSE ratkaisee minuutin kuluessa, mikä on ikään kuin iloa. Salaliiton teoreetikoilla ei kuitenkaan ole paljon iloa tässä suhteessa.
Muistamme kaikki (joka tapauksessa lukijoidemme vanhemman sukupolven) "raivoisan 90-luvun" mallin tietokonepuomi, kun parin vuoden aikana tietokoneiden teho hyppäsi suuruusluokittain. Yhtään ihmistä, joka säteili ylpeyttä, osti tietokoneen, jossa oli 16 megatavua muistia, kun hetken kuluttua tämä muisti siirtyi L2-välimuistiin.
Tietotekniikkateollisuus näytti kuitenkin pysähtyneen 2000-luvun alusta lähtien: jos 1990- ja 2000-tyyppiset tietokoneet eivät olleet vertailukelpoisia, niin 2000- ja 2010-mallien tietokoneiden välillä ei ollut erityistä eroa - teho kasvoi merkittävästi, mutta ei suuruusluokkaa. Ja nyt olemme todistamassa toisen Intel 8086: n syntymää, ja nyt Cerebras WSE -sarjan ominaisuudet hyppäävät samassa tahdissa: kaikki epäpuhtauksia ja ydinyhteyksiä koskevat ongelmat on nyt ratkaistu.
Emme tiedä johtavien valmistajien nykyaikaisen AI: n kaikkia ominaisuuksia, mutta yleisen mielipiteen mukaan nämä tuotteet eivät ole vielä AI ja ne ovat edelleen kaukana täysivaltaisesta ajattelulaitteesta. Siitä huolimatta Cerebras WSE otti vain askeleen oikeaan suuntaan, mutta hyppäsi kymmenen vuotta, ellei vielä enemmän eteenpäin, ja nyt SkyNet on jo melko ennakoitavissa oleva näkymä, joka voidaan toteuttaa tänä vuonna vuonna 2025.
Lisäksi SkyNetissä, toisin kuin tylsät homosapiensit, jatkokehitykseen ei tarvita paljon aikaa: hermostoverkon on vain aloitettava ajattelu vähän itsestään - ja se modifioituu hetkessä, jonka jälkeen se aloittaa ydinsotaa tai jotain sellaista. Ja se on silti erittäin hyvä vaihtoehto.
Kun Samsung tai Nvidia on tehnyt flash-aseman, jolla on biljoonia transistoreita, kaikki tämä voidaan silti selittää jotenkin, koska muistilogiikkapiirit ovat suhteellisen yksinkertaisia ja saman tyyppisiä melkein koko alueella. Mutta 400 000 ytimen kehittäminen, jotka kyntävät samanaikaisesti, on myös joitain jäljennöksiä, ja jotkut palvelinasemat ja helvetti tietävät mitä. Ja sinun on myös kirjoitettava tätä varten ohjausohjelmat, joita on kirjoitettu vuosia. Sitten ohjelmat on testattava. Mutta mitä heillä testattiin, jos laite valmistettiin vasta nyt?
Toisin sanoen näyttää siltä, että "marsilaiset" ovat jälleen avanneet roskakorin paikallisille alkuperäiskansoille. Ja on suuria epäilyksiä siitä, että tämä tehtiin pelaajille miellyttämiseksi - todennäköisesti täällä on jokin muu tehtävä. Ja se näyttää meille seuraavalta.
Älykkäät ihmiset kysyvät viime vuosikymmeninä yhä enemmän itseltään sähköisen tekniikan alkuperää, yleismaailmallisen siruttamisen kysymystä, josta ei ole selvää, miksi sitä tarvitaan, ja niin edelleen. Pettääkseen aivonsa jotenkin he kertoivat sadun "kvantitietokoneesta", jonka periaatteita eivät ymmärrä edes ihmiset, jotka on nimitetty virallisiksi "kehittäjiksi". Ja kuvittele nyt meksikolaisen keskivertoäidin kauhu, jonka uusi matkapuhelin ei vain ajattele paremmin kuin hän, vaan myös kantaa jonkinlaista "kvantitietokonetta". Eli sellaista typeryttä ei voida hyväksyä paikallisille alkuperäiskansoille - he alkavat hulluksi droveissa.
Siksi jotkut taitavat “marsilaiset” päättivät näyttää maapallon kaksipuoleisilla aborigineilla yksinkertaisemman ihmeen - jonka periaatteet NASAn vanhimmat voivat ainakin jotenkin selittää. Ja jos alkuperäiskansat hyväksyvät tarinan, niin marssilaiset osoittavat kansoille muita maagisia ihmeitä. Esimerkiksi he ajavat tämän Cerebras WSE -puhelimen matkapuhelimeen ja myyvät sen sata taalaa. Muodikkaiden laitteiden ostajille tämä on tietysti erittäin hienoa ja hyvää, mutta ihmiset ajattelevat heti älykkäämpää: mitä sitten on erilaisten vakavien organisaatioiden, kuten NSA: n, FBI: n ja CIA: n, palvelinhuoneissa? Mitkä ovat mahdollisuudet hallita väestön ajatuksia ja käyttäytymistä?