Flokkar: Fyrirtæki

Frá CUDA til gervigreindar: Leyndarmál velgengni NVIDIA

NVIDIA - fyrsta fyrirtækið í sögu flísaiðnaðarins, en fjármögnun þess fór yfir trilljón dollara. Hvert er leyndarmál velgengni?

Ég er viss um að mörg ykkar hafi heyrt um fyrirtækið NVIDIA og flest ykkar tengja það sérstaklega við grafíska örgjörva, því orðasambandið "NVIDIA GeForce" hefur nánast allir heyrt.

NVIDIA nýlega skráði sig fjármálasögu í upplýsingatæknigeiranum. Það er fyrsta samþætta hringrásarfyrirtækið þar sem markaðsvirði hefur farið yfir billjón dollara. Það er einnig fimmta tæknitengda fyrirtækið í sögunni sem nær svo miklum árangri (miðað við markaðsvirði). Áður fyrr gat aðeins fólk státað af svo háu einkunn Apple, Microsoft, Alphabet (eigandi Google) og Amazon. Þess vegna kölluðu fjármálamenn það stundum „Fjögurra klúbba“ sem nú hefur verið stækkað NVIDIA.

Að auki, hvað varðar markaðsvirði, er það langt á eftir AMD, Intel, Qualcomm og öðrum tæknifyrirtækjum. Þetta hefði ekki verið mögulegt nema með framsýna stefnu fyrirtækisins, sem kynnt var fyrir áratug.

Lestu líka: Er framtíð fyrir TruthGPT Elon Musk?

Ótrúleg eftirspurn eftir NVIDIA H100 Tensor kjarna

Hvert er leyndarmálið við slíka aukningu á hástöfum? Í fyrsta lagi eru þetta viðbrögð kauphallarinnar við velgengni flísarinnar NVIDIA H100 Tensor Core, sem er í mikilli eftirspurn meðal leiðandi veitenda skýjainnviða og netþjónustu. Þessar franskar eru keyptar af Amazon, Meta og Microsoft (fyrir eigin þarfir og þarfir samstarfsaðila síns - fyrirtækið OpenAI). Þeir eru sérstaklega orkusparandi við að hraða útreikningum sem eru dæmigerðir fyrir skapandi gervigreind, eins og ChatGPT eða Dall-E. Þetta er ótrúlegt stökk af stærðargráðu fyrir hraða tölvuvinnslu. Við fáum áður óþekkta frammistöðu, sveigjanleika og öryggi fyrir hvaða vinnuálag sem er NVIDIA H100 Tensor Core GPU.

Notkun skiptakerfis NVIDIA NVLink er hægt að tengja við allt að 256 H100 GPU til að flýta fyrir vinnuálagi á exa mælikvarða. GPU inniheldur einnig sérstaka Transformer Engine til að leysa tungumálalíkön með trilljónum breytum. Samanlögð tækninýjungar H100 geta hraðað stórum tungumálalíkönum (LLM) um ótrúlega 30x miðað við fyrri kynslóð, og skilað leiðandi gervigreind í samræðum. Hönnuðir telja það næstum tilvalið fyrir vélanám.

Hins vegar kom H100 ekki upp úr engu. Og satt að segja er það ekkert sérstaklega byltingarkennt. NVIDIA, eins og ekkert annað fyrirtæki, hefur fjárfest mikið fjármagn í gervigreind í mörg ár. Fyrir vikið getur fyrirtæki sem fyrst og fremst tengist GeForce skjákortamerkinu komið fram við neytendamarkaðinn nánast eins og áhugamál. Þetta byggir upp raunverulegan kraft á markaði upplýsingatæknirisa, þegar allt kemur til alls NVIDIA getur nú þegar talað við þá sem jafningja.

Einnig áhugavert: Hvað eru 6G net og hvers vegna er þörf á þeim?

Er gervigreind framtíðin?

Í dag eru næstum allir sannfærðir um þetta, jafnvel efasemdir sérfræðingar á þessu sviði. Nú er það næstum því orðasamband, sannleikur. Samt NViDIA vissi um það fyrir 20 árum. Kom ég þér á óvart?

Tæknilega, fyrsta nánu sambandið NVIDIA með gervigreind gerðist árið 1999, þegar GeForce 256 örgjörvi kom á markaðinn, fær um að flýta fyrir útreikningum á vélanámi. Hins vegar NVIDIA byrjaði að fjárfesta alvarlega í gervigreind fyrst árið 2006, þegar það kynnti CUDA arkitektúrinn, sem gerði kleift að nota samhliða vinnslugetu grafískra örgjörva til þjálfunar og rannsókna.

Hvað er CUDA? Það er best skilgreint sem samhliða tölvuvettvangur og forritunarviðmót (API) sem gerir hugbúnaði kleift að nota grafíkvinnslueiningar til almennra nota (GPGPU). Þessi nálgun er kölluð almenn tölva á GPU. Að auki er CUDA hugbúnaðarlag sem veitir beinan aðgang að sýndarleiðbeiningasettinu og samhliða tölvuþáttum grafíkörgjörvans. Það er hannað til að vinna með forritunarmálum eins og C, C++ og Fortran.

Það er þetta aðgengi sem auðveldar samhliða forriturum að nýta sér GPU auðlindir, ólíkt fyrri API eins og Direct3D og OpenGL, sem kröfðust háþróaðrar grafíkforritunarkunnáttu.

Mikilvæg bylting var útvegun fyrirtækisins NVIDIA tölvuafl fyrir hið byltingarkennda AlexNet taugakerfi. Um er að ræða snúningstauganet (CNN), þróað af Úkraínumanninum Alex Kryzhevskyi í samvinnu við Ilya Sutzkever og Jeffrey Ginton.

Convolutional Neural Networks (CNN) hafa alltaf verið fyrirmyndin fyrir hlutgreiningu - þau eru öflug líkön sem auðvelt er að stjórna og jafnvel auðveldara að þjálfa. Þeir upplifa ekki offitun í neinum skelfilegum mæli þegar þeir eru notaðir á milljónir mynda. Frammistaða þeirra er næstum eins og venjuleg straum-forward taugakerfi af sömu stærð. Eina vandamálið er að erfitt er að nota þær á myndir í hárri upplausn. Umfang ImageNet krafðist nýjunga sem yrðu fínstilltar fyrir GPU og draga úr þjálfunartíma á sama tíma og frammistöðu bættist.

Þann 30. september 2012 tók AlexNet þátt í ImageNet Large Scale Visual Recognition Challenge. Netið fékk 15,3% í efstu fimm villuprófinu, rúmlega 10,8% lægra en í öðru sæti.

Meginniðurstaðan af upprunalegu verkinu var sú að flókið líkanið stafaði af mikilli afköstum þess, sem var líka mjög reikningslega dýrt, en var gert mögulegt með því að nota grafískar vinnslueiningar (GPU) meðan á þjálfuninni stóð.

The AlexNet convolutional taugakerfi sjálft samanstendur af átta lögum; fyrstu fimm eru snúningslög, sum þeirra eru á undan hámarkstengdum lögum og síðustu þrjú eru fulltengd lög. Netinu, fyrir utan síðasta lagið, er skipt í tvö eintök sem hvert um sig keyrir á einni GPU.

Það er að segja takk fyrir NVIDIA og samt telja flestir sérfræðingar og vísindamenn að AlexNet sé ótrúlega öflugt líkan sem getur náð mikilli nákvæmni á mjög flóknum gagnasöfnum. AlexNet er leiðandi arkitektúr fyrir hvaða hlutgreiningarverkefni sem er og getur haft mjög breitt forrit í tölvusjóngeiranum fyrir gervigreindarvandamál. Í framtíðinni gæti AlexNet verið notað meira en CNN á sviði myndgreiningar.

Einnig áhugavert: Bluesky fyrirbærið: hvers konar þjónusta og er hún í langan tíma?

Gervigreind er ekki aðeins í rannsóknarstofum og gagnaverum

В NVIDIA sá mikla möguleika fyrir gervigreind einnig í tækni neytendatækja og Internet of Things. Þó að keppinautar séu rétt að byrja að íhuga að fjárfesta víðtækari í nýrri gerð samþættrar hringrásar, NVIDIA er þegar unnið að smæðun þeirra. Tegra K1 kubburinn, þróaður í samvinnu við Tesla og önnur bílafyrirtæki, er líklega sérstaklega mikilvæg.

Tegra K1 örgjörvinn er einn af fyrstu örgjörvunum NVIDIA, hannað sérstaklega fyrir gervigreind forrit í farsímum og innbyggðum tækjum. Tegra K1 notar sama GPU arkitektúr og röð skjákorta og kerfa NVIDIA GeForce, Quadro og Tesla, sem veitir mikla afköst og samhæfni við grafík og tölvustaðla eins og OpenGL 4.4, DirectX 11.2, CUDA 6.5 og OpenCL 1.2. Þökk sé þessu getur Tegra K1 örgjörvinn stutt háþróaða gervigreindaralgrím eins og djúp tauganet, styrkingarnám, mynd- og talgreiningu og gagnagreiningu. Tegra K1 hefur 192 CUDA kjarna.

Árið 2016 NVIDIA gaf út röð af Pascal örgjörvum sem eru fínstilltir til að styðja við djúp taugakerfi og önnur gervigreindarlíkön. Innan árs kom á markaðinn röð af Volta örgjörvum fyrir forrit sem tengjast gervigreind, sem eru enn skilvirkari og orkusparandi. Árið 2019 NVIDIA kaupir Mellanox Technologies, sem framleiðir afkastamikil tölvunet fyrir gagnaver og ofurtölvur.

Þess vegna nota þeir allir örgjörva NVIDIA. Á neytendamarkaði nota leikmenn til dæmis byltingarkennda DLSS mynduppbyggingaralgrímið sem gerir þeim kleift að njóta skarpari grafík í leikjum án þess að eyða miklum peningum í skjákort. Á viðskiptamarkaði er viðurkennt að franskar NVIDIA á margan hátt umfram það sem samkeppnisaðilar bjóða upp á. Þó það sé ekki það að Intel og AMD hafi alveg sofið í gegnum vitsmunalega byltinguna.

Einnig áhugavert: Bestu verkfærin byggð á gervigreind

Intel og AMD á sviði gervigreindar

Við skulum tala um beina keppinauta NVIDIA í þessum markaðshluta. Intel og AMD vinna hér meira og virkari, en með langri töf.

Intel hefur keypt nokkur gervigreind fyrirtæki eins og Nervana Systems, Movidius, Mobileye og Habana Labs til að styrkja safn sitt af gervigreindartækni og lausnum. Intel býður einnig upp á vélbúnaðar- og hugbúnaðarvettvang fyrir gervigreind, eins og Xeon örgjörva, FPGA, NNP flís og hagræðingarsöfn. Intel vinnur einnig með samstarfsaðilum hins opinbera og einkageirans til að efla nýsköpun og menntun gervigreindar.

AMD hefur þróað röð af Epyc örgjörvum og Radeon Instinct skjákortum sem eru fínstillt fyrir gervigreind og djúpnámsforrit. AMD vinnur einnig með fyrirtækjum eins og Google, Microsoft, IBM og Amazon, veita skýjalausnir fyrir gervigreind. AMD leitast einnig við að taka þátt í gervigreindarrannsóknum og þróun í gegnum samstarf við fræðastofnanir og iðnaðarstofnanir. Það er samt allt mjög gott NVIDIA þegar langt á undan þeim og árangur þess á sviði þróunar og stuðnings gervigreindar reiknirit er óviðjafnanlega meiri.

Einnig áhugavert: Yfirlit yfir Google I/O 2023: Android 14, Pixel og fullt af gervigreind

NVIDIA hefur verið tengd tölvuleikjum í áratugi

Þessu má heldur ekki gleyma. NVIDIA gefur ekki nákvæma sundurliðun á tekjum sínum á milli neytenda- og fyrirtækjamarkaðar, en hægt er að áætla þær út frá þeim rekstrarþáttum sem fyrirtækið gefur upp í reikningsskilum sínum. NVIDIA aðskilur fjóra rekstrarþætti: leikjaspilun, faglega sjónræningu, gagnaver og bíla.

Gera má ráð fyrir að leikjahlutinn beinist aðallega að neytendamarkaði, þar sem hann felur í sér sölu á GeForce skjákortum og Tegra flísum fyrir leikjatölvur. Faglega sjónræningin er aðallega lögð áhersla á viðskiptamarkaðinn, þar sem hann felur í sér sölu á Quadro skjákortum og RTX flísum fyrir vinnustöðvar og atvinnuforrit. Gagnamiðstöðvarhlutinn beinist einnig aðallega að viðskiptamarkaði, þar sem hann felur í sér sölu á GPU og NPU (þ.e. næstu kynslóðar flísum - ekki lengur GPU, heldur eingöngu hönnuð fyrir gervigreind) fyrir netþjóna og skýjaþjónustu. Bílaflokkurinn miðar bæði á neytenda- og viðskiptamarkaði, þar sem hann felur í sér sölu á Tegra og Drive kerfum fyrir afþreyingu og sjálfvirkan akstur.

Út frá þessum forsendum er hægt að áætla hlutdeild tekna af neytenda- og fyrirtækjamarkaði í heildartekjum NVIDIA. Samkvæmt nýjustu fjárhagsskýrslu fyrir árið 2022 eru tekjur félagsins NVIDIA eftir rekstrarþáttum voru sem hér segir:

  • Leikir: 12,9 milljarðar dollara
  • Fagleg sjón: 1,3 milljarðar dollara
  • Gagnaver: 9,7 milljarðar dala
  • Bílar: 0,8 milljarðar dollara
  • Allir aðrir hlutar: $8,7 milljarðar

Heildartekjur NVIDIA nam 33,4 milljörðum Bandaríkjadala. Ef við gerum ráð fyrir að bílahlutinn skiptist nokkurn veginn jafnt á milli neytenda- og fyrirtækjamarkaðar má reikna út eftirfarandi hlutföll:

  • Tekjur af neytendamarkaði: (12,9 + 0,4) / 33,4 = 0,4 (40%)
  • Tekjur af viðskiptamarkaði: (1,3 + 9,7 + 0,4 + 8,7) / 33,4 = 0,6 (60%)

Þetta þýðir að um 40% af tekjum NVIDIA kemur frá neytendamarkaði og um 60% frá viðskiptamarkaði. Það er að segja að meginstefnan er viðskiptahlutinn. En leikjaiðnaðurinn færir líka nokkuð góðar tekjur. Mikilvægast er að þeir stækka á hverju ári.

Einnig áhugavert: Dagbók grumpy Old Geek: Bing vs Google

Hvað mun framtíðin færa okkur?

Það er augljóst að NVIDIA það er nú þegar áætlun um að taka þátt í þróun gervigreindar reiknirit. Og það er miklu breiðari og vænlegri en nokkur af beinum keppinautum þess.

Aðeins í síðasta mánuði NVIDIA tilkynnt um fjölmargar nýjar fjárfestingar í gervigreind. Einn þeirra er GET3D vélbúnaðurinn, sem er fær um að búa til flókin þrívíddarlíkön af ýmsum hlutum og persónum sem endurspegla raunveruleikann af trúmennsku. GET3D getur búið til um 20 hluti á sekúndu með því að nota eina grafíkkubba.

Enn eitt áhugavert verkefni ber einnig að nefna. About Israel-1 er ofurtölva fyrir gervigreindarforrit, sem NVIDIA skapar í samvinnu við vísinda- og tækniráðuneyti Ísraels og fyrirtækið Mellanox. Búist er við að vélin hafi meira en 7 petaflops af tölvuafli og noti meira en 1000 GPU NVIDIA A100 Tensor kjarna. Israel-1 verður notað til rannsókna og þróunar á sviðum eins og læknisfræði, líffræði, efnafræði, eðlisfræði og netöryggi. Og þetta eru nú þegar mjög vænlegar fjármagnsfjárfestingar miðað við langtímahorfur.

Einnig er nú þegar annað verkefni - NVIDIA ACE. Þetta er ný tækni sem á að gjörbylta leikjaiðnaðinum með því að leyfa spilaranum að hafa samskipti við persónu sem ekki er leikari (NPC) á eðlilegan og raunhæfan hátt. Þessar persónur munu geta átt opinskáar samræður við leikmanninn, brugðist við tilfinningum hans og látbragði og jafnvel tjáð eigin tilfinningar og hugsanir. NVIDIA ACE notar háþróuð tungumálalíkön og gervigreindarmyndavélar.

Fyrstu trilljón dollara inn NVIDIA. Það lítur út fyrir að þær verði fleiri fljótlega. Við munum vera viss um að fylgjast með framvindu félagsins og láta þig vita.

Lestu líka:

Deila
Yuri Svitlyk

Sonur Karpatafjallanna, óviðurkenndur stærðfræðisnillingur, "lögfræðingur"Microsoft, hagnýtur altruisisti, vinstri-hægri

Skildu eftir skilaboð

Netfangið þitt verður ekki birt. Nauðsynlegir reitir eru merktir*

Tags: NVIDIAvalin