Samræðu gervigreindarbótinn ChatGPT frá OpenAI kom á markað á síðasta ári og hefur orðið ofurvinsæll á methraða þökk sé getu sinni til að skrifa sögur, semja tölvupóst og jafnvel búa til kóða (stundum, því miður, jafnvel skaðlegt). Hins vegar bendir ný skýrsla til þess að það kosti OpenAI örlög að halda því gangandi frá degi til dags.
Samkvæmt rannsóknum SemiAnalysis eyðir OpenAI næstum $695 á dag til að viðhalda spjallbotni í vinnuástandi. Samkvæmt áætlunum fyrirtækisins inniheldur kerfið um meira en 3,6 þúsund HGX A100 netþjóna og tæplega 29 þúsund GPU, og kostnaður á hverja beiðni er um ¢ 0,36.
Dylan Patel, aðalsérfræðingur hjá SemiAnalysis, sagði í samtali við Business Insider að núverandi kostnaður við að keyra hugbúnaðinn gæti verið enn hærri, þar sem líklegt er að GPT-4 útgáfan verði dýrari í rekstri en forveri hennar, GPT-3. Hann byggði áætlanir sínar á fyrri GPT-3 gerð, en OpenAI hefur þegar gefið út útgáfu GPT-4 fyrir greidda áskrifendur. Fyrirtækið heldur því fram að nýja gerðin bjóði upp á nákvæmari upplýsingar og verndar betur gegn röngum svörum, sem voru vandamál með fyrri útgáfur.
Ein helsta ástæðan fyrir óheyrilegum kostnaði er orkufrekar sérhæfðar flísar sem þarf til að reka kerfið. Til að leysa þetta vandamál, Microsoft er að vinna að eigin gervigreindarflís sem heitir Athena sem gæti komið í stað GPU NVIDIA og draga úr rekstrarkostnaði ChatGPT.
Á sama tíma getur ChatGPT þegar búið til hagnýtan kóða frá grunni og það vekur jafnvel ótta um að það gæti að lokum komið í stað forritara. Hins vegar bendir nýleg rannsókn hóps vísindamanna til þess að kóðinn sem myndaður er af spjallbotni sé ekki mjög öruggur. Rannsóknin segir að ChatGPT framleiði kóða sem er „verulegt undir lágmarksöryggisstöðlum sem gilda í flestum aðstæðum. Athyglisvert er að spjallbotninn viðurkennir þetta þegar hann er spurður hversu öruggur kóðinn sem hann býr til sé.
Til að athuga gæði kóðun SpjallGPT, rannsakendurnir báðu hann um að búa til 21 forrit og forskriftir með því að nota fjögur forritunarmál: C, C++, Python og Java. Í fyrstu tilraun sinni gat spjallbotninn aðeins skrifað 5 örugg forrit, en eftir smá ábendingu frá rannsakendum bjó hann til 7 öruggari kóða. Niðurstöður rannsóknarinnar benda til þess að notkun ChatGPT til að skrifa forrit gæti verið óhagkvæm eða jafnvel hættuleg núna, en það gæti breyst í framtíðinni.
Lestu líka:
Vá tölur fyrir ókeypis taugafrumu!
Á ævinni hefði mér aldrei dottið í hug að það væri svona dýrt...
Ég var líka hissa. Ég er meira að segja svolítið óþægileg núna Opnaðu ChatGPT - ég mun samt íþyngja því með beiðnum mínum)