Með tilkomu ChatGPT, Bard og annarra stórra gervigreindargerða, höfum við heyrt viðvaranir frá fólki sem tekur þátt í þeim, eins og Elon Musk, um áhættuna sem gervigreind hefur í för með sér. Nú hefur hópur áberandi leiðtoga iðnaðarins gefið út einnar setningar yfirlýsingu sem í raun staðfestir þennan ótta.
Umsóknin var birt þann á heimasíðu öryggismiðstöðvar gervigreindar (Center for AI Safety) er stofnun sem hefur það hlutverk að „draga úr áhættu sem tengist gervigreind á samfélagslegum mælikvarða“. Meðal undirritaðra eru þekktir fulltrúar gervigreindariðnaðarins, þar á meðal framkvæmdastjóri OpenAI Sam Altman og yfirmaður Google DeepMind Demis Hassabis. Turing-verðlaunahafarnir Geoffrey Hinton og Joshua Bengio, sem margir eru taldir vera guðfeður nútíma gervigreindar, skrifuðu einnig undir yfirlýsinguna.
Þetta er önnur slík yfirlýsing á síðustu mánuðum. Í mars kölluðu Musk, Steve Wozniak og meira en 1000 aðrir eftir sex mánaða hléi í gervigreindarþróun til að leyfa iðnaði og almenningi að ná tökum á tækninni á áhrifaríkan hátt. „Á undanförnum mánuðum hafa gervigreindarstofur verið flækt í stjórnlausu kapphlaupi um að þróa og innleiða sífellt öflugri stafræna huga sem enginn - ekki einu sinni höfundar þeirra - getur skilið, spáð fyrir eða stjórnað á áreiðanlegan hátt,“ segir í bréfinu.
Þó að gervigreind sé (líklega) ekki eins sjálfsmeðvituð og sumir óttast, þá skapar það nú þegar hættu á misnotkun og skaða með djúpum fölsunum, sjálfvirkum óupplýsingum og fleiru. Gervigreind getur líka breytt því hvernig efni, list og bókmenntir eru framleidd, sem gæti haft áhrif á mörg störf.
Joe Biden, forseti Bandaríkjanna, sagði nýlega að það „á eftir að koma í ljós“ hvort gervigreind sé hættuleg og bætti við: „Að mínu mati ber tæknifyrirtækjum skylda til að tryggja að vörur þeirra séu öruggar áður en þær gefa þær út í heiminn... hjálpa til við að takast á við mjög erfið vandamál eins og sjúkdóma og loftslagsbreytingar, en það verður líka að taka tillit til hugsanlegrar áhættu fyrir samfélag okkar, efnahag okkar, þjóðaröryggi okkar. Á nýlegum fundi í Hvíta húsinu kallaði Altman eftir reglugerð um gervigreind vegna hugsanlegrar áhættu.
Með hliðsjón af hinum víðtæku skoðunum miðar nýja yfirlýsingin að því að sýna fram á sameiginlegar áhyggjur af áhættunni sem tengist gervigreind, jafnvel þótt aðilar séu ósammála um hverjar þessar áhættur eru.
„Sérfræðingar í gervigreind, blaðamenn, stjórnmálamenn og almenningur ræða í auknum mæli um margvíslega mikilvæga og brýna áhættu sem tengist gervigreind,“ segir í formála yfirlýsingarinnar. „Það getur hins vegar verið erfitt að lýsa áhyggjum af sumum af alvarlegri hættum sem tengjast gervigreind. Hnitorða yfirlýsingin hér að neðan miðar að því að yfirstíga þessa hindrun og opna umræðuna. Það er einnig hannað til að upplýsa vaxandi fjölda sérfræðinga og opinberra einstaklinga sem einnig taka alvarlega einhverja alvarlegustu áhættu sem tengist gervigreind.“
Lestu líka: