Dularfullur Verkefni Q* frá OpenAI veldur áhyggjum meðal sérfræðinga. Getur hann virkilega verið hættulegur mannkyninu? Hvað er vitað um hann? Eftir að Sam Altman var upphaflega rekinn í síðustu viku og hann og liðið fluttu næstum inn í Microsoft, þá sneri hann aftur á vinnustaðinn sinn (um það við skrifuðum hér), OpenAI er aftur í fréttum. Að þessu sinni vegna þess sem sumir vísindamenn kalla mögulega ógn við mannkynið. Já, þú lest rétt, ógn við mannkynið.
Hið raunverulega umrót í tækniheiminum var af völdum Project Q* - ótilgreint verkefni um almenna gervigreind (AGI) - borið fram Q-Star. Þrátt fyrir að þetta verkefni sé á frumstigi er það talið vera sannarlega byltingarkennd í þróun AGI. Hins vegar líta sumir á það sem hættu fyrir mannkynið.
Leynilegt gervigreindarverkefni þróað af hinni frægu gervigreindarrannsóknarstofu OpenAI hefur möguleika á að gjörbylta tækni og samfélaginu almennt. En það vekur líka nokkrar siðferðilegar spurningar um áhættuna. Eftir því sem upplýsingar koma fram um ótrúlega getu Project Q* koma fram fleiri og fleiri vangaveltur um hvað það gæti þýtt fyrir framtíð mannkyns.
Einnig áhugavert: Saga OpenAI: Hvað það var og hvað er framundan hjá fyrirtækinu
Hvað er gervi almenn greind (AGI)?
Til að skilja eflana í kringum Project Q* (Q-Star), skulum við fyrst reyna að skilja hvað hugtakið gervigreind (AGI) snýst um. Þó núverandi gervigreindarkerfi skara fram úr í þröngum, sérstökum verkefnum eins og að spila skák eða búa til myndir, vísar almenn gervigreind til véla sem geta lært og hugsað á mannlegu stigi á mörgum sviðum. Það er að segja, þau geta lært eins og lítil börn í skólanum, til dæmis grunnatriði stærðfræði, efnafræði, líffræði o.s.frv.
Almenn gervigreind (AGI) er tegund vélagreindar sem getur líkt eftir mannlegri greind eða hegðun, með getu til að læra og beita þeim möguleika til að leysa margvísleg vandamál. AGI er einnig kallað sterk gervigreind, full gervigreind eða gervigreind á mönnum. Almenn gervigreind er frábrugðin veikum eða þröngum gervigreind, sem er aðeins fær um að framkvæma ákveðin eða sérhæfð verkefni innan tiltekinna breytu. ZHI mun geta sjálfstætt leyst ýmis flókin vandamál frá mismunandi þekkingarsviðum.
Að búa til gervigreind er megináhersla gervigreindarrannsókna fyrirtækja eins og DeepMind og Anthropic. CSI er mjög vinsælt efni í vísindaskáldsögubókmenntum og gæti mótað framtíðarrannsóknir. Sumir halda því fram að hægt sé að stofna UCI innan nokkurra ára eða áratuga, á meðan aðrir halda því fram að það gæti tekið heila öld eða meira. En það eru þeir sem trúa því að þetta muni aldrei nást. Sumir hafa séð upphaf URI í GPT-3, en það virðist samt vera langt frá því að uppfylla grunnskilyrðin.
Sköpun gervi almennrar greind (AGI) er af vísindamönnum álitin heilagur gral gervigreindar, fræðilegur möguleiki sem hefur lengi fangað ímyndunarafl þeirra. Þess vegna olli framkoma slíks verkefnis eins og OpenAI Project Q* miklum hljómgrunni í heimi gervigreindar reikniritrannsókna. Þó að allir skilji að þetta séu aðeins fyrstu skrefin, nánast í blindni, að heimi þar sem gervigreind mun hafa sömu getu og menn, eða jafnvel meiri.
Einnig áhugavert: Allt um Microsoft Aðstoðarflugmaður: framtíðin eða á rangan hátt?
Hvað er Project Q*?
Project Q* er ekki dæmigert reiknirit vegna þess að það er gervigreindarlíkan sem nálgast í auknum mæli gervigreindarlíkanið (AGI). Þetta þýðir að ólíkt ChatGPT sýnir Project Q* betri hugsun og vitræna færni samanborið við önnur reiknirit. ChatGPT bregst eins og er við fyrirspurnum sem byggjast á miklu magni staðreynda efnis, en með AGI mun gervigreind líkanið læra rökhugsun og getu til að hugsa og skilja sjálft. Það er þegar vitað að Project Q* er fær um að leysa einföld stærðfræðileg vandamál sem voru ekki hluti af þjálfunarefni þess. Í þessu sjá sumir vísindamenn mikilvægt skref í átt að sköpun almennrar gervigreindar (AGI). OpenAI skilgreinir AGI sem gervigreindarkerfi sem eru snjallari en menn.
Þróun verkefnis Q* er stjórnað af OpenAI yfirvísindamanni Ilya Sutzkever og grundvöllur hennar var undirbyggður af fræðimönnum Jakub Pakhotsky og Shimon Sidor.
Hæfni reiknirit til að leysa stærðfræðileg vandamál á eigin spýtur, jafnvel þótt þessi vandamál væru ekki hluti af þjálfunargagnasettinu, er talin bylting á sviði gervigreindar. Ágreiningur í teyminu varðandi þetta verkefni tengist tímabundið brottrekstri Sam Altman forstjóra OpenAI. Vitað er að áður en Altman var rekinn sendi hópur fræðimanna fyrirtækja bréf til stjórnar þar sem varað var við uppgötvun gervigreindar sem gæti ógnað mannkyninu. Þetta bréf, sem að sögn fjallaði um Project Q* reikniritið, var nefnt sem einn af þeim þáttum sem leiddi til þess að Altman var rekinn. Hins vegar er möguleiki Project Q* og hugsanlega áhættu sem það getur haft í för með sér ekki að fullu skilin vegna þess að upplýsingarnar eru óþekktar. Ekkert hefur verið gefið út til almennings.
Í kjarna sínum er Project Q* módellaus styrktarnámsaðferð sem víkur frá hefðbundnum líkönum með því að krefjast engrar fyrri þekkingar á umhverfinu. Þess í stað lærir það með reynslu, aðlagar aðgerðir byggðar á verðlaunum og refsingum. Tæknifræðingar telja að Project Q* muni geta öðlast framúrskarandi hæfileika með því að tileinka sér hæfileika sem líkjast vitrænum hæfileikum manna.
Hins vegar er það þessi eiginleiki sem er mest áhrifamikill í nýju gervigreindarlíkaninu sem veldur áhyggjum vísindamanna og gagnrýnenda og vekur ótta þeirra um raunverulega notkun tækninnar og undirliggjandi áhættu sem því fylgir. Hvað eru vísindamenn og vísindamenn svona hræddir við? Við skulum reikna það út.
Einnig áhugavert: Hvernig á að uppfæra heimilistækin þín til að styðja Wi-Fi 6
Þeir eru hræddir við hið óþekkta
Menn hafa alltaf verið hræddir við hið óþekkta, hið óþekkjanlega. Þetta er hinn mannlegi kjarni, einkenni persónu okkar og lífshátta.
Tækniheimurinn lærði um Project Q* í nóvember 2023 eftir Reuters greint frá um innra bréf skrifað af áhyggjufullum rannsakendum OpenAI. Innihald bréfsins var óljóst, en að sögn greindi það alvarlega getu Project Q*. Eins og ég nefndi hér að ofan eru jafnvel vangaveltur um að það hafi verið þetta bréf sem hafi hrundið af stað afsögn Sam Altman.
Þessi sprengiefni uppgötvun hefur gefið af sér ýmsar tilgátur um eðli verkefnis Q*. Vísindamenn hafa bent á að þetta gæti verið byltingarkennt náttúrulegt tungumál líkan fyrir gervigreind. Einskonar uppfinningamaður nýrra reiknirita sem munu búa þau til fyrir annars konar gervigreind, eða eitthvað allt annað á þessu sviði.
Ögrandi ummæli Altmans um almenna gervigreind sem „meðalstarfsmann“ hafa þegar vakið upp áhyggjur af starfsöryggi og óstöðvandi aukningu á áhrifum gervigreindar. Þetta dularfulla reiknirit er skilgreint sem áfangi í þróun gervigreindar (AGI). Hins vegar skilja allir að þessi áfangi er dýr. Og það snýst ekki um peninga núna. Stig vitrænnar færni sem nýja gervigreindargerðin hefur lofað hefur í för með sér óvissu. Vísindamenn í OpenAI lofa því að gervigreind muni hafa mannlega hugsun. Og þetta þýðir að við getum ekki vitað margt og spáð fyrir um afleiðingarnar. Og því óþekktara, því erfiðara er að búa sig undir að stjórna því eða laga það. Það er, nýja reikniritið er fær um að bæta sig og þróast. Við höfum þegar séð þetta einhvers staðar...
Einnig áhugavert: Windows 12: Hvað verður nýja stýrikerfið
Ótrúlegar upplýsingar um getu Project Q*
Þegar frekari upplýsingar fóru að koma fram hneykslaði það marga vísindamenn. Fyrstu vísbendingar voru um að Project Q* hefði ótrúlega hæfileika í stærðfræði. Ólíkt reiknivél sem framkvæmir vélræna útreikninga, getur Project Q* notað rökfræði og rökhugsun til að leysa flókin stærðfræðidæmi. Þessi stærðfræðilega hæfileiki til að alhæfa bendir til þróunar víðtækrar greind.
Sjálfvirk þjálfun verkefnis Q*, án sérstakra gagnasetta sem notuð eru til að þjálfa dæmigerð gervigreind, mun einnig vera mikið framfaraskref. Það er enn óþekkt hvort Project Q* hefur náð tökum á einhverjum öðrum færni. En stærðfræðihæfileikar hans eru svo ótrúlegir í sjálfu sér að þeir rugla jafnvel reynda vísindamenn.
Lestu líka: Human Brain Project: Tilraun til að líkja eftir mannsheilanum
Leið Project Q* til yfirráða?
Það eru bæði bjartsýnir og svartsýnir sviðsmyndir í þessu máli. Bjartsýnismenn munu segja að Project Q* gæti verið neistinn sem leiðir til tæknibyltingar. Eftir því sem kerfið endurkvæmir sjálft sig, gæti yfirnáttúruleg greind þess hjálpað til við að leysa nokkur af mikilvægustu vandamálum mannkyns, allt frá loftslagsbreytingum til sjúkdómaeftirlits. Project Q* getur gert leiðinlega vinnu sjálfvirkt og losað frítíma okkar til annarra athafna.
Þó að það séu miklu fleiri svartsýnni valkostir. Stundum eru þau nokkuð sanngjörn og hafa ákveðna merkingu.
Tap á störfum
Hraðar breytingar í þróun tækni geta farið fram úr einstaklingsaðlögun fólks. Þetta mun leiða til þess að einni eða fleiri kynslóðum tapast sem munu ekki geta öðlast nauðsynlega færni eða þekkingu til að aðlagast nýjum veruleika. Þetta þýðir aftur á móti að færri geta haldið vinnu sinni. Það verður framkvæmt í staðinn af vélum, sjálfvirkum kerfum og vélmennum. Hins vegar er svarið ekki svo skýrt þegar kemur að hæfum sérfræðingum. Að auki geta komið fram nýjar starfsgreinar sem tengjast sérstaklega þróun gervigreindar reiknirit. En það eru enn áhættur og mannkynið hefur engan rétt til að hunsa þær.
Hættan á stjórnlausu valdi
Ef gervigreind eins öflug og Project Q* fellur í hendur þeirra sem hafa illgjarnar fyrirætlanir, er hætta á skelfilegum afleiðingum fyrir mannkynið. Jafnvel án hugsanlegs illgjarns ásetnings getur ákvarðanatökustig Project Q* leitt til skaðlegra niðurstaðna, sem undirstrikar mikilvægi þess að meta vandlega beitingu þess.
Ef Project Q* er illa fínstillt fyrir mannlegar þarfir getur það valdið skaða með getu þess til að hámarka suma handahófskennda mælikvarða. Eða það getur haft pólitíska vídd, eins og að vera notað til eftirlits ríkisins eða kúgunar. Opinská umræða um áhrifagreiningu verkefnis Q* mun hjálpa til við að skilgreina mögulegar aðstæður fyrir þróun ZHI.
Erum við í "Man vs. Machine" uppgjör?
Hollywood hefur þegar búið til margar atburðarásir af slíkum árekstrum í kvikmyndum sínum. Við munum öll eftir hinu fræga SkyNet og afleiðingum slíkrar uppgötvunar. Kannski ættu rannsakendur OpenAI að horfa á þessa mynd aftur?
Mannkynið þarf að sætta sig við merki og áskoranir og vera viðbúið því sem gæti gerst. Gervigreindarlíkan sem getur hugsað eins og maður getur einhvern tíma orðið óvinur okkar. Margir vilja halda því fram að í framtíðinni muni vísindamenn vita nákvæmlega hvernig eigi að halda ástandinu í skefjum. En þegar kemur að vélum er ekki alveg hægt að útiloka að þær reyni að yfirtaka mennina.
Einnig áhugavert: Ekki er allt sem við köllum gervigreind í raun gervigreind. Hér er það sem þú þarft að vita
Af hverju er OpenAI hljóðlaust?
Þrátt fyrir æði almenningsáhuga á Project Q*, þegja stjórnendur OpenAI um sérkenni reikniritsins. En innri lekinn sýnir vaxandi spennu í rannsóknarstofunni um forgangsröðun og hreinskilni þróunar. Þó að margir OpenAI innherjar styðji stofnun Project Q*, halda gagnrýnendur því fram að gagnsæi hafi tekið aftursætið til að flýta fyrir vísindalegum framförum hvað sem það kostar. Og sumir vísindamenn hafa áhyggjur af því að ótrúlegt vald sé gefið kerfum þar sem markmiðin fara ekki endilega saman við mannleg gildi og siðferði. Þessir vísindamenn telja að umræður um eftirlit og ábyrgð hafi orðið hættulega þögguð. Þeir krefjast meiri kynningar og smáatriði.
Sem höfundar Project Q* verða OpenAI að skilja að þeir búa yfir tækni sem getur annað hvort aukið möguleika samfélagsins til mikillar þróunar eða eyðilagt það miskunnarlaust. Svo mikilvægar nýjungar eiga skilið miklu meira gagnsæi til að byggja upp traust almennings. Allir spádómarar um aldur vélarinnar verða að vega vandlega áhættuna samhliða ávinningnum. Og þróunaraðilar Project Q* þurfa að sýna næga visku og umhyggju til að leiða samfélagið á öruggan hátt inn í nýtt tímabil almennrar gervigreindar sem gæti komið fyrr en við höfðum nokkurn tíma ímyndað okkur.
Til þess að almenn gervigreind sé gagnleg og örugg fyrir mannkynið þarf að tryggja að hún starfi á öruggan hátt, siðferðilega og í samræmi við gildi og markmið mannkyns. Þetta krefst þróun og innleiðingar á viðeigandi reglugerðargerðum, stöðlum, reglum og samskiptareglum sem munu stjórna og halda aftur af aðgerðum og hegðun CSI. Að auki verður að útrýma hugsanlegum ógnum og áhættu sem tengist misnotkun, slysum, ósamrýmanleika, meðferð og átökum sem gætu leitt til eyðileggingar mannkyns. Á meðan, fjárfestar og Microsoft bíður spenntur eftir markaðshæfri vöru sem gæti skapað hagnað, sem án efa stangast á við nauðsyn þess að bregðast við af ábyrgð. Við skulum vona að skynsemin sigri.
Lestu líka: