Hugmyndin um að gervigreind steypi mannkyninu hefur verið rædd í áratugi og í janúar 2021 gáfu vísindamenn upp úrskurð sinn um hvort við gætum stjórnað tölvuofurgreind á háu stigi. Svara? Næstum örugglega ekki.
Vandamálið er að það að stjórna ofurhuga langt umfram mannlegan skilning myndi krefjast eftirlíkingar af þeim ofurhuga sem við gætum greint. En ef við getum ekki skilið það er ómögulegt að búa til slíka uppgerð.
Reglur eins og „gera mönnum ekki skaða“ er ekki hægt að setja nema við skiljum hvaða atburðarás gervigreind (AI) mun koma upp, telja höfundar blaðs árið 2021. Um leið og tölvukerfið virkar á stigi sem er umfram getu forritara okkar, munum við ekki lengur geta sett takmörk.
„Ofurgreind er í grundvallaratriðum annað vandamál en þau sem venjulega eru rannsökuð undir merkjum „vélmennasiðfræði“,“ skrifa vísindamennirnir. „Þetta er vegna þess að ofurhuginn er margþættur og því hugsanlega fær um að virkja margvísleg úrræði til að ná markmiðum sem eru hugsanlega órannsakanleg fyrir mönnum, hvað þá stjórnanleg.“
Hluti af rökstuðningi liðsins kemur frá stöðvunarvandamál, sem Alan Turing lagði til árið 1936. Áskorunin er að komast að því hvort tölvuforritið muni komast að niðurstöðu og svara (og hætta) eða bara hanga endalaust og reyna að finna svarið.
Eins og Turing sannaði með hjálp greindar stærðfræði, Þó að við kunnum að vita þetta fyrir sum ákveðin forrit, þá er rökrétt ómögulegt að finna leið sem gerir okkur kleift að vita þetta fyrir hvert hugsanlegt forrit sem gæti nokkurn tíma verið skrifað. Þetta færir okkur aftur til gervigreindar, sem í ofurgreindu ástandi gæti geymt öll möguleg tölvuforrit í minni sínu á sama tíma.
Einnig áhugavert:
Sérhvert forrit sem til dæmis er skrifað til að koma í veg fyrir að gervigreind skaði mönnum og eyðileggur heiminn getur eða gæti ekki komist að niðurstöðu (og hætt) - það er stærðfræðilega ómögulegt að vera algjörlega viss á hvorn veginn sem er, sem þýðir að það er ekki hægt að hemja það. „Það gerir fælingaralgrímið í grundvallaratriðum ónothæft,“ sagði tölvunarfræðingur Iyad Rahwan hjá Max Planck Institute for Human Development í Þýskalandi í janúar.
Annar valkostur við að kenna gervigreindarsiðfræði og bönn gegn eyðileggingu heimsins, sem enginn reiknirit getur verið alveg viss um, segja vísindamennirnir, er að takmarka getu ofurhugans. Til dæmis getur það verið lokað frá hluta internetsins eða ákveðnum netkerfum.
Höfundar nýlegrar rannsóknar hafna þessari hugmynd líka og telja að hún muni takmarka umfang gervigreindar - þeir segja, ef við ætlum ekki að nota hana til að leysa vandamál umfram mannlega getu, hvers vegna þá að búa hana til?
Ef við ætlum að efla gervigreind, vitum við kannski ekki einu sinni hvenær ofurgreind mun birtast, sem er óviðráðanlegt, svo óskiljanlegt er það. Þetta þýðir að við þurfum að byrja að spyrja alvarlegra spurninga um hvert við stefnum.
„Ofgreind vél sem rekur heiminn hljómar eins og vísindaskáldskapur,“ segir tölvunarfræðingur Manuel Kebrian hjá Max Planck Institute for Human Development. En það eru nú þegar vélar sem sjálfstætt sinna mikilvægum verkefnum á meðan forritarar skilja ekki alveg hvernig þeir lærðu þetta.
Þess vegna vaknar sú spurning hvort það geti einhvern tíma orðið óviðráðanlegt og hættulegt fyrir mannkynið...
Lestu líka:
- Gervigreind tókst að endurskapa málverk eftir Picasso
- Gervigreind mun hjálpa til við að spá fyrir um umferðarslys áður en þau verða