Tæknileiðtogar og þekktir gervigreindarfræðingar hafa skrifað undir opnu bréfi, sem kallar á gervigreindarstofur og fyrirtæki að „stöðva strax“ vinnu sína.
Undirritaðir, þar á meðal Steve Wozniak og Elon Musk, eru sammála um að áhættan krefjist að minnsta kosti sex mánaða hlés frá framleiðslu tækni sem fer út fyrir gildissviðið GPT-4. Þetta er til að fá gleði og ánægju út úr gervigreindarkerfum sem eru til núna og til að leyfa fólki að laga sig að þeim og sjá að þau eru gagnleg.
Í bréfinu er bætt við að varúð og umhugsunar sé þörf til að tryggja öryggi gervigreindarkerfa, en þau séu hunsuð. Tilvísunin í GPT-4, nýtt OpenAI líkan sem getur svarað með texta við skrifuðum eða sjónrænum skilaboðum, kemur þegar fyrirtæki keppast við að byggja upp háþróuð spjallkerfi með tækninni. Dæmi, Microsoft Staðfesti nýlega að uppfærða Bing leitarvélin hafi verið í gangi á GPT-4 gerðinni í meira en 7 vikur og Google kynnti nýlega opinberlega Bard – eigið generative gervigreindarkerfi byggt á LaMDA.
Áhyggjur af gervigreind hafa verið til staðar í langan tíma, en kapphlaupið um að tileinka sér fullkomnustu tækni er augljóst gervigreind hið fyrsta er þegar skelfilegt. „Á undanförnum mánuðum hafa gervigreindarstofur verið í stjórnlausu kapphlaupi um að þróa og innleiða sífellt öflugri stafræna huga sem enginn - ekki einu sinni höfundar þeirra - getur skilið, spáð fyrir eða stjórnað á áreiðanlegan hátt,“ segir í bréfinu.
Bréfið var gefið út af sjálfseignarstofnuninni Future of Life Institute (FLI), sem vinnur að því að lágmarka hnattræna hörmungar- og tilvistaráhættu og misnotkun á nýrri tækni, einkum gervigreind. Áður gaf Musk 10 milljónir dala til FLI fyrir AI öryggisrannsóknir. Auk hans og Wozniak eru undirritaðir nokkrir heimsleiðtogar á sviði gervigreindar, svo sem Mark Rothenberg, forseti gervigreindar og stafrænnar stefnu, forseti MIT eðlisfræðingur og Max Tegmark forseti FLI og rithöfundurinn Yuval Noah Harari.
Harari var einnig meðhöfundur greinargerðar í New York Times í síðustu viku þar sem hann varaði við áhættunni sem tengist gervigreind, þar sem stofnendur Center for Humane Technologies og aðrir undirritaðir opna bréfið, Tristan Harris og Aza Raskin, unnu með honum.
Símtalið kemur í kjölfar könnunar á síðasta ári meðal meira en 700 vísindamanna í vélanámi þar sem næstum helmingur sagði að það væru um 10% líkur á „mjög slæmum afleiðingum“ frá gervigreind, þar á meðal mannlegri útrýmingu. Þegar spurt var um öryggi í gervigreindarrannsóknum sögðu 68% svarenda að meira eða miklu meira þyrfti að gera.
Lestu líka: