Fyrrverandi yfirmaður Google líkti gervigreind við kjarnorkuvopn

Fyrrverandi forstjóri Google, Eric Schmidt, líkti gervigreind (AI) við kjarnorkuvopn og kallaði eftir fælingarstjórn, svipað og gagnkvæmri eyðileggingu, sem kemur í veg fyrir að voldugustu þjóðir heims eyðileggi hvert annað.

Schmidt talaði um hættuna af gervigreind á Aspen Security Forum 22. júlí í umræðum um þjóðaröryggi og gervigreind. Þegar hann var spurður um gildi siðferðis í tækni útskýrði Schmidt að hann hefði sjálfur verið barnalegur varðandi mátt upplýsinga í árdaga Google. Þá kallaði hann eftir því að tæknin passaði betur við siðferði og siðferði fólksins sem þeir þjóna og dró undarlegan samanburð á gervigreind og kjarnorkuvopnum.

„Við erum ekki tilbúin í þær samningaviðræður sem við þurfum. – @ericschmidt #AspenSecurity mynd.twitter.com/As749t6ZyU

— Aspen Security Forum (@AspenSecurity) Júlí 22, 2022

Schmidt talaði um nánustu framtíð, þar sem Kína og Bandaríkin þurfa að gera samning um gervigreind. „Á fimmta og sjöunda áratugnum enduðum við með því að búa til heim þar sem það var regla um „ekkert óvænt“ fyrir kjarnorkutilraunir og þar af leiðandi voru þær bannaðar,“ sagði Schmidt. „Þetta er dæmi um jafnvægið milli trausts eða skorts á trausti, þetta er reglan um „ekkert óvænt“. Ég hef miklar áhyggjur af því að sýn Bandaríkjanna á Kína sem spillta eða kommúnista eða hvað sem er, og skoðun Kína á Ameríku sem tapara... muni leyfa fólki að segja: "Ó, Guð minn góður, þeir eru að gera eitthvað," og síðan eitthvað óskiljanlegt mun byrja... .

Gervigreind og vélanám er heillandi og oft misskilin tækni. Hann er í rauninni ekki eins klár og fólk heldur. Það getur búið til listaverk á meistarastigi, barið fólk á Starcraft II og hringt í grunnsímtöl fyrir notendur. Tilraunir til að láta hann sinna erfiðari verkefnum, eins og að aka bíl í stórborg, hafa hins vegar ekki borið árangur.

Schmidt talar um ímyndaða nálæga framtíð þar sem bæði Kína og Bandaríkin munu hafa áhyggjur af öryggismálum, sem mun neyða þau til að gera eins konar sáttmála um að innihalda gervigreind. Hann rifjaði upp fimmta og sjötta áratuginn, þegar erindrekstri þróaði röð eftirlits í kringum banvænustu vopn á jörðinni. En það tók áratug af kjarnorkusprengingum og síðast en ekki síst eyðileggingu Hiroshima og Nagasaki, þar til friður komst á áður en sáttmálinn um bann við kjarnorkutilraunum, SALT II, ​​og annarri merkislöggjöf var gerður.

Tvær japanskar borgir sem Ameríka eyðilagði í lok síðari heimsstyrjaldarinnar tóku tugþúsundir manna lífið og sönnuðu heiminum hinn eilífa hrylling kjarnorkuvopna. Þá hlupu ríkisstjórnir Rússlands og Kína til að útvega sér vopn. Leiðin sem við lifum við möguleikann á að þessi vopn verði notuð er það sem er þekkt sem Mutually Assured Destruction (MAD), kenning um fælingarmátt sem tryggir að ef eitt ríki sendir á loft kjarnorkuvopn er mögulegt að önnur ríki geri það. Við notum ekki eyðileggjandi vopn á plánetunni vegna möguleikans á að það muni eyðileggja að minnsta kosti siðmenningu um allan heim.

Þrátt fyrir litrík ummæli Schmidt, viljum við ekki eða þurfum MAD fyrir gervigreind. Í fyrsta lagi hefur gervigreind ekki enn sannað eyðileggingarmátt sinn miðað við kjarnorkuvopn. En valdhafarnir óttast þessa nýju tækni, og oftast af röngum ástæðum. Fólk hefur meira að segja lagt til að yfirráð yfir kjarnorkuvopnum verði framselt gervigreind og talið að það væri betri úrskurðaraðili um notkun þeirra en manneskju.

Vandamálið við gervigreind er ekki að hún hafi hugsanlega eyðileggingarmátt kjarnorkuvopns. Málið er að gervigreind er aðeins eins góð og fólkið sem þróaði hana og að hún ber gildi höfunda hennar. Gervigreind þjáist af hinu klassíska „sorp inn, sorp út“ vandamálið: Rasísk reiknirit búa til rasísk vélmenni og öll gervigreind bera hlutdrægni höfunda sinna.

Demis Hassabis, forstjóri DeepMind, fyrirtækisins sem þjálfaði gervigreindina sem sigrar Starcraft II leikmenn, virðist skilja þetta betur en Schmidt. Í júlíviðtali á hlaðvarpi Lex Friedman spurði Friedman Hassabis hvernig hægt væri að stjórna jafn öflugri tækni og gervigreind og hvernig Hassabis sjálfur gæti forðast að spillast af því valdi.

Svar Khasabis er um hann sjálfan. „Gervigreind er of stór hugmynd,“ sagði hann. „Það skiptir máli hver skapar gervigreind, hvaða menningu þeir koma frá og hvaða gildi þeirra eru. Gervigreind kerfi munu læra af sjálfu sér... en kerfið verður áfram innprentað menningu og gildum höfunda kerfisins."

Gervigreind er spegilmynd höfundar hennar. Það getur ekki jafnað borg við jörðu með 1,2 megatonna sprengingu. Nema maður kenni honum þetta.

Þú getur hjálpað Úkraínu að berjast gegn rússnesku innrásarhernum. Besta leiðin til að gera þetta er að gefa fé til hersins í Úkraínu í gegnum Bjarga lífi eða í gegnum opinberu síðuna NBU.

Lestu líka:

• Ný umsókn Samsung notar gervigreind til að bæta myndirnar þínar
• Gervigreind hjálpar til við að bera kennsl á stjarnfræðileg fyrirbæri