Reynt að forðast vélauppreisn: Fyrsta stjórnarskrá gervigreindar

Ráðstefna prófessora, þróunaraðila og verkfræðinga sem sérhæfa sig í sköpun og þróun gervigreindartækni (AI) var haldin í Kaliforníu dagana 5. til 8. janúar. Í fjögurra daga virkum umræðum var tekinn saman listi yfir AI meginreglur sem þegar eru notaðar núna og ætti að beita í framtíðinni. Í raun hefur verið tekin saman ákveðin samantekt um árangur mannkyns á sviði vélanáms undanfarna áratugi.

Almennt séð er „gervigreind“ ekki beintengd mannsheilanum og greindinni sem slíkri. Svona túlkar bandaríski tölvunarfræðingurinn John McCarthy, höfundur þessa hugtaks, þetta hugtak: "Vandamálið er að við getum ekki enn skilgreint almennt hvaða reikniaðferðir við viljum kalla greindar. Við skiljum aðeins suma greindaraðferðir. Þess vegna, undir upplýsingaöflun innan marka þessara vísinda er aðeins reikniþátturinn í getu til að ná markmiðum í heiminum skilinn. Þetta var tilkynnt árið 1956 á ráðstefnu í Dartmouth háskólanum.

Tíminn staðfesti orð McCarthys. Í dag notum við upplýsingatæki til að ná markmiðum okkar og hugmyndir okkar um að einfalda heiminn eða hugsa um framtíðina tengjast hugbúnaðarkóða í auknum mæli. Já, við breyttum hugmyndinni um sömu verkin, en við útilokuðum alls ekki að þau væru alls staðar.

Þannig að öllum 23 samanteknum "lögmálum framtíðarinnar" var skipt í þrjá hópa: vísindaleg rannsóknarmál, siðfræði og gildi, tæknisjónarmið.

Stjórnarskrá gervigreindar

Rannsóknarhluti

1. Markmið gervigreindarrannsókna er að búa til ekki aðeins tæki með þröngan áherslu heldur ávinning fyrir allt samfélagið.

2. Fjárfestingar í gervigreind ættu að fara inn á sviði rannsókna til að tryggja notagildi tækninnar, sem gerir kleift að gefa nákvæmari og almennari svör við þessum spurningum um upplýsingafræði, hagfræði, lögfræði, siðfræði, félagsvísindi:

• Hvernig á að tryggja mikla áreiðanleika gervigreindar, standast árásir tölvuþrjóta með góðum árangri og koma auðveldlega í veg fyrir bilanir?
• Hvernig getum við náð tilætluðu markmiði með hjálp sjálfvirkni, eyða sem minnstum fjármunum?
• Hvernig á að uppfæra réttarkerfið á hæfilegan hátt, tryggja réttlæti í samræmi við nútíma Canon, að teknu tilliti til tilkomu gervigreindar?
• Hvaða lagalega og þjóðernislega stöðu mun gervigreind fá?

3. Tryggja uppbyggileg og jöfn samskipti fræðimanna og stjórnmálamanna.

4. Fullur hreinskilni og gagnsæi í menningarafrekum til frekari notkunar gervigreindar.

5. Samspil og samstarf milli gervigreindarfræðinga til að forðast harða samkeppni.

Siðferðisgildin

6. Gervigreindarkerfi verða að vera örugg og áreiðanleg á öllu rekstrartímabilinu.

7. Eins fljótt og auðið er til að komast að orsökum vandamála og útrýmingu þeirra í kjölfarið.

8. Sérhver inngrip sjálfstæða kerfisins í dómsúrskurði verður að vera leyfð og háð skýrslugjöf ef um er að ræða sannprófun af bærum fulltrúa í nefndinni (persónu).

9. Ábyrgð á tjóni, hættulegum aðstæðum af ásetningi, af völdum hönnunar- eða hugbúnaðarvillu, er á herðum þróunaraðila og verkfræðinga.

10. Öll sjálfstæð gervigreind kerfi ættu að leitast við þekkingu á almennum manngildum.

11. Gerð gervigreind verður að vera hönnuð og starfrækt á þann hátt að það samrýmist hugsjónum um mannlega reisn, réttindi, frelsi og menningarlegan fjölbreytileika.

12. Upplýsingar sem myndast í því ferli að nota gervigreind af einstaklingi verða að vera aðgengilegar sama einstaklingi í framtíðinni (möguleiki til að stjórna niðurstöðum og söfnuðum gögnum).

13. Gervigreind þegar unnið er með persónuupplýsingar ætti ekki að takmarka raunverulegt eða ímyndað frelsi fólks á óeðlilegan hátt.

14. Gervigreind tækni ætti að gagnast og vera aðgengileg eins mörgum og mögulegt er.

15. Efnahagsleg og félagsleg afrek gervigreindar eru alþjóðleg og ættu að miða að hag mannkyns.

16. Maður hefur alltaf val: að taka ákvörðun sjálfstætt eða fela gervigreind.

17. Tilgangur gervigreindar er að bæta og auðga samfélagið án þess að valda eyðileggingu og hörmungum.

18. Líkurnar á að nota gervigreind tækni í vígbúnaðarkapphlaupinu ættu að minnka niður í núll, í raun ætti vopnuð samkeppni líka að hætta.

Langtímamál

19. Við verðum að meta algerlega edrú takmörk gervigreindargetu til að forðast óskynsamlega eyðslu auðlinda.

20. Þróun gervigreindar verður mikil og því verður tæknin að vera undir stjórn til að valda ekki óafturkræfum viðbrögðum.

21. Áhættu, sérstaklega stórfellda, ætti að skipuleggja á þann hátt að tryggt sé að mögulegt tap verði sem minnst.

22. Gerð gervigreindarkerfi eru fær um sjálfsþroska og sjálfsfjölgun, sem getur valdið versnun á gæðum gervigreindarstarfsemi, þannig að reglubundið eftirlit með lykilvísum ætti að fara fram.

23. Ofurgreind er tækni sem þjónar og mun þjóna í þágu alls mannkyns, án þess að hlýða neinum sérstökum einkastofnunum eða ríki.

Lestu líka: Hyperloop: Hvað með tómarúm lestarkeppni?

Rifjum stuttlega upp helstu ritgerðir skýrslunnar. Sérfræðingar hafa áhyggjur af eigin afturhaldi á augnabliki mikillar þróunar gervigreindar, svo þeir leitast við að tryggja algjöra stjórn á tækninni. Alþjóðlegt gildi gervigreindar og samþættingu þess í mannlegri menningu er einnig ítrekað lögð áhersla á. Hins vegar munum við komast að því nógu fljótt hvort þessi áætlun verður framkvæmd. Gervigreind er eins og hvolpur, núna hleypur hann, leikur sér, en hvers konar hundur það verður á endanum fer fyrst og fremst eftir eigendum.

Í augnablikinu er þetta „frumvarp“ á stigi samþykkis íbúa jarðarinnar, þannig að ef þú vilt örugga, hamingjusama og tæknilega framtíð, ekki hika við "kjósa“ fyrir að samþykkja þessar algerlega sanngjarnu og nauðsynlegu meginreglur.

Turing próf og gervigreind

Hinn mikli stærðfræðingur Alan Turing tók einnig þátt í gervigreindartækni, svo hann kom með mjög áhugavert próf. Turing prófið var fyrst kynnt í greininni „Computing machines and the mind“ í heimspekiritinu Mind árið 1950. Hugmyndin með prófinu er að ákvarða getu vélarhugsunar og almennt tilvist hennar sem slík.

Staðlað túlkun er eftirfarandi: "Maður hefur samskipti við eina tölvu og eina manneskju. Út frá svörum við spurningunum þarf hann að ákveða við hvern hann er að tala: .. Við mann eða tölvuforrit. Verkefni tölvuforritsins er að villa um fyrir einstaklingi, neyða hann til að velja rangt.“ Allir þátttakendur geta ekki séð hver annan og samskipti fara fram á prófunarformi þar sem tilgangur prófsins er ekki að prófa tæknilega hæfileika talgreiningartækisins, heldur hæfileikann til að líkja eftir mannlegri hugsun.

Bréfaskipti fara einnig fram með stýrðu millibili þannig að „dómarinn“ getur ekki dregið ályktun út frá svarhraða. Það er athyglisvert að þessi regla var fundin upp vegna þess að þegar þetta próf var búið til, brugðust tölvur hægar við en maður, nú er það líka nauðsynlegt, því nú er maður á eftir.

Einnig, byggt á þessu prófi, var sambærilegt próf búið til til að ákvarða kyn viðmælenda. Í hlutverki dómara verður leikmaður C að eiga samskipti við leikmenn A og B, í raun karl og konu.

Ein rannsóknargrein um gervigreind gerði eftirfarandi athugasemd: „Nú spyrjum við: „Hvað gerist ef vélin virkar sem leikmaður A í þessum leik“, mun gestgjafinn taka rangar ákvarðanir þegar leikurinn er spilaður á þennan hátt, ef prófið tekur til mann og kona? Þessar spurningar munu koma í stað upprunalegu spurningarinnar okkar: „geta vélar hugsað“.

Það er, í stað einni algerlega langsóttri spurningu munum við svara auðveldari spurningum og gera það stöðugt og komast þar með nær og nær langþráðu svari við aðalspurningunni um andlega hæfileika gervigreindar.

Heimildir: Framtíð lífsins, Wikipedia og fleira Wikipedia