Hvernig verða störf framtíðarinnar? Hvers getum við búist við af samvinnu þróunaraðila manngerðra vélmenna og gervigreindar reiknirit? Mun gervigreind fá líkama?
Eftir byltingarkennd velgengni ChatGPT frá Open AI og öðrum vel heppnuðum verkefnum á sviði gervigreindar og reiknirit vélanáms, eru fleiri og fleiri sérfræðingar að velta þessari spurningu fyrir sér.
Humanoid vélmenni hafa alltaf vakið athygli ekki aðeins leikstjóra vísindaskáldsagnamynda, heldur einnig verkfræðinga og þróunaraðila. Mannkynið vildi finna gervi aðstoðarmann - vélmenni sem myndi hjálpa í öllu, framkvæma erfiða og óhreina vinnu. Og á sama tíma var hann hlýðinn og greindur.
Ég ætla ekki að rifja hér upp söguþræði vísindaskáldsagnamynda, þar sem vélmenni hegðuðu sér öðruvísi, urðu stundum vinir og aðstoðarmenn mannsins og stundum ógnuðu mannkyninu. Svo ekki sé minnst á hið fræga Skynet.
Hugmyndin um að skrifa þessa grein kviknaði í mér eftir að hafa horft á iðnaðarviðburðinn „Imagination in Action“ sem fáir skrifuðu og töluðu um. Það er við þennan atburð sem framtíð gervigreindarþróunar mótast stundum. Svo, um allt aftur.
Einnig áhugavert: Bestu verkfærin byggð á gervigreind
Iðnaðarviðburður "Imagination in Action"
13. apríl 2023. Atburður iðnaðarins "Imagination in Action", skipulagður af einum besta háskólum í heimi - Massachusetts Institute of Technology, stendur yfir. Samberg ráðstefnumiðstöðin í Boston er að springa í saumana af áhugafólki um nýja tækni. Það voru ekki nógu margir stólar fyrir alla. Margir gestir standa meðfram veggjum eða sitja á tröppum salarins. Allir bíða eftir einni sýningu. Stjarna þáttarins er Sam Altman, rísandi stjarna í tækniheiminum.
Yfirmaður fyrirtækisins OpenAI, en tungumálalíkanið af gervigreind ChatGPT er nefnt við hlið helstu nýjunga tækni eins og snjallsíma eða internetið. Það er erfitt að segja til um hvort áratugum síðar verði þetta enn talið svo mikilvægt skref í mannlegri þróun, en núna er efnið allsráðandi í tækniheiminum. Þar að auki neyddi gangsetningin, sem aðeins sérfræðingar hafa vitað hingað til, stór tækniskrímsli eins og Google eða Microsoft, taktu taugaveikluð skref og taktu þátt í keppninni um að búa til bestu gervigreindina.
Og hér er langþráð frammistaða Sam Altman. Allir, halda niðri í sér andanum, bíða eftir einhverju nýju og ótrúlegu frá langþráðum gestum. Og á meðan hann átti samskipti við þátttakendur í gegnum Zoom ákvað hann að koma á óvart að þessu sinni. Sam Altman sagði að í framtíðinni muni stærð tungumálalíkansins ekki skipta miklu máli. „Við erum að nálgast endalok þess tímabils að byggja risastór tungumálalíkön,“ sagði hann og bætti við að OpenAI muni halda áfram að bæta þau og nota þau á annan hátt.
Hvað nákvæmlega er verið að þróa í Open AI? Sam Altman hefur ekki upplýst þetta ennþá, en svo virðist sem hann hafi ekki sagt þessi orð fyrir tilviljun. Reyndar virðist lykillinn ekki vera sá að tungumálalíkön verði stærri og stærri og fyllist af sífellt fleiri gögnum, heldur að þau séu notuð af kunnáttu. Og hvernig á að gera það er líklega þegar augljóst. Aðeins tveimur dögum áður gaf OpenAI út upplýsingar um að það væri að vinna að manneskjulegu tvífættu vélmenni sem mun verða „líkami“ fyrir gervigreind.
Einnig áhugavert: Dagbók grumpy Old Geek: Bing vs Google
Draumar um vélmenni
Þetta er ekki í fyrsta skipti sem við heyrum drauma um manneskjuleg vélmenni frá OpenAI. Fyrir nokkrum árum fjárfesti fyrirtækið mikið í rannsóknum á þessu sviði. Hún þróaði meira að segja vélfæraarm sem gæti leyst Rubiks tening. Langtímamarkmið þessa verkefnis var að búa til „almennan tilgang“ vélmenni sem getur skilið náttúrulegt tungumál og haft samskipti við menn. Þá varð OpenAI fyrir miklu áfalli. Eftir nokkur ár var verkinu hætt vegna skorts á gögnum sem leyfðu þessum draumi að rætast. Og deild vélfærafræði innanlands var slitið árið 2021. Það virtist sem allt væri ónýtt og ekki þess virði að gefa gaum, en...
Staðan hefur hins vegar breyst núna. Fyrirtækið hefur allt önnur úrræði, bæði hvað varðar gögn og fjármuni. Í leiðinni hefur OpenAI orðið ört vaxandi vettvangur sögunnar. OG Microsoft fjárfesti milljarð dollara í þróun þess. Þú getur ekki beðið eftir svona ræfill. Að auki komust vísindamenn hans að því að hægt er að nota öflugt tungumálalíkan sem þeir þróuðu með góðum árangri til að stjórna drónum eða vélmenni. Svo þegar OpenAI tilkynnti að það væri að fjárfesta í norsku manngerða vélmenni gangsetningunni 1X Technologies, var litið á það sem afturhvarf til gamalla stórlega metnaðarfullra áætlana og drauma. Að dreyma um að búa til vél sem getur framkvæma nánast hvaða verkefni sem er betur en maður.
Fjárfestingin í 1X Technologies er hönnuð til að búa til vélmenni sem kallast Neo, sem er sagt gera gervigreind kleift að taka á sig mynd mannslíkamans. Vélin, búin „algóritmískum heila“ sem byggir á ChatGPT, ætti að verða starfskraftur sem mun styðja eða koma í stað einstaklings við að framkvæma sérstaklega íþyngjandi eða hættuleg vinnu, til dæmis á hæð eða í snertingu við hættuleg efni.
Fyrstu niðurstöður liggja fyrir í lok þessa sumars. Og þó að allt líti út eins og saga úr vísindaskáldskaparmynd, sérstaklega þar sem bæði fyrirtækin eru mjög snjöll með upplýsingar og segja lítið, kveikir það í fantasíum sem líkja má við gullæði. Eflaust mun sá sem er fyrstur til að kynna vélmenni sem getur sjálfstætt framkvæma einhverja vinnu eða hjálpa manni við það, treysta á ótrúlegan hagnað. Nú skilja allir þátttakendur hlaupsins þetta.
Lestu líka: Frá CUDA til gervigreindar: Leyndarmál velgengni NVIDIA
Vélfærakappakstur
Auðvitað vill ekki aðeins OpenAI vera „kóngur hæðarinnar“ á þessu svæði og fá frábæran hagnað. Mörg fyrirtæki og sprotafyrirtæki eru að vinna að mismunandi gerðum vélmenna. Hins vegar er þetta skref álitið af mörgum sem áskorun fyrir ríkasta mann heims, Elon Musk. Hjá Tesla vinnur hann ekki aðeins á sjálfstýrðum bílum heldur líka á eigin Optimus vélmenni.
Það hefur verið mikið rætt undanfarið um áætlanir hans um að stofna sprotafyrirtæki sem heitir X.AI til að keppa við OpenAI. ég skrifaði um TruthGPT, svo við ræðum ekki mikið um það hér. Ég ætla aðeins að taka það fram að milljarðamæringurinn er nú þegar að ráða bestu rannsakendurna, leitar að fjárfestum og kaupir þann búnað sem nauðsynlegur er til að þróa tungumálalíkan til að geta, að minnsta kosti opinberlega, byggt upp tækni sem ætti að vera örugg og ekki ógn við samfélagið. Þó að með því að þekkja persónu Musk sé erfitt að trúa þessum staðhæfingum.
Fyrir Musk er þetta ekki fyrsta fjárfestingin í gervigreind. Fyrir meira en áratug síðan fjárfesti hann mikið fé í DeepMind, bresku sprotafyrirtæki sem átti að búa til vél sem gæti gert allt sem mannsheilinn getur gert. Hins vegar, innan við fjórum árum síðar, var fyrirtækið keypt af Google fyrir 650 milljónir dollara.
Um svipað leyti, sem kannski ekki allir muna, varð Musk einn af stofnendum OpenAI. Hins vegar, þegar það hætti síðar að starfa sem stofnun utan kjarna, fór hann vonsvikinn. En á bak við ákvörðunina var eitthvað annað, augljóslega hagsmunaárekstrar, því Musk var á þessum tíma að búa til sitt eigið gervigreindarverkefni hjá Tesla, sem átti að leyfa þróun tækni til að styðja við ökumenn bíla. Og fyrir þetta verkefni keypti milljarðamæringurinn einn af lykilverkfræðingunum frá OpenAI.
Svo, Musk hagar sér nokkuð undarlega, þó fyrirsjáanlegt sé. Hann gagnrýnir OpenAI og varar við áhættunni sem fylgir gervigreind en á sama tíma smíðar hann hana sjálfur. Hann varar við vélmennum sem stjórnað er af gervigreind, því þau geta „þýtt vinnu fólks“ og umfram allt mun sköpun slíkra vélmenna hafa „hræðilegar afleiðingar“ eins og í myndinni „Terminator“. Á sama tíma selur það sjálfkeyrandi bíla sem þegar hafa valdið fjölda banaslysa. Það er skýr skýring á þessu viðhorfi: Musk vill ekki falla úr keppni þegar veðmálið er svona mikið. Jafnvel þótt það sé nokkuð á skjön við það sem honum persónulega finnst um gervigreind.
Auðvitað eru OpenAI og Elon Musk ekki einir í þessari keppni. Önnur fyrirtæki, eins og Boston Dynamics, taka einnig þátt í keppninni. Verk þeirra birtast af og til á ýmsum tæknisýningum og sýningum og heilla með handlagni, styrk og hreyfigetu. Það er líka gangsetningin Figure sem er að vinna að Humanoid vélmenninu Figure 01. Svo er það Agility Robotics sem hefur verið að vinna að vélmenni með fótleggjum í nokkurn tíma og nýlega sýndi eitt sem meira að segja gekk.
Fyrirtækið Boston Dynamics er þekkt fyrir Atlas-verk sín sem sýna hversu gríðarleg hreyfanleiki véla getur verið, hversu mikið þær geta verið eins og við, mannfólkið. Netnotendur um allan heim eru hæstánægðir með myndböndin sem birt eru á netinu, þar sem þú getur til dæmis séð manngerða vélmenni dansa. Vandamálið er að þessar vélar eru brjálæðislega dýrar (allt að nokkrar milljónir dollara) og sérfræðingar segja að þær skorti hugbúnaðinn sem myndi gera þær gagnlegar. Hins vegar virðist sem nú sé hægt að fylla í þetta skarð.
Á bak við fyrirtækið Figure AI er Jerry Pratt, reyndur vísindamaður við Institute for Human and Machine Cognition í Flórída. Hann er nú einn af stofnendum sprotafyrirtækis sem býr til manneskjulegt vélmenni sem er hannað til að vinna í vöruhúsi. Aðalatriðið er að hugmynd hans er studd af fjárfestum sem hafa þegar fjárfest $70 milljónir í Figure AI.
Vélin, sem er hönnuð af Figure AI, tekur sín fyrstu skref í húsnæðinu sem ætlað er fyrir vöruhús. Þetta er lykilverkefni vegna þess að manneskjulega vélmennið á að vera notað á slíkum stöðum. Þessi lausn er mun raunhæfari í dag en hún var fyrir áratug, þar sem framfarir í vélanámi hafa gert vélum mun auðveldara að sigla um flókið umhverfi og framkvæma flókin verkefni eins og að grípa hluti eða klifra upp stiga.
Þar að auki, þökk sé þróun rafbíla, höfum við mjög öflugar rafhlöður, sem eru nauðsynlegar til að búa til vélmenni, vegna þess að þeir þurfa mikla orku til að hreyfa sig hratt, kraftmikið og til að geta komið jafnvægi á t.d. tilfelli renna. Menn eru fljótir að bregðast við þessum aðstæðum en vélmenni verða líka betri. Mikilvægt er að vélin sem er hönnuð af FigureAI ætti ekki að kosta meira en bíl, sem myndi gera hana mjög aðlaðandi fyrir mörg fyrirtæki.
Þriðja fyrirtækið, Agility Robotics, býr til manneskjulegt vélmenni, en það valdi aðeins aðra stefnu. Vélar hennar munu hafa tvo fætur eins og menn, en munu ekki reyna að líkja eftir hreyfiháttum mannlegra fóta. Þeir líta út eins og verktaki hafi verið innblásinn af hreyfingum og útliti fugla. Niðurstöðurnar, sem birtar voru nýlega, eru glæsilegar.
Á sýnikennslunni hreifst Agility Robotics vélin með því að sinna skyldum vöruhúsastarfsmanns. Hún tók auðveldlega upp gáma úr hillum og setti á færibandið. Og fulltrúar fyrirtækisins fullvissuðu um að vélmenni þess gætu sigrast á tröppum, rampum og hreyft sig á óstöðugu yfirborði jarðar, beygt eða teygt sig upp á meðan á vinnu stendur og jafnvel þrengst á þrönga staði.
Lestu líka: Er framtíð fyrir TruthGPT Elon Musk?
Tæknirisarnir gefast heldur ekki upp
Stór tæknifyrirtæki, sem einnig dreymir um að búa til vélmenni, taka þátt í keppninni.
Alphabet, móðurfyrirtæki Google, vinnur að vélmenni sem, byggt á PaLM tungumálamódelinu, getur þegar framkvæmt einfaldar skipanir. Til dæmis, taktu með þér eitthvað að borða eða þurrkaðu upp safa sem helltist niður á gólfið.
Meta, fyrirtæki Mark Zuckerberg, notar Spot vélmenni Boston Dynamics til að þróa tækni sem gerir vélum kleift að læra að sigla um heiminn sem þær sjá á eigin spýtur. Allt þetta án þess að þurfa að búa til umfangsmikinn hugbúnað sem útskýrir hvernig þessi heimur lítur út og úr hverju hann er gerður.
Og Amazon selur nú þegar Astro, sjálfstætt vélmenni á hjólum. Geta þess er enn frekar takmörkuð. Astro mun hjálpa þér að stjórna heimilistækjunum þínum, hringja myndsímtöl, hlusta á uppáhaldstónlistina þína eða fylgjast með heimilinu þínu, en það virðist bara vera fyrsta skrefið.
Netverslunarrisinn fjárfesti einnig í áðurnefndri Agility Robotics. Og við skulum ekki gleyma því að vöruhús þess eru nú þegar heimili fyrir meira en hálf milljón vélfæraeininga sem kallast Proteus, sem, þó að þær séu ekki mannlegar, gegna svipuðu starfi í pakkaflokkunarstöðvum og dreifingarstöðvum.
Einnig áhugavert: Hvað eru 6G net og hvers vegna er þörf á þeim?
Bylting er að koma
Þetta hlaup sýnir að, eins og kom fram í tímaritinu Wired, svið vélfærafræði nálgast risastóra bylting. Enginn veit hvenær þetta gerist, en það er enginn vafi á því að þróun manngerðs vélmenni sem byggir á gervigreind, sem mun vera tilbúið til að hjálpa eða leysa mann af hólmi, mun verða mikil bylting á vinnumarkaði.
Eigendur ýmiss konar fyrirtækja hafa látið sig dreyma um þetta í áratugi. Þegar öllu er á botninn hvolft þurfa vélmenni ekki bara ekki að borga laun í hverjum mánuði. Þeir samþykkja að vinna við hvaða aðstæður sem er, jafnvel hættulegar og skaðlegar mönnum, 24 tíma á dag, 7 daga vikunnar. Einnig taka þeir sér ekki frí eða veikindadaga og það myndi aldrei detta í hug að fara í verkfall. Að skipta út manneskju fyrir vélmenni mun án efa skila miklum sparnaði fyrir fyrirtæki og líklega auka skilvirkni og hagnað verulega.
Erfitt er að segja til um hvort leiðin að þessum óskum sé löng en eins og sumir sérfræðingar benda á er hún vissulega mjög erfið. Því þó að vélar séu góðar í kyrrstæðum verkefnum í strangt skilgreindu og lýst niður í millimetra umhverfi forritunarmáls, þá verður það algjör áskorun fyrir þær að fara aðeins út fyrir það. Vélmenni líkar við fyrirsjáanleika, en menn og heimur þeirra eru óútreiknanlegur.
Enn sem komið er er bil á milli vélfærafræði og þess sem við köllum nú generative gervigreind. Vélfærafræði, jafnvel með tilliti til notkunar tungumálalíkana, er greinilega á eftir í samanburði við textaforrit eins og til dæmis ChatGPT. Helsta ástæðan fyrir þessu ástandi er svokölluð Moravec þversögn.
Þessi uppgötvun var mótuð á níunda áratugnum af hópi vísindamanna undir forystu Hans Moravec. Þessi þversögn byggist á því að öfugt við hefðbundna trú krefst háþróaðrar hugsunar lítils tölvuafl, á meðan lágstig skynjun og hreyfifærni krefst gífurlegs tölvuafls.
„Það er tiltölulega auðvelt að láta tölvur endurspegla færni fullorðinna í greindarprófum eða tígli, en það er erfitt ef ekki ómögulegt að forrita þær með skynjunar- og hreyfifærni eins árs barns“ - Hans Moravec benti þá á.
Sú staðreynd að fyrir nokkrum áratugum síðan Moravec lýsti nútíma raunveruleika nákvæmlega má sjá á dæmi ChataGPT. Það gæti staðist læknispróf, en það þýðir ekki að vél búin þessu kerfi geti séð um léttvæga mannlega færni eins og að hella vatni í glas. Í stuttu máli: erfið vandamál eru auðveld og auðveld vandamál eru erfið.
Athafnir sem eru léttvægar fyrir mönnum hafa þróast yfir milljónir ára. Tveggja ára barn getur þegar auðveldlega þekkt andlit foreldra sinna, tekið upp hlut af gólfinu og gefið öðrum eða skilið að skeið er ekki hluti af eldhúsborðinu. Það er fólki augljóst. Ólíkt bílum. Þetta er helvítis verkefni að undirbúa vélmenni fyrir. Jafnvel lítilsháttar breyting á aðstæðum, til dæmis lýsing eða hreyfing hlutar sem vélmennið á að taka upp, getur valdið því að vélin skili verkinu illa.
Þetta þýðir þó ekki að vísindamenn og stór fyrirtæki séu ekki að reyna að leysa þetta vandamál. Tungumálalíkön geta hjálpað hér. Þess vegna kemur það ekki á óvart að það séu fleiri og fleiri tilraunir til að "giftast" stór mállíkön með vélfærafræði. Þeir fyrrnefndu tengjast aðallega spjallrásum eins og GPT, en þetta er aðeins einn þáttur í notkun þeirra. Þegar öllu er á botninn hvolft eru módel frábær í náttúrulegu tungumáli, en þau hafa líka verið þjálfuð í forritunarmáli. Kannski mun það breyta því hvernig við höfum samskipti við þá.
Hingað til, til þess að vélmennið gæti framkvæmt aðgerð, þurfti forritarinn fyrst að skrifa kóðann og hlaða honum síðan handvirkt inn í vélina. Nú er kannski nóg að gefa skipun á náttúrulegu tungumáli og vélin sjálf mun skrifa viðeigandi kóða til að vinna verkið. Þetta væri stórt skref fram á við. Hins vegar, jafnvel þótt það takist, er bylting enn langt í land. Þökk sé tungumálalíkönum geta vélmenni orðið mun færari en áður, en þróun þeirra stendur enn frammi fyrir mörgum óleystum vandamálum sem tengjast hreyfifærni, hljóði eða skynjun á heiminum.
Lestu líka: 7 svalasta notkun ChatGPT
Er starf manns í hættu núna?
Goldman Sachs hagfræðingarnir Joseph Briggs og Devesh Kodnani reyndu að svara þessari spurningu. Þeirra nýjustu áætlanir sýna, að ný bylgja gervigreindardrifinnar sjálfvirkni gæti leitt til þess að 300 milljónir starfa tapist um allan heim. Í Bandaríkjunum er hætta á að næstum tveir þriðju starfa verði að hluta til sjálfvirkir, og eitt af hverjum fjórum störfum er hætta á að gervigreind komi algjörlega í staðinn.
Þessi bylgja gæti einnig hjálpað til við að auka framleiðni vinnuafls um 1,5% á ári á næsta áratug í Bandaríkjunum einum. Þetta væri tækifæri fyrir stöðnuð hagkerfi Bandaríkjanna eða Evrópusambandsins, þar sem þrátt fyrir aukna fjárfestingu í rannsóknum og þróun, sjálfvirkni stjórnunarkerfa og skipulagi vinnuafls hefur framleiðniaukning minnkað niður í það minnsta síðan í seinni heimsstyrjöldinni.
Þetta er ein hlið hagkerfisins, en það er önnur: fólk. Með innleiðingu nýrra lausna gæti álagið á starfsmenn aukist. Þegar öllu er á botninn hvolft, til að halda í við vélar, verða þær að vinna hraðar, nákvæmari, viðvarandi og líklega ódýrari.
Álag á starfsmenn mun aukast og það er vissulega raunveruleg ógnun, en mikið veltur á því hvernig reglugerðir um gervigreind munu líta út. Auðvitað verða nokkrar takmarkanir til að vernda starfsmenn þannig að þessi sjálfvirkni gerist á siðmenntuðum hætti. Án reglugerðar verða áhrifin á stöðu og stöðu starfsmanna, sérstaklega verkamanna, gífurleg. Það eru mörg merki um að gervigreind muni styðja fólk í vinnunni frekar en að skipta um það. Sumum starfsgreinum, eins og bílstjórum, verður hins vegar skipt út fyrir vélar, sem er þegar að gerast. Fyrir marga þýðir þetta að finna aðra vinnu. Því verða stjórnvöld og löggjafar ríkja að vera vakandi til að koma í veg fyrir fjöldaatvinnuleysi.
Óttinn við að vélmenni, jafnvel byggð á gervigreind, taki yfir störf okkar, þó nokkuð algengt sé, er ekkert nýtt. Verkamenn í upphafi iðnbyltingarinnar höfðu svipaða reynslu. Hins vegar höfum við hingað til ekki séð tækniframfarir leiða til fækkunar atvinnu. Auðvitað veit enginn hvað gerist í framtíðinni, en ef núverandi þróun heldur áfram mun fjöldaatvinnuleysi ekki ógna okkur.
Hins vegar verður óbreytt ástand að sjálfsögðu ekki varðveitt. Skipulag framkvæmda mun breytast. Við verðum með vinnu en gerum það ekki á sama hátt og áður. Sumt sem er auðveldara að gera sjálfvirkt verður gert af vélmennum eða vélum, en þetta gerir starfsmanni kleift að einbeita sér að verkefnum sem krefjast meiri mannlegra samskipta eða samskiptahæfileika.
Nýjar áskoranir munu einnig birtast. Þess vegna er mikilvægt að þróa stafræna hæfni og aðhyllast tæknibreytingar. Þessi færni mun skipta sköpum til að halda störfum okkar annars vegar og hins vegar til að halda launum okkar ekki lægri. Með tilkomu vélmenna eða gervigreindar sjáum við ekki samdrátt í atvinnu og launum starfsmanna, jafnvel með stafræna grunnfærni eins og tölvukunnáttu. Fólk sem skortir þessa hæfileika mun vissulega eiga í erfiðleikum á vinnumarkaði. Breytingar bíða einnig starfsmanna sem framkvæma endurtekin verkefni sem hægt er að lýsa með reikniritum. Staða þeirra á vinnumarkaði og laun geta lækkað.
Eftir því sem sjálfvirkni og vélfærafræði aukast eykst tekjuójöfnuður. Og þetta þrátt fyrir aukna framleiðni. Já, hagnaður fyrirtækja eykst en hann fer ekki til starfsmanna heldur fjármagnseigenda, fyrirtækja og fjárfesta. Ástæðan fyrir slíkri þróun getur verið sjálfvirkni, en ekki aðeins. Ekki síður mikilvægar breytingar á uppbyggingu atvinnugreinarinnar, mikill munur á framleiðni einstakra fyrirtækja eða óhófleg álag á launakostnað vinnuveitenda sem veldur flótta yfir í grátt hagkerfi og óhefðbundið atvinnuform.
Því er enginn vafi á því að fólk ætti annars vegar að einbeita sér að þróun stafrænnar færni og hins vegar berjast fyrir réttlátari skiptingu ágóðans af vinnu sinni. Svo að í framtíðinni muni vélmenni styðja við vinnu fólks en ekki öfugt.
Lestu líka:
