Í dag munum við tala um deepfake, sem er nú orðið útbreitt og nokkuð algengt fyrirbæri. Þökk sé þessari tækni hefur meðferð upplýsinga náð nýju stigi.
Sástu Elísabetu drottningu dansa á borðinu við útsendingu nýársboðskaparins? Eða hlustaði á ræðu Kim Jong-un um lýðræði, eða dáðist að Salvador Dali, sem talaði um dauða hans (af hverju hann trúir ekki á það)?
Öll þessi mögnuðu myndbönd eiga það sameiginlegt að vera fölsuð. Deepfake er tækni til að búa til og birta rangar upplýsingar í formi myndbanda, hljóðs og mynda. Það er að verða auðveldara að rekast á slíkt efni, svo við höfum útbúið fyrir þig leiðbeiningar um að búa til, þekkja og leita að djúpfölsuðum myndböndum á netinu.
Lestu líka: Blockchains morgundagsins: Framtíð dulritunargjaldmiðilsiðnaðarins í einföldum orðum
Deepfake (Deepfake) er í raun mynd-, myndbands- eða hljóðefni sem er ekki raunverulegt, falsað, það er falsað. Deepfake (samsetning tveggja orða - djúpt nám "djúpt nám" og falsað "falsa") notar gervigreind (AI) fyrir djúpt nám til að skapa líkingu eins einstaklings við aðra í myndböndum og öðru stafrænu miðlunarefni. Það er búið til með reikniritum sem byggjast á raunverulegum radd-, hljóð-, myndbands- eða myndsýnum sem eru saumuð saman. Reikniritið tekur valdar upplýsingar frá mörgum mismunandi stöðum og sameinar þær síðan í eitt efni. Fyrir vikið verður til eitthvað nýtt (falskt) sem byggist á samsetningu mismunandi raunverulegra gagna.
En það er ekki allt. Deepfake getur líka „málað“ mynd frá grunni, til dæmis með því að búa til andlit persóna sem aldrei voru til.
Hver er tilgangurinn með slíkum aðgerðum? Meðal annars er Deepfake notað til að dreifa röngum upplýsingum á netinu (til dæmis um stjórnmálamenn eða atburði), þjófnaði (td falsa raddskipanir) og búa til klám (kvikmyndir með frægum einstaklingum - djúpfalsk klám). Það er einnig hægt að nota til fræðslu og skemmtunar.
Lestu líka: Um skammtatölvur í einföldum orðum
Almennt séð eru tvær leiðir til að búa til djúpfalsað efni. Fyrsta aðferðin notar tvö reiknirit. Í fyrsta lagi leitar sá fyrsti (kóðarinn) að sameiginlegum eiginleikum tveggja mynda (þeir sem á að sameina í eina), síðan getur sá seinni (afkóðarinn) flutt þær yfir á nýstofnaða myndina. Til dæmis, ef við viljum búa til myndband þar sem leikari myndi hreyfa sig eins og við, tekur umritarinn hreyfinguna úr myndbandinu þar sem við erum að dansa, og afkóðarinn mun þegar skipta andliti okkar út fyrir andlit leikarans og láta hann endurskapa hreyfingar okkar . Lykillinn hér eru valdar aðgerðir sem eru afritaðar á nýju myndina (til dæmis hreyfingar, bendingar, svipbrigði).
Önnur leiðin er í gegnum generative adversarial networks (GANs), þar sem tvö reiknirit vinna saman. Sá fyrsti er kallaður rafall vegna þess að með því að nota almennar upplýsingar skapar hann myndir (til dæmis mynd af einstaklingi) sem sameina sérkenni þess (manneskja hefur líkama, andlit, augu). Annað reikniritið er mismununartæki sem metur hvort myndirnar sem rafallinn gefur honum séu sannar eða ekki.
Með tímanum verða bæði reikniritin fullkomnari, svo þau læra og bæta sig. Ef rafallinn er þjálfaður á þann hátt að mismunamaðurinn kannast ekki við falsa mynd (telur hana raunverulega) er ferlinu lokið.
Mikið magn af fölsuðum hugbúnaði er að finna á GitHub, opnu samfélagi fyrir forskriftir, forrit og kóða. Sum þessara forrita eru eingöngu notuð í afþreyingarskyni, þannig að það er ekki bannað að búa til djúpfalsa, en mörg þeirra geta einnig verið notuð í glæpsamlegum tilgangi.
Margir sérfræðingar telja að í framtíðinni, með þróun tækninnar, muni djúpfalsanir verða miklu flóknari og geta skapað alvarlegri ógnir við samfélagið, sem tengjast afskiptum af kosningum, myndun pólitískrar spennu og glæpastarfsemi.
Lestu líka:
Í fyrsta skipti birtust slíkar falsaðar upplýsingar árið 2017. Þá er notandinn samnefni Deepfake birt á Reddit nokkrar klámmyndir þar sem frægt fólk tók þátt í, þar á meðal Scarlett Johansson, Gal Gadot og Taylor Swift. Síðan þá hefur þessi iðnaður verið að þróast hratt, því næstum hver sem er getur tekið djúpfalskar kvikmyndir.
Undanfarin ár hefur djúpfalstæknin þróast svo mikið að nú er sífellt erfiðara að átta sig á því hvort um tilbúið myndband sé að ræða eða ósvikna upptöku af raunverulegu fólki. Sem dæmi má nefna myndband með skilaboðum frá Elísabetu II eða ræðu Barack Obama, sem var fljótt birt á mörgum mismunandi síðum. Myndbandið með yfirlýsingu fyrrverandi forseta Bandaríkjanna fjallaði um alþjóðlegar ógnir sem geta stafað af rangfærslum og falsfréttum sem birtar eru á netinu. Í efninu sem BuzzFeedVideos rásin birti varð bandaríski leikstjórinn og leikarinn Jordan Peele rödd 44. forseta Bandaríkjanna. Hins vegar er gervigreind nú þegar fær um að búa til rödd sem byggir á skjalasafnsupptökum af einstaklingi sem á að koma fram í gervi kvikmynd.
Slík háþróuð tækni getur orðið hættulegt tæki í höndum netglæpamanna og netsvikara í framtíðinni. Birting á fölsuðum myndböndum af ræðum mikilvægra stjórnmálamanna getur valdið raunverulegum skaða á alþjóðavettvangi. Slíkar kvikmyndir, byggðar á djúpfalsuðum tækni, geta valdið diplómatískum átökum og hneykslismálum og því haft áhrif á almenningsálitið og hegðun fólks.
Önnur hugsanleg ógn er efni fyrir fullorðna, sem hefur alltaf skapað mesta umferð í sýndarrýminu. Það er engin furða að djúpfölsuð tækni komst svo fljótt á internetið. Samkvæmt skýrslu hollenska netöryggisfyrirtækisins Deeptrace eru 96% af tilbúnum myndböndum sem búin eru til með djúpfalstækni efni um slík efni. Oftast eru myndir af kvikmyndastjörnum, íþróttamönnum og jafnvel stjórnmálamönnum og fulltrúum stjórnvalda notaðar til framleiðslu á slíku efni.
Lestu líka: Hvers vegna getur geimferð ekki flogið hvenær sem er: Hvað er skotgluggi?
Ef einhver getur búið til djúpfölsuð myndbönd, er þá líka hægt að gera þau heima? Örugglega já, en gæði þeirra verða auðvitað ekki fullkomin. Að búa til slík myndbönd krefst mikils tölvuauðlinda og öflugra skjákorta. Þeir sem við höfum venjulega í heimatölvum duga ekki og þróunarferlið sjálft getur varað í margar vikur. Gæði kvikmyndanna munu líka skilja mikið eftir - það verða sýnilegar villur, munnhreyfingar samsvara kannski ekki hljóðinu, það verða sýnilegir staðir þar sem "gamla" innihaldið skarast við það "nýja".
Hins vegar, ef við viljum „snerta“ aðeins mynd eða gera stutt djúpmyndband, er hægt að hlaða niður forritinu fyrir þetta beint í snjallsímann. Þetta forrit sem er mjög auðvelt í notkun mun á nokkrum mínútum útrýma útlitsgöllum, breyta þér í valinn fræga eða leyfa hundinum þínum að tala með mannlegri rödd.
Lestu líka:
Það verður sífellt erfiðara að koma auga á fagleg djúpfölsuð myndbönd. Í fyrstu áttu reikniritin í vandræðum með grunnhegðun (svo sem að blikka augun) og það var strax ljóst að myndin var falsað. Þessi villa hefur nú verið lagfærð. Fölsku persónurnar blikka, hreyfa sig náttúrulega og tala reiprennandi. Hins vegar, stundum eiga þeir enn í vandræðum með náttúrulegar augnhreyfingar.
Svo, hvernig á að koma auga á deepfake? Hér er það sem þú ættir að fylgjast með þegar þú horfir á myndbandið:
Þegar þú skoðar efni frá sjónarhóli djúpfalsa er líka þess virði að treysta á eigin tilfinningar. Stundum fáum við á tilfinninguna að eitthvað sé "rangt". Þetta gerist meðal annars þegar tilfinningar manneskjunnar sem sýndar eru á skjánum passa ekki við það sem svipbrigði eða raddblær sýnir okkur. Þetta bendir líka til þess að myndbandið hafi verið falsað.
Einnig áhugavert:
Til að forðast djúpt falsað svindl, ráðleggja sérfræðingar að fylgja þessum skrefum:
Falsað efni er að finna hvar sem það getur náð til stórs áhorfenda, þ.e.a.s. hugsanlegra djúpfalsa áhorfenda. Facebook, Instagram, TikTok og aðrar samfélagsmiðlar eru fullar af svona dóti.
Þetta eru ekki bara mögnuð myndbönd, heldur líka „fágaðar“ myndir og hljóðupptökur. Sumir af ekta orðstírsprófílunum hafa stundum verið fullkomlega fullir af djúpfölsun!
Þetta er ekki eini staðurinn þar sem þú getur fundið djúpfalsa. Forrit fyrir snjallsíma er einnig byggt á þessari tækni, sem gerir þér kleift að bæta yfirvaraskeggi og skeggi eða öðrum tæknibrellum við mynd (til dæmis að eldast um nokkra áratugi). Þannig að það getur komið í ljós að síðasta myndin sem þú fékkst frá vinum þínum er svolítið "underdrawn".
Einnig áhugavert:
Notkun deepfake getur verið bæði jákvæð og neikvæð. Deepfake kvikmyndir geta verið fjörugar eða skemmtilegar. Hér ber að nefna myndbandið af Elísabetu drottningu dansandi á borðinu í áramótaboðskapnum. Þetta er líka tilgangurinn með flestum myndbreytingum sem við gerum með Deepfake appinu á snjallsímunum okkar. Það ætti að vera fyndið og skemmtilegt.
Djúpfölsuð efni geta einnig gegnt fræðsluhlutverki, til dæmis „endurvakið“ þegar látna listamenn, söngvara eða tónlistarmenn. Sum söfn, einkum Salvador Dali safnið í Flórída, nota þessa tækni, þar sem gestum eru „kynnt“ verkum sínum af listamanninum sjálfum, sem hægt er að tala við og jafnvel taka myndir.
Deepfake tækni er notuð í raddgjafa - tæki sem eru hönnuð fyrir fólk sem hefur misst hæfileikann til að tala. Þökk sé þeim getur slíkt fólk enn talað við okkur með sinni eigin rödd. Rödd Val Kilmer, sem hann missti vegna barkakrabbameins, var gerð fyrirmynd í Top Gun: Maverick.
Því miður höfum við líka mörg dæmi um neikvæða notkun djúpfalsa. Pólitík er dæmi þar sem rangar upplýsingar af þessu tagi geta haft víðtækar, hnattrænar afleiðingar, svo sem að ófrægja opinberar persónur, hafa áhrif á hlutabréfamarkaðinn, efnahaginn eða kosningaúrslitin eða jafnvel framkvæmd hernaðar í stríði. Vel undirbúin skráning gerir það auðveldara að hagræða almenningsálitinu. Framsækin þróun tækni mun gera það enn erfiðara að greina raunverulegt efni frá fölsun. Þannig að þetta er skref í átt að falli félagslegs trausts og upplýsingaóreiðu.
Djúpfölsuð myndbönd, eins og við höfum áður nefnt, eru útbreidd í klámiðnaðinum. Oftast eru breytingarnar fólgnar í því að skipta út andliti klámleikkonunnar/leikarans fyrir andlit frægra eða kvikmyndastjarna, að sjálfsögðu, án þeirra samþykkis.
Lestu líka: Mönnuð geimferðalög: Hvers vegna er aftur til jarðar enn vandamál?
Deepfake er ekki aðeins vandamál fyrir leikara og stjórnmálamenn. Fölsuð efni geta haft áhrif á hvern sem er. Hlutur fjárkúgunar og fjárkúgunar getur verið tilbúið myndband þar sem við fremjum glæp eða komum í óljósar aðstæður - annað hvort borgar þú eða við opinberum. Ef þú vinnur í viðskiptum verður þú að skilja að það er hætta á því að nota djúpfalsanir til að ófrægja fyrirtækið meðal mótaðila þess.
Aukning á magni efnis sem hægt er að nota getur einnig haft áhrif á félagslegt traust og traust á þeim upplýsingum sem veittar eru. Hvernig geturðu trúað einhverju þegar kvikmynd sem er sönnunargagn fyrir dómstólum getur verið röng og fréttirnar segja frá atburðum sem ekki eru til?
Tækni sem gerir þér kleift að búa til illgjarna mynd, hljóðupptöku eða kvikmynd þar sem persónur hennar líkjast mjög öðru fólki er nýtt stig ógn frá netglæpamönnum. Sérstaklega í ljósi þess að á samfélagsnetum geta þeir dregið næstum ótakmarkaðan auðlind af frumefni til að búa til djúpfalsa.
Hugbúnaður fyrir vélanám getur leitað í Facebook abo Instagram, til dæmis, og ná áhugaverðum myndum eða myndböndum af hugsanlegum „leikurum“. Á þessum grunni er hægt að búa til mjög skýra rödd, mynd og myndband af manneskjunni en með þar til gerðri gerviáfrýjun sem líkir til dæmis eftir því að vera í alvarlegum vandræðum - sem fórnarlamb mannráns eða slyss. Á næsta stigi er falsað beiðni um aðstoð, til dæmis fjárhagslega, beint til ættingja „fórnarlambsins“.
Lestu líka: James Webb geimsjónauki: 10 skotmörk til að fylgjast með
Flæði rangra upplýsinga er svo mikið að mörg samfélagsnet hafa ákveðið að berjast gegn djúpfalsunum. Facebook і Twitter reyndu að greina fölsuð myndbönd og eyða þeim sjálfkrafa. Stór fyrirtæki (þ Microsoft eða Amazon) eru að fjárfesta í hugbúnaði sem greinir falsað efni. Vísindamenn vinna einnig að lausn á þessu vandamáli.
Hins vegar, í aðstæðum þar sem snjallsímaforrit er nóg til að búa til falsa kvikmynd, er barátta við djúpfalsa eins og að berjast gegn vindmyllum. Það eru heldur engin lagaleg viðmið sem myndu ákvarða afleiðingar þess að vinna með upplýsingar eða nota ímynd einhvers annars á þennan hátt.
Deepfake er að verða sífellt vinsælli og það er sífellt erfiðara að greina það frá sannleikanum. Þetta er vegna endurbóta á tækni sem getur betur líkt eftir hreyfingum og látbragði manna. Hægt er að nota djúpfalsa í góðum tilgangi, eins og að búa til fræðsluefni eða aðstoða fólk sem hefur misst röddina eftir barkakýliaðgerð, en þeir eru líka tæki fyrir tölvuþrjóta, fjárkúgara og nettröll.
Svo ef þú rekst á ótrúlegt myndband aftur á netinu skaltu fyrst athuga hvort það sé stundum breytt eða falsað. Kannski var það sem þú ert að horfa á aldrei í raunveruleikanum!
Lestu líka:
Hins vegar má ekki gleyma því að það er stríð í gangi í Úkraínu. Ef þú vilt hjálpa Úkraínu að berjast við rússneska hernámsliðið er besta leiðin til að gera það að gefa til hersins í Úkraínu í gegnum Bjarga lífi eða í gegnum opinberu síðuna NBU.
Skildu eftir skilaboð