Mynd af „sprengingu“ nálægt Pentagon, mynduð af gervigreind, fór eins og eldur í sinu Twitter

Nýlega í Twitter birtist mynd sem, eins og lýsingin sagði, sýndi sprengingu sem varð nálægt Pentagon. Vegna þessa varð jafnvel skammtímalækkun á markaðnum - S&P 500 vísitalan lækkaði um 0,29%, en eftir að í ljós kom að myndin var fölsuð náði vísitalan sér á strik. Myndin var birt af staðfestum Bloomberg Feed reikningi, sem þrátt fyrir bláa hakið er ekki tengdur Bloomberg fjölmiðlafyrirtækinu.

Myndin var fljótt viðurkennd sem fölsuð. Það var greinilega búið til með hjálp gervigreindar. En áður en þessar upplýsingar birtust hafði óupplýsingunum þegar verið dreift af ýmsum reikningum, þar á meðal skítaliðinu Russia Today (jæja, hver myndi efast).

Falsmyndin sýnir stóran svartan reyk við hlið byggingu sem líkist óljóst Pentagon, með tilheyrandi texta. Við nánari skoðun staðfestu staðbundin yfirvöld að myndin væri ekki nákvæm framsetning á Pentagon og óskýrir girðingarstaurar og byggingarsúlur litu út eins og frekar slök mynd búin til með gervigreind líkani eins og Stable Diffusion.

Bloomberg falsa reikningur áður Twitter lokaði á það, hafði tugþúsundir tíst, en innan við 1 fylgjendur alls, og það er óljóst hver stjórnaði því eða hver hvatningin á bak við fölsuðu myndina var. Auk Bloomberg Feed eru aðrir reikningar sem dreifa fölsku skilaboðunum Walter Bloomberg og Breaking Market News, sem eru heldur ekki tengd hinu raunverulega Bloomberg fyrirtæki.

Atvikið varpaði ljósi á hugsanlegar ógnir sem myndir af gervigreindum geta stafað af á samfélagsmiðlum, þar sem óstaðfestum upplýsingum er deilt í skyndingu, og greitt staðfestingarkerfi í Twitter. Í mars fóru falsmyndir af handtöku Donalds Trump, búnar til með Midjourney, á netið og þótt þær hafi strax verið kallaðar falsar virtust þær mjög raunsæjar. Einnig voru margir afvegaleiddir af gervigreindarmyndum af Frans páfa í hvítum dúnjakka.

„BloombergFeed“ reikningurinn hefur nú verið bannaður.

En þetta á bara eftir að breytast í geggjaðan leik.

Falsar gervigreindarmyndir + staðfestar falsfréttir Twitter reikningur + almennir fjölmiðlar athuga ekki súrtces = uppskrift að hörmungum í stafrænu samfélagi okkar.

Þetta mun ekki hægja á sér. mynd.twitter.com/ZeboVgVm4Z

— Lorenzo Green 〰️ (@mrgreen) Kann 23, 2023

Páfinn í dúnjakka er eitt, en sprenging í höfuðstöðvum bandaríska varnarmálaráðuneytisins er allt annað. Afleiðingarnar geta verið alvarlegar eins og sami hlutabréfamarkaðurinn sannar. Dow Jones iðnaðarmeðaltalið lækkaði um 85 stig á fjórum mínútum eftir að tístið fór um víðan völl, en jafnaði sig fljótt.

Mikið af ruglinu í kringum falsa kvakið var gert mögulegt vegna breytinga á Twitter á tímum Elon Musk. Hann rak marga efnisstjóra og gerði að miklu leyti sjálfvirkan reikningsstaðfestingarferlið og færði það yfir í kerfi þar sem hver sem er getur greitt fyrir bláa ávísun. Gagnrýnendur segja að framkvæmdin geri vettvang viðkvæmari fyrir rangfærslum.

Þrátt fyrir að yfirvöld hafi verið tiltölulega fljót að viðurkenna myndina af sprengingunni sem fölsun, þá þýðir framboð á myndgervilíkönum eins og Midjourney og Stable Diffusion að sannfærandi falsanir krefjast ekki lengur listfengs, sem skilur eftir pláss fyrir óupplýsingar. Auðvelt að búa til falsa ásamt veirueðli eins og palla Twitter, þýðir að rangar upplýsingar geta breiðst út hraðar en hægt er að sannreyna þær.

Í þessu tilviki þarf myndin ekki endilega að vera af háum gæðum til að hafa neikvæð áhrif. Sérfræðingar segja að þegar fólk vill trúa einhverju missi það árvekni sína og kanni ekki sannleiksgildi upplýsinganna.

Lestu líka:

• Meta tungumál AI þekkir meira en 4 tungumál
• Adobe bætir AI-knúnri Generative Fill klippingu við Photoshop