Fjöldi fyrirtækja þar á meðal Microsoft і Facebook, og jafnvel vísindamenn frá háskólanum í Suður-Kaliforníu, eru að þróa tækni til að berjast gegn djúpfalsunum og koma í veg fyrir útbreiðslu þeirra með gulum miðlum og rangar upplýsingar almennt. Hins vegar tókst hópi vísindamanna enn að blekkja þá.
Hópur tölvunarfræðinga við háskólann í Kaliforníu í San Diego varaði við því að enn sé hægt að blekkja núverandi djúpfölsunarskynjunarkerfi með því að setja inntaksgögn sem kallast „samkeppnisdæmi“ inn í hvern myndbandsramma. Vísindamennirnir kynntu niðurstöður sínar á WACV 2021 tölvusjónráðstefnunni, sem haldin var á netinu í síðasta mánuði.
Samkeppnisdæmi eru lítillega breytt inntak sem veldur því að gervigreindarkerfi, eins og vélanámslíkön, gera mistök. Að auki sýndi teymið að árásin virkar enn eftir að hafa þjappað myndbandinu saman. Í myndbandinu hér að ofan sýna vísindamennirnir að XceptionNet, djúpfalsskynjari, merkir samkeppnismyndbandið sitt sem „raunverulegt“.
Flestir þessara skynjara virka með því að rekja andlit í myndbandi og senda klipptu andlitsgögnin til taugakerfis til greiningar. Tauganetið mun síðan greina þessi gögn og finna þætti sem eru venjulega illa endurskapaðir í djúpfalsunum, svo sem flöktandi.
Með því að setja inn samkeppnisdæmi komust vísindamennirnir að því að þeir gætu blekkt þessa djúpfalsa skynjara til að trúa því að myndböndin væru raunveruleg.
Þeir segja í blaðinu að „til þess að nota þessa djúpfalsaskynjara í reynd er mikilvægt að meta þá gegn aðlögunarhæfum andstæðingi sem er meðvitaður um þessa vernd og reynir vísvitandi að brjóta hana. Við sýnum að hægt er að komast framhjá nútímalegum djúpfölsunarskynjunaraðferðum ef árásarmaðurinn er að fullu eða jafnvel að hluta meðvitaður um skynjarann.“
Eins og þessir vísindamenn hafa sýnt fram á, gæti sjálfvirknitæknin sem verið er að þróa til að berjast gegn óupplýsingum ekki enn náð verkefninu.
Lestu líka: