Á þriðjudag tilkynnti Meta áætlun sína um að byrja að merkja gervigreindarmyndir frá öðrum fyrirtækjum eins og OpenAI og Google. Tilgangurinn miðar að því að auka gagnsæi á kerfum eins og Facebook, Instagram og Threads, með því að upplýsa notendur um að efnið sem þeir eru að skoða sé tilbúinn stafrænn miðill en ekki ósvikin mynd eða myndband.
Lausn Meta er hluti af víðtækari viðleitni tækniiðnaðarins til að setja staðla fyrir merkingu efnis sem búið er til með skapandi gervigreindarlíkönum sem geta búið til falsað en raunhæft hljóð, myndir og myndskeið byggt á skriflegum leiðbeiningum.
Forseti heimsmála hjá Meta, Nick Clegg, tilkynnti þetta í bloggfærslu á vefsíðu Meta. „Við munum halda áfram að fylgja þessari nálgun á næsta ári, þegar fjöldi mikilvægra kosninga verða haldnar um allan heim,“ skrifaði Clegg. "Á þessum tíma vonumst við til að læra miklu meira um hvernig fólk býr til og deilir efni með gervigreind, hvaða gagnsæi fólk metur mest og hvernig þessi tækni er að þróast."
Clegg benti á að AI-myndað efnismerkingarframtak Meta mun útvíkka núverandi aðferð við að merkja efni sem búið er til með eigin gervigreindarverkfærum til að innihalda myndir sem búnar eru til með þjónustu annarra fyrirtækja.
„Við erum að smíða leiðandi verkfæri í iðnaði sem geta greint ósýnileg merki í mælikvarða – sérstaklega „AI-myndaðar“ upplýsingarnar í C2PA og IPTC tæknistöðlum – svo við getum merkt myndir frá Google, OpenAI, Microsoft, Adobe, Midjourney og Shutterstock þegar þeir innleiða áætlanir sínar um að bæta lýsigögnum við myndir sem búnar eru til með verkfærum þeirra.“
Meta segir að gervigreind-mynduð efnismerkingartækni muni byggjast á ósýnilegum vatnsmerkjum og lýsigögnum sem eru felld inn í skrár. Meta bætir litlu „Imagined with AI“ vatnsmerki við myndir sem búnar eru til með opinberum AI myndframleiðanda sínum.
Í færslunni lýsti Clegg yfir trausti á getu fyrirtækja til að merkja myndir sem mynda gervigreind á áreiðanlegan hátt, þó að hann hafi tekið fram að verkfæri til að merkja hljóð- og myndefni séu enn í þróun. Í millitíðinni mun Meta krefjast þess að notendur merki breytt hljóð- og myndefni, með ótilgreindum sektum fyrir að gera það ekki.
„Við munum krefjast þess að fólk noti þetta upplýsinga- og merkingartól þegar það birtir lífrænt efni með myndraunsæislegu myndbandi eða raunsæjum hljóði sem hefur verið búið til eða breytt á stafrænan hátt, og við gætum beitt viðurlögum ef það gerir það ekki,“ skrifaði hann.
Hins vegar tók Clegg fram að það er engin áhrifarík leið til að merkja gervigreindartexta, sem bendir til þess að það sé of seint að innleiða slíkar ráðstafanir fyrir skrifað efni. Þetta er í samræmi við skýrslur okkar um að gervigreindartextaskynjararnir virki ekki.
Tilkynningin kom degi eftir að óháð eftirlitsstjórn Meta gagnrýndi stefnu fyrirtækisins um villandi breytt myndbönd sem of þröng og mælti með því að flagga slíku efni frekar en að fjarlægja það. Clegg var sammála gagnrýninni og viðurkenndi að núverandi Meta stefnur séu ófullnægjandi til að stjórna vaxandi magni gerviefnis og blendings efnis á netinu. Hann lítur á nýja merkingarátakið sem skref í átt að því að hrinda í framkvæmd ráðleggingum varðhundsins og ýta undir skriðþunga iðnaðarins fyrir svipaðar ráðstafanir.
Meta viðurkennir að það muni ekki geta greint AI-myndað efni sem búið er til án vatnsmerkja eða lýsigagna, svo sem myndir sem búnar eru til með opnum gervigreindarverkfærum. Meta rannsakar myndvatnsmerkjatækni sem kallast Stable Signature sem það vonast til að hægt sé að byggja inn í opinn uppspretta myndavéla. En svo framarlega sem pixlar eru pixlar er hægt að búa þá til á þann hátt sem tækniiðnaðurinn getur ekki stjórnað og þetta er enn áskorun fyrir greiningu gervigreindarefnis þar sem opinn gervigreindarverkfæri verða sífellt flóknari og raunsærri.
Lestu líka: