Meta Platforms á árlegum Meta Connect viðburði í Kaliforníu fram nokkrir nýjar gervigreindaraðgerðir fyrir vinsæl forritin sín Facebook, Instagram og WhatsApp, en glæsilegasta nýsköpunin frá tæknirisanum gæti hafa farið framhjá mörgum. Við erum að tala um Llama 2 Long AI líkanið.
Hópur vísindamanna frá Meta fyrirtækinu birti á einhvern hátt í rólegheitum grein þar sem þeir kynntu nýtt gervigreindarlíkan, Llama 2 Long, sem er fær um að búa til samfelld og viðeigandi svör við löngum notendafyrirspurnum. Í mesta lagi segja þeir að það standi sig betur en sumir af bestu keppinautum greinarinnar.
Llama 2 Long er framlenging Lama 2, opinn uppspretta gervigreindarlíkan Meta sem kom út í sumar sem getur lært af ýmsum gagnaveitum og framkvæmt margvísleg verkefni eins og kóðun, stærðfræði, tungumálaskilning og fleira. Hins vegar var Llama 2 Long þjálfað á fleiri gögnum sem innihéldu lengri texta og þessu reiknirit var breytt til að takast á við lengri röð upplýsinga. Þetta gerir það kleift að standa sig betur en OpenAI GPT-3.5 Turbo og Claude 2, sem hafa takmarkanir á magni samhengis sem þeir geta notað til að búa til svör.
Vísindamenn Meta notað mismunandi útgáfur af Llama 2 - frá 7 milljörðum til 70 milljarða breytur, þ.e. gildi sem AI líkanið getur breytt með því að læra af gögnunum. Þeir bættu við öðrum 400 milljörðum tákna (textaeiningar) af gögnum sem innihéldu lengri texta en upprunalega líkangagnasafnið. Þeir fínstilltu einnig arkitektúr gervigreindar líkansins með því að nota Rotary Positional Embedding (RoPE) tæknina svo að líkanið geti búið til nákvæm og gagnleg svör með því að nota minni upplýsingar og minni en aðrar aðferðir.
Teymið notaði styrkingarnám frá mannlegri endurgjöf (RLHF), aðferð þar sem gervigreindarlíkanið er verðlaunað fyrir rétt svör og leiðrétt af mannlegum metendum, og tilbúið gögn eru búin til af Llama 2 spjallinu sjálfu. til að bæta frammistöðu þess í ýmsum verkefnum .
Blaðið heldur því fram að líkanið geti framkallað hágæða svör við beiðnum notenda sem eru allt að 200 stafir að lengd, sem jafngildir um 40 blaðsíðum af texta. Rannsakendur segja að Llama 2 Long sé skref í átt að því að búa til almennari og fjölhæfari gervigreindarlíkön sem geti mætt flóknum og fjölbreyttum þörfum notenda. Þeir viðurkenna einnig hugsanlegar siðferðislegar og félagslegar afleiðingar slíkra líkana og kalla eftir frekari rannsóknum og samræðum um hvernig megi nota þau á ábyrgan og hagstæðan hátt.
Lestu líka: