Kóði skrifaður af gervigreind getur verið hættulegur

Vélræn reiknirit eru í miklu uppnámi núna, þar sem þau eru notuð til að búa til hvers kyns „frumlegt“ efni eftir þjálfun á risastórum gagnasöfnum sem fyrir eru. Hins vegar gæti gervigreindarkóði (AI) skapað raunverulegt vandamál fyrir hugbúnaðaröryggi í framtíðinni.

AI kerfi eins og GitHub Copilot lofa að gera líf forritara auðveldara með því að búa til heila klumpa af „nýjum“ kóða sem byggir á náttúrulegum textagögnum og samhengi sem fyrir er. En reiknirit til að búa til kóða geta einnig kynnt óöryggisþátt, eins og ný rannsókn sem tók þátt í nokkrum hönnuðum fann nýlega.

Þegar horft er sérstaklega á Codex, gervigreindarvettvanginn þróaður af OpenAI sem er einnig kóðavélin á bak við áðurnefnda GitHub Copilot, tóku 47 mismunandi verktaki þátt í rannsókninni. Allt frá nemendum til reyndra sérfræðinga hefur verið skorað á þau að nota Codex til að leysa öryggistengd vandamál í Python, JavaScript, C og öðrum háþróuðum forritunarmálum.

Rannsakendur tóku fram að þegar forritarar höfðu aðgang að gervigreind Codex var líklegra að kóðinn sem myndast væri rangur eða óöruggur samanborið við „handvirkar“ lausnir sem hannaðar voru af samanburðarhópi. Að auki voru forritarar með gervigreindarlausnir líklegri til að segja að óvarinn kóði þeirra væri öruggur, samanborið við áðurnefndan samanburðarhóp.

Ale Perry, framhaldsnemi við Stanford háskóla og aðalhöfundur rannsóknarinnar, sagði að "kóðamyndandi kerfi geti ekki komið í stað mannlegra þróunaraðila." Að sögn hans geta forritarar notað gervigreindarverkfæri til að sinna verkefnum sem eru utan hæfni sinnar eða til að flýta fyrir forritunarferlinu þar sem þeir búa nú þegar yfir ákveðinni færni. Samkvæmt höfundi rannsóknarinnar ættu þeir að hafa áhyggjur af hvoru tveggja og athuga alltaf kóðann sem myndast.

Að sögn Megha Srivastava, framhaldsnema við Stanford og annar meðhöfundur rannsóknarinnar, er Codex ekki gagnslaust: þrátt fyrir galla „heimsku“ gervigreindar geta kóðaframleiðslukerfi verið gagnleg þegar þau eru notuð í áhættulítil verkefni. Að auki höfðu forritararnir sem tóku þátt í rannsókninni ekki mikla reynslu af öryggismálum, sem gæti hjálpað til við að bera kennsl á viðkvæman eða hættulegan kóða, sagði Srivastava.

Einnig er hægt að fínstilla gervigreind reiknirit til að bæta kóðunartillögur og fyrirtæki sem þróa eigin kerfi geta fengið betri lausnir með líkani sem býr til kóða sem hentar betur þeirra eigin öryggisvenjum. Að sögn höfunda rannsóknarinnar er kóðagerð tækni „spennandi“ þróun og margir eru fúsir til að nota hana. Það er bara enn mikið verk óunnið við að finna réttar lausnir til að taka á göllum gervigreindar.

Þú getur hjálpað Úkraínu að berjast gegn rússnesku innrásarhernum. Besta leiðin til að gera þetta er að gefa fé til hersins í Úkraínu í gegnum Bjarga lífi eða í gegnum opinberu síðuna NBU.

Einnig áhugavert:

• Ekki er allt sem við köllum gervigreind í raun gervigreind. Hér er það sem þú þarft að vita
• Sérfræðingar vara við: bráðum mun gervigreind stela greind