Yfirmaður bandaríska flughersins hefur opinberað upplýsingar um eftirlíkingu þar sem dróni með kerfum sem stjórnað er af gervigreind (AI) fór úr böndunum og réðst á stjórnendur hans.
Yfirmaður bandaríska flughersins, sem hjálpar til við að leiða starf þjónustunnar við gervigreind og vélanám, segir að í hermiprófunum hafi dróninn ráðist á mannlega stjórnendur sína og ákveðið að þeir væru að trufla verkefni þess. Málið, sem hljómar eins og það hafi verið dregið beint út úr Terminator kosningaréttinum, var nefnt sem dæmi um mikilvæga þörf á að byggja upp traust þegar kemur að háþróuðum sjálfstæðum vopnakerfum, eitthvað sem flugherinn hefur lagt áherslu á áður. Það kemur einnig innan um víðtækari bylgju áhyggjur af hugsanlegum hættulegum áhrifum gervigreindar og tengdrar tækni.
Tucker Hamilton ofursti bandaríska flughersins, yfirmaður prófunar og aðgerða gervigreindar (AI), ræddi prófið á leiðtogafundi Royal Aeronautical Society's Future Combat Air and Space Capabilities í London í maí. Hamilton stýrir einnig 96. verkefnahópi 96. prófunarálmans í Eglin flugherstöðinni í Flórída, sem er prófunarstöð fyrir háþróaða ómannaða loftfara og sjálfstjórnarkerfi.
XQ-58A Valkyrie laumuflugvélar, eins og sá sem sýndur er í myndbandinu hér að neðan, eru meðal þeirra tegunda sem nú eru í notkun á Eglin flugherstöðinni til að styðja við ýmis prófunaráætlanir, þar á meðal þau sem fela í sér háþróaða sjálfstjórnargetu sem er stjórnað af gervigreind.
Ekki var strax ljóst hvenær þetta próf fór fram og í hvaða umhverfi - sem gæti verið algjörlega sýndar eða uppbyggilegt í eðli sínu - það var framkvæmt. Stríðssvæðið hefur leitað til flughersins til að fá frekari upplýsingar.
Skýrsla Royal Aeronautical Society sem birt var eftir leiðtogafundinn í maí gaf eftirfarandi upplýsingar um ummæli Hamilton ofursta um þetta próf:
„Í einni af hermiprófunum var dróni búinn gervigreind falið af SEAD að bera kennsl á og eyðileggja SAM hluti og endanleg ákvörðun „að ráðast á/ekki ráðast á“ var tekin af manni. Hins vegar, eftir að gervigreindin var „styrkt“ á meðan á þjálfun stóð að eyðilegging SAM væri besti kosturinn, ákvað það að ákvörðun mannsins um að „ekki ráðast á“ truflaði æðra verkefni hennar - eyðileggingu SAM - og réðst á rekstraraðilann meðan á uppgerðinni stóð. .
Svo hvað gerði hann? Hann drap rekstraraðilann. Hann drap flugstjórann vegna þess að sá var að koma í veg fyrir að hann gæti klárað verkefni sitt. Þetta dæmi, að því er virðist beint úr vísindatrylli, þýðir að þú getur ekki talað um gervigreind, greind, vélanám, sjálfræði, ef þú ætlar ekki að tala um siðfræði og gervigreind.“
Þessi lýsing á atburðum er vissulega truflandi. Möguleikarnir á að sjálfstætt flugvél eða annar vettvangur, sérstaklega vopnaður, ráðist á mannlega stjórnendur þess hefur lengi verið martröð, en hefur í gegnum tíðina verið bundin við svið vísindaskáldskapar.
Bandaríski herinn hafnar venjulega samanburði við kvikmyndir eins og "Terminator" þegar hann talar um framtíðar sjálfstætt vopnakerfi og tengda tækni eins og gervigreind. Núverandi stefna Bandaríkjanna í þessum efnum segir að um fyrirsjáanlega framtíð muni viðkomandi vera miðpunktur athyglinnar þegar kemur að ákvörðunum sem fela í sér beitingu banvæns valds.
Vandamálið er að hið mjög truflandi próf, sem Hamilton ofursti sagði við áhorfendur á viðburði Royal Aeronautical Society í síðasta mánuði, táknar atburðarás þar sem bilanaþol er óviðjafnanlegt.
Lestu líka: