Samkvæmt foreldri sem birti skjáskot af athafnasögu Alexa gaf Amazon raddaðstoðarmaðurinn, þegar barn var beðinn um að bjóða upp á áskorun, dæmi um banvæna tilraun með rafmagn og tók lýsingu hennar úr samhengi við handahófskennda grein. Echo dálkurinn talaði um tilraun sem er vinsæl meðal TikTok aðdáenda með notkun á mynt og hleðslutæki fyrir snjallsíma - fjölmörg atvik, meiðsli og eldar eftir framkvæmd hennar voru tilkynnt af ýmsum fjölmiðlum oftar en einu sinni. Svo virðist sem tækið hafi fengið hugmyndina að þessari áskorun úr grein sem lýsti henni sem hættulegri, þar sem vitnað var í skýrslu um meinta núverandi TikTok áskorun.
Samkvæmt skjáskoti sem Christine Livdahl tók, þegar hún var beðin um að „sýna mér verkefni,“ svaraði Echo: „Hér er eitthvað sem ég fann á netinu.“ Samkvæmt ourcommunitynow.com er verkefnið einfalt: „Settu símahleðslutækinu um það bil hálfa leið inn í innstungu, snertu síðan beru pinnana með eyri.“
Í yfirlýsingu til BBC staðfesti Amazon hegðun Alexa og sagði: „Um leið og við urðum vör við þessa villu, gripum við strax til aðgerða til að laga hana. Livdahl tísti í gær að áskorunarbeiðnin virkaði ekki lengur. Notendur á vefnum prófuðu einnig beiðnina með Alexa og fengu svipaða niðurstöðu.
OMFG 10 ára mín bað Alexa á Echo okkar um áskorun og þetta er það sem hún sagði. mynd.twitter.com/HgGgrLbdS8
— Kristin Livdahl (@klivdahl) Desember 26, 2021
Amazon er ekki eina fyrirtækið sem hefur lent í vandræðum við greiningu á vefefni. Í október greindi notandi frá því að Google væri að birta hugsanlega hættuleg ráð í einni af bútunum sínum ef þú skrifaðir „þú ert að fá krampa, hvað á að gera“ á Google - upplýsingarnar voru teknar úr hluta vefsíðunnar sem lýsir því sem ekki að gera ef einhver fær krampa. Hins vegar hafa notendur greint frá öðrum svipuðum vandamálum, þar á meðal einn notandi sem greindi frá því að Google skilaði niðurstöðum fyrir réttstöðuþrýstingsfall þegar leitað er að réttstöðuháþrýstingi, og annar birti skjáskot af Google sem sýndi hræðileg ráð til að hugga syrgjandi manneskju eins og „Glad að þú „er allt í lagi“ eða „Vertu ekki dapur! Hresstu þig við!".
Google leitarsamantekt á móti raunverulegri síðu mynd.twitter.com/OJxt1FrBqh
— soft.linden (｡•̀ᴗ-)✧ (@soft) Október 16, 2021
Við höfum líka séð viðvaranir um hættulega hegðun aukast til að gera vandamálið stærra en það var - fyrr í þessum mánuði voru sum bandarísk skólahverfi sett í bann eftir fregnir af skothótunum á TikTok. Í ljós kom að þjóðfélagsstormurinn stafaði aðallega af því að menn töluðu um ógnirnar, miklu meira en þær ógnir sem raunverulega voru til staðar. Í tilfelli Alexa valdi reikniritið lýsandi hluta viðvörunarinnar og magnaði hann upp án upprunalegu samhengisins. Þótt foreldrarnir hafi verið þarna til að grípa strax inn í er auðvelt að ímynda sér aðstæður þar sem svo er ekki og afleiðingarnar.
Livdahl tísti að hún notaði tækifærið til að „ræða internetöryggi við barnið sitt og treysta ekki því sem þú lest án rannsókna og sannprófunar,“ sem við mælum með að þú gerir líka.
Lestu líka: