Gúggla "lagaði" myndgreiningaralgrím fyrir kynþáttafordóma ... með því að slökkva á þeim

Árið 2015 sagði hugbúnaðarverkfræðingur Jackie Alsin almenningi að myndgreiningarreikniritin í Google myndum virkuðu rangt og flokkuðu Afríku-Ameríku sem „górillur“. Google baðst aftur á móti afsökunar á særðum tilfinningum notenda og lofaði að leiðrétta villuna. En í reynd kom í ljós að Google gerði ekkert í þrjú ár. Fyrirtækið slökkti bara á górilluþekkingaralgríminu til að hætta ekki orðspori sínu.

Nokkru síðar kom skilaboð frá Wired. Með viðleitni þeirra var prófun á Google Photo reikniritum framkvæmd með því að hlaða upp tugum þúsunda mynda af ýmsum prímötum í þjónustuna. Meðal þeirra voru: bavíanar, gibbonar, apar, górillur og simpansar. Fyrstu þrír dýraflokkarnir voru rétt auðkenndir en hvað górillur og simpansa varðar þá vantaði auðkenni þeirra. Einnig, meðan á prófinu stóð, kom í ljós að Google lagaði gervigreindina fyrir kynþáttafordóma. Til dæmis, þegar leitað var að „svartum manni“ eða „svörtum konu“, voru birtar myndir af fólki í svörtum og hvítum fötum, flokkaðar eftir kyni.

Fulltrúi Google staðfesti niðurstöður prófana sem Wired gerði, sem tengdust prímataflokkunum, og greindi frá því að þeim væri lokað. Að sögn fulltrúans kemur í ljós að myndgreiningartækni er langt frá því að vera fullkomin. Og lokaðir flokkar eru enn fáanlegir í þjónustu Google eins og Cloud Vision API og Google Assistant.

Það kann að koma á óvart að viðskiptarisinn Google hafi ekki fundið betri lausn á þessu vandamáli. En þessi mistök eru góð áminning um hversu erfitt það er að kenna gervigreind þegar það er enn í þróun og hefur ekki verið prófað af sérfræðingum.

Það er enn óljóst hvað Google mun gera í framtíðinni til að bæta reiknirit sín, þar sem það eru meira en nógu margir gallar á þeim og þeir þurfa tafarlausar ráðstafanir til að útrýma þeim.

Heimild: theverge.com