Tölvuforrit frá Amazon ruglar saman þingmönnum og eftirlýstum glæpamönnum

28 bandarískir þingmenn eru eftirlýstir af lögreglunni ef marka má niðurstöður úr nýju forriti frá tæknirisanum Amazon. Forritið ber saman andlit fólks við upplýsingar úr gagnagrunni lögreglu til að bera kennsl á glæpamenn.

Vandamálið er að það virðist ekki vera mikið að marka niðurstöður forritsins enn sem komið er.

American Civil Liberties Union (ACLU) eru félagasamtök sem berjast fyrir borgaralegum réttindum. Þau gerðu tilraunir með forritið sem fólust í að mata það á ljósmyndum af öllum núverandi þingmönnum.

Eins og fyrr segir vildi forritið meina að 28 þeirra væru á flótta undan réttvísinni.

Talsmaður ACLU segir þetta sýna hversu hættulegt það sé að treysta á tölvuforrit í þessum tilgangi. Formælandi Amazon segir hins vegar að með því að breyta stillingum forritsins sé auðvelt að auka nákvæmni þess og koma í veg fyrir þessar fölsku niðurstöður.

Amazon notar sama forrit í margvíslegum tilgangi. Það hefur verið notað til að flokka myndir af frægu fólki, bera kennsl á óviðeigandi myndefni og margt fleira.

Amazon er nú að vinna með lögreglu vestanhafs til að innleiða notkun forritsins í löggæslustörfum. 

ACLU segir það stórhættulega þróun og bendir á að forritið hafi innbyggða fordóma þeirra sem hönnuðu það. Af þeim sem voru ranglega sagðir glæpamenn af forritinu voru 40% blökkumenn. Það virðist því tvöfalt líklegra til að rugla dökkleitu fólki saman við glæpamenn.