Hætta notkun andlitsgreiningar eftir að viðskiptavinur var ranglega sakaður um þjófnað

Matt Arnold var ranglega sakaður um þjófnað í stórmarkaðnum Sainsbury's í Lundúnum eftir að gervigreind gerði mistök. Honum var vísað út úr versluninni í kjölfarið en segir lífsreynsluna hafa verið óþægilega og neyðarlega en geta gefið vísbendingu um dimma framtíðarsýn.

Skrapp inn að kaupa mat og drykk

Arnold er grínisti. Hann skrapp inn í Sainsbury's í East Dulwich í suðaustur-Lundúnum 6. ágúst til að ná í mat og drykki fyrir uppistand sem hann var með í næsta húsi. Hann var á sjálfsafgreiðslukassa að bíða eftir að starfsmaður myndi samþykkja áfengiskaup þegar tveir starfsmenn gengu upp að honum og sögðu að ekki væri hægt að afgreiða hann vegna atviks sem varð fyrr í vikunni.

„Þeir komu til mín og sögðu að ég þyrfti að yfirgefa verslunina. Starfsmaðurinn sagði að gervigreindin hefði borið kennsl á mig og myndavélar gert athugasemd við mig,“ segir Arnold í viðtali við breska ríkisútvarpið, BBC.

Hann sagði búðarþjófa ekki ganga um með mikið magn af vörum, þeir skanni þær ekki á sjálfsafgreiðslukassa og noti ekki afsláttarkort.

„Það sem olli mér uppnámi var að hugsa til þess hvernig þetta gæti orðið í framtíðinni: að fólk hlusti bara á það sem tækin segja þeim án þess að hugsa um afleiðingarnar.“

Ekki í fyrsta skipti sem svona gerist

Hann segir að sér hafi verið vísað út úr versluninni og þegar hann hafi litið um öxl að inngangi hennar hafi hann séð andlit sitt í öryggismyndavél með rauðan hring í kringum andlitið.

Síðan þá hafi yfirmaður hjá Sainsbury's sett sig í samband við hann og beðið hann afsökunar. Yfirmaðurinn hafi fullyrt að atvikið hafi orðið vegna mannlegra mistaka frekar en bilun í gervigreindinni.

Þetta er ekki í fyrsta skipti sem svona atvik kemur upp hjá Sainsbury's. Í september á síðasta ári var viðskiptavini vísað úr verslun stórmarkaðarins í Elephant and Castle í suður-Lundúnum vegna þjófnaðar. Þá hafði sami hugbúnaður og núna sagt manninn vera brotamann.

Öryggisfyrirtækið sem sér um hugbúnaðinn staðfesti stuttu síðar að maðurinn hafi verið ranglega sakaður um þjófnað og sagði það hafa verið mannleg mistök, ekki tæknimistök.