Yapay zeka "Hırsız" dedi, yaka paça kapı dışarı edildi

Perakende sektöründe hızla yayılan yapay zekâ temelli güvenlik uygulamaları, bu kez masum bir müşteriyi hedef aldı. İngiltere'nin Chester kentinde yaşayan 67 yaşındaki Ian Clayton, sıradan bir alışveriş sırasında yapay zeka temelli dijital sistemin hatalı uyarısı nedeniyle mağazadan çıkarıldı.

YAPAY ZEKA "HIRSIZ" DEDİ, MAĞAZADAN KAPI DIŞARI EDİLDİ

Olay, indirim zinciri Home Bargains'ın şubesinde yaşandı. Mağazada kullanılan ve müşterilerin hareketlerini analiz ederek potansiyel risk durumlarında personele bildirim gönderen yüz tanıma sistemi, Clayton'ı alışveriş yaptığı sırada 'şüpheli kişi' olarak işaretledi. Bunun üzerine mağaza çalışanları Clayton'ı yaka paça tartaklayarak dışarıya çıkardı. Ancak sonradan yapılan incelemede herhangi bir hırsızlık eyleminin söz konusu olmadığı anlaşıldı.

GÖRÜNTÜLER SİSTEMDEN SİLİNDİ

BBC'ye yaşadıklarını anlatan Clayton, mağaza çalışanlarının kendisinden dükkanı terk etmesini istediğinde büyük bir utanç duyduğunu dile getirdi. 'Çaresiz' hissettiğini aktaran Clayton, güvenlik şirketiyle iletişime geçtiğinde kendisine, sistemde "ürünleri çantaya koyarak çaldığına" dair bir kayıt bulunduğunun söylendiğini belirtti. Fakat yaşlı adam, kayıtları görmek istediğinde ise şirketten "görüntünün sistemden kalıcı olarak silindiği" yönünde geri dönüş aldığını kaydetti.

ÜLKEDE TARTIŞMA YARATTI

Olay, özel hayatın gizliliğini savunan kampanya gruplarını alarma geçti. Big Brother Watch grubunu direktörü Silkie Carlo, özel şirketlerin biyometrik veriler üzerinden kişileri fişlemesinin ciddi sonuçlar doğurabileceğini belirtti.

Son aylarda benzer şekilde bazı kişilerin de yanlış eşleştirme nedeniyle mağazalardan çıkarıldığı ortaya çıkmıştı. Uzmanlara göre, hata payı düşük görünse de bu tür sistemlerde tek bir yanlış eşleşme bile bireyler üzerinde kalıcı etki bırakabiliyor.