Interview met CEO van Veesion en Menno Weij; Over AI in anti-diefstal toezichttechnologie in supermarkten onder de AVG

David benadrukt dat de AI-technologie van Veesion is gebouwd rond gebarenherkenning, waarbij specifiek wordt gefocust op het identificeren van acties die verband houden met winkeldiefstal in plaats van het identificeren van individuen. De software analyseert live camerabeelden om “verdachte gebaren” te detecteren, zoals het verbergen van items in een tas of kleding, en stuurt videoalerts naar de winkelbeveiliging. Thibault David: “Het enige dat onze software echt verandert, is dat voorheen niemand echt naar de videofeeds keek of er waren te veel camera’s voor één persoon. Nu, dankzij onze technologie, stellen we beveiligingspersoneel in staat om zich te concentreren op specifieke bewegingen, gebaseerd op AI-gebaaranalyse.”

Hij legt uit dat de AI geen individuen identificeert of geheugen behoudt van de geanalyseerde beelden, waardoor de opslag van persoonlijke gegevens wordt vermeden. Deze aanpak stelt beveiligingspersoneel in staat zich te concentreren op specifieke bewegingen, waardoor ze geïnformeerde beslissingen kunnen nemen op basis van acties in plaats van identiteit. David stelt dat de software van Veesion een efficiëntere beoordeling van beveiligingsbeelden mogelijk maakt, waardoor personeel kan handelen op relevante meldingen in plaats van uren aan videomateriaal door te spitten. David: “De AI is slechts een extra hefboom in een bestaand proces en door relevante meldingen naar het personeel te sturen, stelt het hen in staat om criminaliteit effectiever te detecteren.”

Veesion analyseert, detecteert  en waarschuwt personeelsleden bij verdacht  gedrag.

Menno Weij verduidelijkt de AVG-implicaties van de software van Veesion en merkt op dat zijn eerdere aannames over het gebruik van biometrische gegevens door de software onjuist waren. Aangezien de AI werkt op basis van gebarenherkenning in plaats van het identificeren van individuen, stelt hij dat de privacyzorgen minder ernstig zijn dan aanvankelijk gedacht. De AI-tool analyseert eenvoudigweg bestaande beelden, die supermarkten al gebruiken voor beveiligingsdoeleinden, waardoor de supermarkten de gegevensbeheerders zijn, verantwoordelijk voor de gegevensverwerking. Weij stelt dat de software van Veesion geen speciale categorieën van persoonsgegevens verzamelt zoals onlangs beweerd door het Algemeen Dagblad, en dat elke verwerking van reguliere persoonsgegevens tot een minimum wordt beperkt. Dus, de software van Veesion introduceert geen nieuwe privacyrisico’s bovenop die welke al worden veroorzaakt door bestaande beveiligingscamera’s. Menno Weij: “Wat ik totaal mis in andere mediaverhalen over wat Veesion doet, is dat er al een camera is die alles overal al opneemt. Dit heeft invloed op iedereen in supermarkten, men zou kunnen stellen dat de impact van die originele beelden groter is dan de impact van wat de Veesion AI-tool ‘ziet’.”

David erkent het potentiële risico van vooroordelen in AI, maar stelt dat de software van Veesion dit probleem vermindert door zich puur te richten op gebarenanalyse. De AI is getraind op gebarendata zonder verwijzing naar identificerende informatie, met als doel ruimtelijke en temporele verschillen tussen frames te analyseren om te detecteren of een item van een plank wordt verwijderd. Deze data-georiënteerde aanpak minimaliseert de kans op vooroordelen, aangezien de AI geen rekening houdt met kenmerken die kunnen leiden tot discriminerende beslissingen. Bovendien gelooft David dat door objectieve meldingen te verstrekken op basis van gebaren, de software van Veesion menselijke vooroordelen in beveiligingsbeslissingen zou kunnen verminderen. Hij stelt dat het systeem van Veesion zou kunnen bijdragen aan eerlijkere besluitvorming, aangezien het personeel waarschuwt op basis van verdachte acties in plaats van aannames over individuele kenmerken. David Thibault: “Wij denken dat onze AI zeer neutraal is in termen van analyse, aangezien we geen shoppers identificeren maar alleen gebaren registreren en analyseren. Tegelijkertijd helpt onze software beveiligingsbeambten beslissingen te nemen op basis van onze gebarenanalyse in plaats van op enige menselijke vooroordelen die ze zouden kunnen hebben. Om deze reden zou ik willen stellen dat onze software zou kunnen helpen om te voorkomen dat menselijke vooroordelen optreden.”

De AI-software van Veesion heeft tot doel diefstalpreventie te herdefiniëren door winkeliers een tool te bieden die verdachte gebaren identificeert zonder de privacy aan te tasten. Hoewel privacy-experts terughoudend blijven over de rol van AI in openbare ruimtes, suggereren de inzichten van David en Weij dat de aanpak van Veesion voldoet aan de AVG-vereisten en tegelijkertijd eerlijkere besluitvormingsprocessen ondersteunt. Naarmate AI de detailhandelsbeveiliging blijft hervormen, zou de op gebaren gebaseerde aanpak van Veesion een precedent kunnen scheppen voor het balanceren van efficiëntie, privacy en ethische overwegingen bij de inzet van technologie.

Bekijk hieronder de webinar waarin Menno Weij (Partner Tech & Privacy Law bij BDO Legal) en Martijn Veenhuis (Axians)  dieper in gaan op de vraag hoe je om moet gaan met privacy bij camerabeveliging in de retailmarkt.