Aflevering 7: Glimlachen! U wordt gefilmd, gescand, gevolgd…

Op straten, in parken, stations, op uw werkplaats, in ziekenhuizen, winkels, parkings, misschien zelfs in uw huis op uw eigen initiatief… bewakingscamera’s zijn overal.

Miljoenen beelden, gezichten en gedragingen worden opgenomen voor één reden: veiligheid.

“Oproep naar getuigen: deze man is meerdere keren gezien. Hij werd gefilmd door bewakingscamera’s. Als u hem herkent, gelieve dan contact op te nemen met de politie via het gratis nummer…”

Miljoenen beelden… die eigenlijk gegevensbanken zijn waar je naar relevante informatie kan gaan zoeken met behulp van AI-oplossingen, bijvoorbeeld, waaraan je opdrachten zoals mensen herkennen kan geven.

“De camera maakt het mogelijk om het gezicht op te nemen. Eerst detecteert ze het gezicht, zijn randen. Dan wordt de gezichtsafdruk berekend op basis van punten tussen de mond, de neus, de ogen, de kin, het voorhoofd.” (Valerio Burgarello)

Valerio Burgarello is medeoprichter en technisch directeur bij Piximate, een Belgische start-up gevestigd in Terhulpen.

Valerio Burgarello: Deze oplossing maakt het mogelijk om de unieke gezichtsafdruk te berekenen en op basis daarvan zal de person worden herkend als hij/zij terugkomt. Mensen worden niet met hun gezicht, maar met hun gezichtsafdruk herkend. De identificatie wordt niet gedaan met een Facebook profiel waar je de naam en allerlei andere gegevens kan vinden. We hebben alleen maar een gezichtsafdruk die in zekere zin anoniem is, zo te zeggen.

Journalist: Ik zie hier dat als ik dichterbij kom, zien we mijn gezicht op het scherm. Mijn gezicht en het uwe trouwens ook worden omringd door een blauw kader.

V.B.: Ja. Eigenlijk heeft het systeem een gezicht gedetecteerd. Er werd een kader getekend voor de demo zodat het beter wordt geïllustreerd. Binnen dit kader zal het systeem punten kiezen voor de berekening van de gezichtsafdruk. Op basis daarvan zal het op het volgende scherm bepalen of het een man of een vrouw is. Op dit moment bepalen we de leeftijdsgroep. We zijn niet onvermurwbaar op dit vlak. We geven een leeftijdsgroep van vijf jaar.

Journalist: Je kan dus het geslacht, de leeftijdsgroep bepalen maar ook… emoties van mensen detecteren.

V.B.: De berekening van emoties wordt ook op basis van punten, dus van de gezichtsafdruk, gedaan en op basis van een vergelijking van verschillende datasets die een verzameling van beelden zijn, waarmee het algoritme heeft geleerd dat een emotie, een glimlach bijvoorbeeld, is wanneer de afstand tussen sommige punten groter wordt dan normaal, dan als het gezicht neutraal is. En dus op basis daarvan en op basis van beelden die werden opgenomen, kan het algoritme bepalen of de persoon aan het glimlachen is of niet. Er zijn drie basis emoties: glimlach, neutraal en droefheid.

Hoe wordt een machine in staat gesteld emoties te detecteren? Wat zijn de mogelijkheden van zulke oplossingen? Zal dat mogelijk zijn om bijvoorbeeld terroristische gedragingen op te sporen voordat er een aanslag wordt gepleegd? Worden we constant en overal in de gaten gehouden? En eigenlijk wie gebruikt die beelden en waarvoor?

Een lesje in het trainen van machine. Valerio Burgarello is terug met ons.

V.B.: De eerste stap is om wat we een dataset noemen te verzamelen. Dat zijn geannoteerde beelden. Als we aan emoties werken, hebben we dan veel beelden nodig van mensen die aan het glimlachen zijn om ze als glimlachende te annoteren.

Journalist: De machine wordt daarmee gevoed, bij wijze van spreken.

V.B.: Dat klopt. De machine zal leren op basis van deze informatie. Ons algoritme verwerkt dat alles en laat de machine leren dat zo’n punt van het gezicht met een glimlach overeenkomt. Nadat het in de database is, wordt elk nieuw beeld door het systeem verwerkt en de machine kan dan zeggen tot welke categorie het behoort. Als er aan alle voorwaarden wordt voldaan, dan beoordeelt de machine met een betrouwbaarheidspercentage dat de persoon op het beeld glimlacht.

Journalist: Wat is het betrouwbaarheidspercentage van jullie algoritme vandaag?

V.B.: Dus vandaag is het rond 85-90%.

Journalist: Maar hoe meer het wordt getraind, hoe beter het werkt?

V.B.: Dat klopt. Hoe meer we het trainen, hoe beter het werkt. Maar om het percentage te verhogen hebben we duizenden extra beelden nodig.

Journalist: Waar komen die beelden vandaan? Jullie hebben zeker klanten die ze kunnen bezorgen. Maar u moest eerst de machine trainen. Dus welke beelden heeft u aan het begin gebruikt?

V.B.: Er zijn datasets die op specialiseerde websites worden verkocht. We hebben een paar datasets gekocht. Er zijn ook gratis beschikbare datasets. Google biedt dat aan, Microsoft ook, bijvoorbeeld. Maar we hadden ook onze eigen gegevens die door onze camera’s werden opgenomen en die ook werden gebruikt om ons algoritme te verbeteren.

Journalist: Eigenlijk bent u een machine super trainer, een coach.

V.B.: Ja, ik ben een soort leraar, ik leer een machine… (lacht)

Op die manier wordt een machine in staat gesteld op een gezicht dat ze noch nooit heeft gezien een emotie te herkennen waarvan ze de kenmerken heeft leren kennen.

Laten we dan samenvatten. Bij Piximate werken ze hoofdzakelijk in retail, met winkels. Door beelden uit bewakingscamera’s te gebruiken is het mogelijk om een gezichtsafdruk, een soort gecodeerde afdruk met alle gezichtskenmerken, te bepalen zowel als de leeftijd, het geslacht, emoties, de aanwezigheid in een verkooppunt, hoe lang iemand daar blijft, of hij/zij meerdere keren terugkomt.

Laure Uytdenhoef is CEO bij Piximate.

L.U.: Het stelt retailers, dus winkels, in staat om hun klanten en bezoekers in fysieke verkooppunten beter te kennen.  Eigenlijk als het over de analyse van het klantgedrag gaat, loopt e-commerce voorop in vergelijking met fysieke verkooppunten. Met deze oplossing wordt het mogelijk om hen informatie te geven die ze zelf kunnen gebruiken om een heel reeks dingen aan te passen. Ik kan u een heel concreet voorbeeld geven: als een merk een product in zijn aanbod heeft dat oorspronkelijk voor mannen tussen de 25 en 30 jaar is bestemd, maar het merk beseft dat de klanten die het komen kopen, in feite vrouwen tussen de 35 en 40 jaar zijn, dan zijn er twee opties: ofwel de communicatie ofwel het product aanpassen. Daarvoor is deze oplossing bedoeld. Het is ook bedoeld om een verkooppunt te kunnen herschikken en, bijvoorbeeld, om openingsuren en het aantal van open kassa’s op bepaalde momenten van de dag aan te passen. Dat zal zeker een impact hebben op klanttevredenheid.

Dat was het op het vlak van marketing. Met emoties herkenning is het mogelijk te bepalen of de klant tevreden is na zijn bezoek in de winkel en of zijn interactie met de verkoper goed is gegaan. Maar wist u dat Piximate met Franse gendarmerie samenwerkt precies op de kwestie van emoties herkenning?

Rémy Millescamps: De gendarmerie is een organisatie die al jaren bestaat en die altijd dicht bij burgers is gebleven.

Rémy Millescamps is CEO bij DC Communication, een Frans bedrijf die openbare organisaties, waaronder gendarmerie, met digitale transitie helpt.

R.M.: De tevredenheid en ondersteuning van burgers is iets bijzonder belangrijks. In een strategie van de tevredenheid meting gaat het ook om een nauwe relatie met burgers en het vertrouwen te herstellen maar ook om verder met elkaar te kunnen communiceren. Er is echt een doel om de organisatie te verbeteren en om politieagenten te ondersteunen in hun dagelijkse leven, want als mensen met het werk van politiemannen tevreden zijn, voelen de agenten zich meer op hun gemak om aan hun plichten te voldoen.

Het doel is hetzelfde als in winkels. De gezichten van burgers worden geanalyseerd elke keer dat ze het politiebureau binnen of buitengaan om te bepalen of ze tevreden of niet zijn met de verleende dienst. Burgers worden niet individueel geïnformeerd, maar een verplicht boordje geeft aan dat er een bewakingscamera is. Voorlopig gebruiken drie politiebureaus de AI-oplossing door Piximate ontworpen. Dit is een test. Maar Rémy Millescamps denkt al aan de volgende stap.

R.M.: Het Piximate platform biedt veel mogelijkheden. Wat AI zo fantastisch maakt, is dat dat steeds verder wordt ontwikkeld. We zullen dus dit platform kunnen gebruiken voor nieuwe toepassingen en we zullen het laten evolueren.  Op die manier worden de agenten ondersteund en krijgen betere hulp terwijl ze soms in hun dagelijkse leven onder druk staan of moeilijkheden hebben, of pijn of verdriet voelen, of zelfs tot verschrikkelijke daden kunnen overgaan. Dit emoties platform zal het mogelijk maken om gendarmerie intern te waarschuwen voor abnormaal gedrag en direct van tevoren te reageren om sommige agenten die ernstige emotionele problemen zouden hebben beter te ondersteunen.

In Frankrijk in 2018 hebben 35 politieagenten en 33 leden van gendarmerie zelfmoord gepleegd. In 2019 treedt al dezelfde trend op. Het probleem wordt zorgwekkend en ik snap het idee. Maar er is toch een ding dat me intrigeert. Mensen op hun werkplaats analyseren, hun emoties analyseren, dag in dag uit, is dat dan niet een beetje binnendringend?

R.M.: Het wordt binnendringend als u een digitale dienst voor verkeerde doeleinden gebruikt. Het wordt positief als u een probleem vroeg detecteert en kan ondersteuning bieden. Maar ik laat het over aan de gendarmerie om de relevantie daarvan te beoordelen en te beslissen. Maar aangezien die gegevens nooit openbaar zullen worden gemaakt, bent u, als burger of in ieder geval als politieagent, vrij om te beslissen. U wordt al nu beoordeeld door uw managers en ondersteund. Het is dus een aanvullende manier voor een officier om hun mannen beter te ondersteunen aangezien het zijn verantwoordelijkheid is.

Ze zijn overal in de stad, maar blijven onopvallend. Maar wist u dat die camera’s u tegenwoordig kunnen opsporen door de kleur van uw kleren en kunnen u dus op straat volgen?

En dan, bewakingscamera’s, emoties detectie, gendarmerie… Als ik dat alles hoor, wordt mijn geest opgewonden. Zullen we dan ons niet kunnen voorstellen om verdachte gedragingen in openbare ruimte op te sporen? Bijvoorbeeld, het moment detecteren waarop een betoging uit de hand gaat lopen?

Laure Uytdenhoef: Ja, zeker. We kunnen dat makkelijk ontwikkelen. Ik denk dat er enkele gegevens moeten worden samengebracht. Maar dat soort gegevens, zoals het aantal mensen in een bepaald plek, kunnen we al nu hebben. Dus, als het aantal mensen aanzienlijk stijgt, betekent dat dat een menigte zich aan het vormen is. Dit soort dingen kunnen we al nu weten. Door die informatie aan emoties detectie te koppelen, dus als we op beelden zien dat er steeds meer mensen zijn die een negatieve emotie hebben, zoals agressiviteit of woede, dan kunnen we daadwerkelijk beschouwen dat er een potentieel gevaar bestaat en dat iemand daaraan aandacht moet besteden. De machine kan een waarschuwing sturen met de boodschap: “er is iets verdachts gedetecteerd. Ga kijken, er moet een mens ter plaatse gaan checken” en als de machine gelijk heeft, dan kunnen we de autoriteiten veel sneller dan nu laten optreden.

Journalist: En wat individueel gedrag betreft? Kan AI een misdadiger, of zelfs een terrorist, detecteren voordat hij een misdaad pleegt?

L.U.: Wat het technologische aspect betreft, is het antwoord ja. Maar de implementatie is complexer, want we moeten eerst samen beschrijven wat als verdacht gedrag wordt beschouwd en zulke gedragingen kunnen heel verschillend zijn. De machine zal detecteren alleen maar de gedragingen dat ze heeft geleerd. Ze kan niet zelf nadenken, afleiden of extrapoleren, of het zal toch beperkt zijn. En dus is het duidelijk dat als ze een reeks van tien verdachte gedragingen krijgt, kan ze die tien gedragingen herkennen en een waarschuwing sturen met de boodschap: “er is net een verdacht gedrag gedetecteerd. U kunt snel ingrijpen.” Maar die gedragingen kunnen heel verschillend zijn en als er een elfde komt, zal de machine het nooit kunnen detecteren en zal het nooit als verdacht gedrag herkennen.

AI kan dus veiligheidsdiensten ondersteunen bij hun activiteiten. Maar terwijl we het over veiligheid hebben, heb ik een vraag voor Rémy Millescamps: is het mogelijk vandaag om een heel hoogwaardig leugendetector te ontwerpen door de technologie voor emoties detectie en andere elementen te combineren?

R.M.: Ik ga het duidelijk maken, Marie. Het is absoluut mogelijk. Maar de volgende vraag is van ethische aard en er is ook een kwestie van betrouwbaarheid. Laten we dat beschouwen als een ondersteuning voor hulp. Er zijn twee dingen. In het kader een bijzonder onderzoek, zou u leugens kunnen detecteren op basis van emoties, maar niet alleen, ook door dat te combineren met temperatuurschommelingen en bloeddruk, want u weet dat de bloeddruk kan worden gedetecteerd door de bewegingen van het oog te observeren. We zullen dus een aantal statistische gegevens met elkaar koppelen en die gegevens zullen ons trends geven over het feit of iemand zal waarschijnlijk liegen of niet.

Beelden, gezichten, emoties… dat kan alles worden geanalyseerd en belangrijke informatie verstrekken aan degene die daartoe toegang krijgt en goede algoritmes kan gebruiken. En zelfs als dat geen identificatie gegevens zijn, zelfs als dat alleen maar over een gezichtsafdruk gaat zoals aan het begin gezegd is, is dat toch informatie die betrekking heeft tot wie we zijn. Het zou genoeg zijn om dit te verbinden met een Facebook profiel waar je de naam en de woonplaats en nog veel andere dingen vindt en dan krijg je een vrij grote aantal elementen die het mogelijk zouden maken om u vrij precies te identificeren. Wie we zijn, wat we doen, waar we gaan, ons karakter, onze voorkeuren onze reacties…

Op dit moment is het verboden. De Algemene verordening gegevensbescherming laat dat niet toe om zulke informatie met elkaar te verbinden zonder toestemming van mensen. Alleen geanonimiseerde informatie kan worden verspreid.

Maar er zijn dingen die wel mogen. Laure Uytdenhoef is terug met ons.

L.U.: Het is absoluut mogelijk indien onze klant – het merk of de winkel – een foto van het gezicht van zijn klant zou hebben in zijn eigen database die niet van ons komt. En het is dus mogelijk om bijvoorbeeld de klantenkaart van de eindklant met onze technologie te verbinden. We kunnen de mogelijk overwegen om een klant persoonlijk, niet anoniem deze keer, te herkennen als hij in de gebruiksvoorwaarden van zijn klantenkaart heeft goedgekeurd om gefotografeerd te worden en dat zijn foto wordt gebruikt in het kader van door ons uitgevoerde analyse voor onze klant. Dus technologisch gezien kan dat. Doen wij dat vandaag? Neen.

Voor een winkel maakt zulke oplossing het mogelijk om het gedrag op internet, de reclameblootstelling en het verkooppuntgedrag aan elkaar te koppelen. Op deze manier kunnen we de customer journey traceren, wat uiteraard zeer waardevolle gegevens zijn.

Wat de gebruiker betreft die daar last van zou hebben, zeg maar hem dat hij de gebruiksvoorwaarden moest lezen.