Je gezicht is nu van ons

Een telefoon ontgrendelen met je gezicht is interessant, maar gezichtsherkenning met een omstreden app is een ander verhaal. In ‘Je gezicht is nu van ons’ beschrijft Kashmir Hill de geschiedenis en mogelijke toekomst van de technologie.

Slecht nieuws voor iedereen die weleens een selfie of groepsfoto naar Facebook, Instagram of andere website heeft geüpload: er is een bedrijf dat deze beelden allemaal heeft opgeslagen, en ze gebruikte om een gezichtsherkennings-app te bouwen die wereldwijd wordt gebruikt door politieagenten, dictatoriale regimes en particulieren. Met de technologie kunnen zij misdrijven oplossen, politieke tegenstanders oppakken of ‘gewoon’ achterhalen wie ze tegen het lijf lopen. Ook personen die nooit foto’s van zichzelf op internet zetten, komen mogelijk tóch in de database voor – bijvoorbeeld doordat anderen foto’s met hen erop uploadden.
Het bedrijf in kwestie heet Clearview AI. Met zijn illegale fotoverzameling choqueerde oprichter Hoan Ton-That toezichthouders, journalisten en privacyvoorvechters. Allereerst omdat hij de foto’s zonder toestemming van de eigenaren verzamelde, en ten tweede omdat hij ze gebruikte om ‘faceprints’ – digitale patronen van iemands unieke gezichtskenmerken – te maken en daar munt uit te slaan.

Alle ophef ten spijt weigert Ton-That om te stoppen. In de Verenigde Staten probeerde hij met een beroep op de vrijheid van meningsuiting de rechter ervan te overtuigen dat het verzamelen van de foto’s niet onwettig was.

De gezichtsherkenningstechnologie van Clearview AI –en van vele andere aanbieders– kan de samenleving voorgoed veranderen.

De gezichtsherkenningstechnologie van Clearview AI –en van vele andere aanbieders– kan de samenleving voorgoed veranderen doordat geen enkele burger meer anoniem is en de algoritmen ook nog eens niet foutloos zijn, betoogt Kashmir Hill in haar boek ‘Je gezicht is nu van ons’. Het dossier-Clearview is daarmee relevant: voor naïeve internetgebruikers, gewetensvolle burgers en autoriteiten die graag nieuwe technologie uitproberen.

Onderzoek naar Clearview AI

Clearview AI kan op mijn belangstelling rekenen. In 2021 schreef ik voor het journalistieke onderzoeksplatform Follow the Money over de schimmigheid waarmee de van het bedrijf in Nederland is omgeven.

Gelekte gegevens suggereerden dat Nederlandse politieagenten de app ook uitprobeerden, maar noch minister Grapperhaus (Justitie en Veiligheid), noch staatssecretaris Dekker (Rechtsbescherming) kon uitsluiten dat ‘Clearview’ voor andere doeleinden werd gebruikt. De bewindslieden brachten elkaar bovendien in een lastig parket door in Kamervragen te haspelen met termen over het gebruik van realtime gezichtsherkenning in Nederland. Daarbij worden gezichten van personen à la minute herkend, wat juridisch gezien nog weer anders is dan gezichtsherkenning waarbij een foto in een app wordt geüpload. Live gezichtsherkenning gebéúrt hier niet, zei Dekker. Het mág niet, corrigeerde Grapperhaus –waarmee hij zich indekte voor het geval de technologie tóch door de overheid en wetshandhavers wordt gebruikt.
Twee jaar later is er nog steeds weinig duidelijkheid over het gebruik van gezichtsherkenning door Nederlandse autoriteiten –en daarmee over gezichtsherkenningstechnologieën die mogelijk de grondrechten van burgers schaden.

---

(Deze recensie verscheen in het Reformatorisch Dagblad van 10 november 2023. Lees de hele recensie hier.)