Wat de nieuwe wetten zullen betekenen voor AI-aangedreven Video Analytics in cameraobservatie

30 september 2024

De EU AI Act, die in augustus 2024 in de EU-wetgeving werd opgenomen, is een wereldwijde primeur in het vaststellen van uitgebreide regelgeving voor kunstmatige intelligentie. Net zoals de AVG de wereldwijde normen voor gegevensprivacy heeft hervormd, zal deze nieuwe wetgeving markten buiten de EU beïnvloeden en de lat hoger leggen voor het ontwikkelen en implementeren van AI-technologieën, waaronder cameraobservatiesystemen. Het doel is duidelijk: het bevorderen van “betrouwbare AI” die fundamentele rechten, veiligheid en ethische principes hoog houdt en tegelijkertijd risico’s beperkt.

Gebruikers van AI-aangedreven cameraobservatie, evenals systeemintegrators en leveranciers, moeten overwegen hoe de wet de vereisten voor naleving zal vormgeven en zich voorbereiden op de komende Cyber ​​Resilience Act (CRA). De CRA, die zich richt op het verbeteren van de cyberbeveiliging van verbonden apparaten, waaronder cameraobservatiesystemen, zal een cruciale stap zijn om ervoor te zorgen dat beveiligingstechnologieën voldoen aan de wettelijke en ethische normen.

Risicocategorisering in AI-cameraobservatie begrijpen

De EU AI Act classificeert AI-systemen in vier risicocategorieën: onaanvaardbaar, hoog, beperkt en minimaal risico. Elke categorie legt verschillende verplichtingen op met betrekking tot transparantie, verantwoording en naleving. Veel van de populairste Video Analytics functies, zoals bewegingsdetectie, mensen tellen en bezettingsbewaking, functioneren niet op biometrie. Ze blijven binnen de minimale of beperkte risicocategorieën. Deze systemen, die veel worden gebruikt in de detailhandel, horeca en industriële sectoren, zorgen voor veiligheid en operationele efficiëntie zonder dat biometrische identificatie nodig is.

Bij IDIS zijn onze door AI aangestuurde Video Analytics systemen, aangestuurd door deep learning-algoritmen, steeds geavanceerder en nauwkeuriger geworden, maar ze zijn ontworpen om binnen deze minimale risicocategorieën te werken. Zo leveren onze Edge AI camera’s, AI Box apparaten en videomanagementsystemen (VMS) geavanceerde analytics zonder inbreuk te maken op de privacy of de vereisten die gepaard gaan met systemen met een hoog risico.

Het verandert echter wanneer AI wordt gebruikt voor meer indringende doeleinden, zoals het identificeren van personen op basis van biometrische gegevens of het categoriseren op basis van ras, politieke mening of afgeleide emotionele toestanden. Deze toepassingen worden geclassificeerd als hoog of onaanvaardbaar risico, wat strenger toezicht vereist en mogelijk verboden is onder de EU AI Act.

Gezichtsherkenningstechnologie, die vaak wordt gebruikt door wetshandhaving, is een opvallend voorbeeld. Hoewel er enkele uitzonderingen bestaan ​​voor nationale veiligheids- en antiterrorismedoeleinden, zullen strenge regelgevingen gezichtsherkenning in de meeste openbare en privé-omgevingen waarschijnlijk beperken. Dergelijke technologieën moeten voorzichtig worden ingezet om naleving van AI-regelgeving en wetten inzake gegevensbescherming te garanderen.

Voorbereiding op de Cyber ​​Resilience Act: cyberbeveiliging als pijler van naleving

Parallel aan de EU AI Act zal de aankomende Cyber ​​Resilience Act verdere maatregelen introduceren om de cyberbeveiliging van verbonden apparaten te verbeteren, waaronder cameraobservatiesystemen. Bij IDIS hebben we al belangrijke stappen gezet om ons voor te bereiden op deze wetgeving, door sterke cyberbeveiligingsmaatregelen te integreren in ons productportfolio. We zetten ons in om ervoor te zorgen dat onze systemen voldoen aan de functionele vereisten van moderne observatie en een veilige en veerkrachtige verdediging bieden tegen evoluerende cyberdreigingen.

Ons cyberbeveiligingskader omvat encryptiestandaarden, veilige opstartprocessen en end-to-end gegevensbescherming om ongeautoriseerde toegang, datalekken en risico’s op systeemmanipulatie te beperken. Deze proactieve aanpak is in lijn met de Cyber ​​Resilience Act en bestaande wettelijke vereisten, zoals de Network and Information Security Directive (NIS2), en zorgt ervoor dat onze klanten onze oplossingen met vertrouwen kunnen implementeren.

Bovendien blijven we, als onderdeel van onze inspanningen om compliant en toekomstbestendig te blijven, nauw samenwerken met regelgevende instanties, onderhouden we technische documentatie en zorgen we ervoor dat onze systemen worden gebouwd met de hoogste beveiligingsnormen in gedachten. Ons doel is om onze klanten en integratiepartners te ondersteunen bij het navigeren door deze nieuwe juridische landschappen, terwijl we AI-gestuurde Video Analytics systemen implementeren die veilig, betrouwbaar en ethisch verantwoord zijn.

Impact op kritieke infrastructuur en omgevingen met een hoog risico

De AI Act zal ook een aanzienlijke impact hebben op Video Analytics in omgevingen met een hoog risico, zoals kritieke infrastructuur, wetshandhaving en openbare veiligheid. In omgevingen waar falen ernstige gevolgen kan hebben, zoals luchthavens, elektriciteitscentrales en belangrijke openbare evenementen, kan AI worden gecategoriseerd als hoog risico. Dit betekent dat gebruikers en systeemintegratoren die in deze sectoren actief zijn, ervoor moeten zorgen dat hun systemen voldoen aan de strenge nalevingsvereisten die in de wet zijn uiteengezet.

In omgevingen met kritieke infrastructuur brengt het potentieel voor AI-systeemfalen hogere inzetten met zich mee met betrekking tot beveiliging en openbare veiligheid. IDIS heeft een staat van dienst in het leveren van robuuste bewakingsoplossingen die zijn afgestemd op deze gevoelige omgevingen en we zullen prioriteit blijven geven aan beveiliging en naleving terwijl we onze AI-gestuurde Video Analytics verbeteren.

Toekomstbestendig door ethische en conforme technologie

Aangezien de AI Act samenvalt met de handhaving van AVG en cyberbeveiligingswetten zoals de Cyber ​​Resilience Act, is de toekomst van AI-gestuurde videobewaking er één waarin naleving en ethiek hand in hand gaan. Bij IDIS streven we ernaar om oplossingen te leveren die robuuste, betrouwbare analytics leveren en voldoen aan de hoogste privacy- en cyberbeveiligingsnormen.

Als verantwoordelijke leverancier zijn we klaar om onze klanten te helpen navigeren door deze nieuwe wettelijke kaders. We moedigen gebruikers en hun integratiepartners aan om de juiste vragen te stellen bij het selecteren van technologieën. Het is essentieel om samen te werken met fabrikanten die het veranderende regelgevingslandschap begrijpen, ethisch handelen en technologie aanbieden met ingebouwde compliance- en privacytools.

Hoewel sommige fabrikanten nog steeds worstelen met compliance (wat blijkt uit hun marketing van biometrische analyses en gezichtsherkenning), zijn gebruikers en systeemintegratoren verantwoordelijk voor het kiezen van producten die voldoen aan huidige en toekomstige vereisten. Bij IDIS blijven we onze oplossingen toekomstbestendig maken om ervoor te zorgen dat onze partners voorop blijven lopen bij deze ontwikkelingen en hen helpen Video Analytics te implementeren volgens ethische en wettelijke normen.

De EU AI Act en de aanstaande Cyber ​​Resilience Act vertegenwoordigen cruciale momenten voor AI-gestuurde Video Analytics en cameraobservatie. Hoewel deze regelgeving in eerste instantie uitdagend lijkt, bieden ze een kans om een ​​veiligere en ethischere toekomst voor bewakingstechnologie te creëren. Door zich aan te sluiten bij deze kaders, is IDIS voorbereid om innovatieve, veilige en conforme oplossingen te blijven leveren aan onze klanten in heel Europa en daarbuiten.

Zoals altijd blijven we ons inzetten om nauw samen te werken met onze partners en klanten, en de ondersteuning en expertise te bieden die nodig zijn om te gedijen in deze snel veranderende regelgeving.

Carlo Kuijer, directeur IDIS Nederland BV