De opkomst van kunstmatige intelligentie (AI) biedt ongekende mogelijkheden voor innovatie, productiviteit en groei in uiteenlopende sectoren, van gezondheidszorg tot financiën en transport. Echter, deze technologische vooruitgang brengt ook risico’s met zich mee, zoals inbreuken op privacy, discriminatie, machtsmisbruik en nog meer schade aan fundamentele mensenrechten. Om dergelijke risico’s te beperken en tegelijkertijd het potentieel van AI optimaal te benutten, heeft de Europese Unie (EU) de AI-Verordening geïntroduceerd. In deze whitepaper leest u kort wat de AI-verordening is, wanneer deze impact op uw organisatie heeft en welke ondersteuning wij bieden. DiVetro werkt samen met Het ConsultancyHuis en De Clercq Advocaten, zodat alle benodigde expertise is geborgd.

De AI-Verordening

De AI-Verordening is ontworpen om AI-systemen binnen de EU te reguleren en een kader te bieden voor veilige, ethische en betrouwbare AI-toepassingen. Dit document geeft een overzicht van de doelstellingen, verplichtingen en stappen die organisaties moeten ondernemen om te voldoen aan deze nieuwe wetgeving. De AI-verordening is per 1 augustus 2024 in werking getreden. De kern van de AI-Verordening is het risico gebaseerde regelgevingssysteem, waarbij AI-systemen worden onderverdeeld in vier risicocategorieën: onaanvaardbaar risico, hoog risico, beperkt risico en minimaal risico.

Onaanvaardbaar risico: AI-systemen die een directe bedreiging vormen voor fundamentele rechten en veiligheid worden verboden. Voorbeelden hiervan zijn sociale scoring en bepaalde vormen van biometrische herkenning.

Hoog risico: Systemen die onder deze categorie vallen moeten voldoen aan strikte eisen, zoals risicobeheer, datakwaliteit, transparantie en menselijk toezicht. Dit geldt bijvoorbeeld voor AI-systemen in de gezondheidszorg en rechtshandhaving.

Beperkt risico: Deze systemen hebben minder strenge verplichtingen, maar moeten wel transparantie bieden, bijvoorbeeld door duidelijk te maken dat de gebruiker met een AI-systeem te maken heeft. Voorbeelden zijn chatbots of AI-systemen die automatisch tekst genereren. De gebruiker moet bijvoorbeeld op de hoogte worden gesteld dat hij met een AI-systeem te maken heeft.

Minimaal risico: Voor minimaal risicosystemen gelden geen specifieke wettelijke verplichtingen onder de AI-Verordening, aangezien deze systemen nauwelijks risico’s met zich meebrengen voor de rechten en vrijheden van individuen. Voorbeelden zijn AI-systemen in videogames of spamfilters.

Implementatie van de AI-verordening: stappenplan

Onderstaand overzicht van de Autoriteit Persoonsgegevens geeft aan wanneer wat in werking treedt.

Wanneer treedt wat in werking? – Autoriteit Persoonsgegevens

Om ervoor te zorgen dat AI-systemen binnen de kaders van de AI-Verordening functioneren, moeten organisaties een routekaart voor implementatie volgen in vijf stappen.

Stap 1: Training en Bewustwording

Organisaties moeten ervoor zorgen dat al hun medewerkers, van ontwikkelaars tot juridische teams, goed zijn opgeleid in de eisen van de AI-Verordening. Trainingen moeten gericht zijn op het verhogen van bewustwording van de risico’s en verantwoordelijkheden die gepaard gaan met AI-toepassingen. Het zorgen voor zogenoemde AI-geletterdheid is een eerste vereiste en basisvoorwaarde. Het bevorderen van AI-geletterdheid binnen organisaties is een sleutelelement van de AI-Verordening.

Stap 2: Inventarisatie van AI-Systemen

Het is van cruciaal belang dat organisaties alle AI-systemen die zij gebruiken, inventariseren. Dit omvat het identificeren van welke systemen onder de AI-Verordening vallen en het classificeren van deze systemen op basis van het risiconiveau.

Stap 3: Risicobeoordeling

Voor elk AI-systeem moet een grondige risicobeoordeling worden uitgevoerd. Dit houdt in dat organisaties de potentiële impact op veiligheid en fundamentele rechten evalueren en waar nodig risico’s beperken.

Stap 4: Beleidsontwikkeling en Governance

Vanaf augustus 2026 begint het toezicht op de naleving van de AI-Verordening door Europese en nationale toezichthouders. Organisaties moeten tegen die tijd hun governancestructuur en nalevingsprocessen op orde hebben. De NPR3414-norm (Nederlandse Praktijk Richtlijn) stelt de mens centraal in het IT-landschap en biedt richtlijnen voor risicomanagement en kwaliteitsborging waaronder AI-systemen en kan organisaties helpen om de vereiste transparantie en verantwoording te implementeren.

Stap 5: Monitoring en Evaluatie

Om naleving op lange termijn te garanderen, moeten organisaties een systeem opzetten voor voortdurende monitoring en evaluatie van hun AI-systemen. Dit omvat regelmatige audits en updates van beleid om ervoor te zorgen dat de systemen blijven voldoen aan de eisen van de AI-Verordening.

Beschaafd Digitaliseren als ethische benadering

Het concept van beschaafd digitaliseren stelt dat technologische vooruitgang hand in hand moet gaan met morele verantwoordelijkheid. Dit is cruciaal in een tijd waarin technologie zoals AI kan worden gebruikt voor manipulatie, discriminatie en privacy schendingen. In het boek Beschaafd Digitaliseren, geschreven door professionals van de KNVI en de Universiteit van Tilburg, wordt gepleit voor een ontwerpbenadering waarbij technologie wordt ontwikkeld op basis van humanity by design. Dit houdt in dat technologische innovaties zoals AI moeten worden ontworpen met respect voor menselijke waarden en ethiek. Dit sluit nauw aan bij de eisen van de AI-Verordening, die een robuust juridisch en ethisch kader biedt voor AI-gebaseerde innovaties. Met het concept beschaafd digitaliseren kunnen ook traditionele systemen waarin geen AI wordt ingezet voldoen aan de hoogste maatstaven van menswaardige inzet van digitalisering.

Wat we bieden

DiVetro, het ConsultancyHuis en De Clercq Advocaten bundelen hoogwaardige expertise om organisaties optimaal te ondersteunen met het voldoen aan de AI-verordening. We hebben gezamenlijke dienstverlening ontwikkeld waarmee de juridische, ethische, technische en beleidsaspecten van de AI-verordening zijn afgedekt. Deze uitgekiende en complete dienstverlening helpt organisaties razendsnel met het opbouwen van AI-geletterdheid en het opzetten en inrichten van beleid dat voldoet aan de hoogste normen van beschaafde digitalisering en de wettelijke en ethische kaders van de AI-verordening.

Trainingen en opleiding

We bieden compacte en complete trainingen om de AI-geletterdheid van uw organisatie te vergroten.

1. Een basistraining (introductie) over de AI-verordening behandelt de doelstellingen, risicocategorieën, verplichtingen voor ontwikkelaars en gebruikers, bescherming van fundamentele rechten, en toezicht en handhaving. Het doel is om deelnemers voor te bereiden op de implementatie en naleving van de verordening in hun organisaties.
2. Voor managers, leidinggevenden en (AI) compliance officers is het vooral belangrijk om te weten hoe de verordening de veiligheid en ethiek van AI-systemen waarborgt. Ze moeten begrijpen welke verantwoordelijkheden hun organisatie heeft bij het ontwikkelen en inzetten van AI en hoe ze kunnen zorgen voor naleving van de regels. Daarnaast is het cruciaal om op de hoogte te zijn van de risicocategorieën en de bijbehorende verplichtingen, zodat ze strategische beslissingen kunnen nemen over de implementatie van AI binnen hun organisatie.
3. Voor informatie- en IT-professionals is het vooral belangrijk om te weten welke risicocategorieën er zijn en welke verplichtingen daarbij horen. Ze moeten begrijpen hoe ze AI-systemen kunnen ontwikkelen die voldoen aan de eisen voor risicobeheer, datakwaliteit, technische documentatie, transparantie en menselijk toezicht. Daarnaast moeten ze op de hoogte zijn van de verboden AI-systemen en de strenge eisen voor hoog-risico AI-systemen, zoals het verkrijgen van keurmerken en het uitvoeren van grondrechten effectbeoordelingen.
4. Voor juristen is het vooral belangrijk om te weten hoe de verordening zich verhoudt tot bestaande wet- en regelgeving en welke juridische verplichtingen er zijn voor organisaties die AI-systemen ontwikkelen of gebruiken. Ze moeten inzicht hebben in de transparantie- en veiligheidsvereisten, en hoe deze de rechten van betrokkenen beschermen. Daarnaast is kennis van de risicobeoordelingen en de juridische implicaties van het gebruik van AI-systemen essentieel. Juristen moeten ook op de hoogte zijn van de sancties bij niet-naleving en de procedures voor toezicht en handhaving.
5. Agile-methodologieën zijn uitstekend voor het bevorderen van flexibiliteit en snelle iteraties in softwareontwikkeling, maar ze bieden vaak onvoldoende richtlijnen voor het omgaan met de dynamiek en vluchtigheid van data. Een datacentrische benadering is nodig om deze tekortkomingen te compenseren voor het waarborgen van de kwaliteit en integriteit van data, wat cruciaal is voor het nemen van geïnformeerde beslissingen en het ontwikkelen van effectieve AI-oplossingen.
6. Prompt engineering voor niet-techneuten leert om gebruikers van generatieve AI om de juiste vragen te stellen en input te geven. Prompt engineering is een van de noodzakelijke digitale vaardigheden om betere resultaten te behalen bij het gebruik van AI-toepassingen gebaseerd op ChatGPT-achtige technieken.

Impactanalyses en inrichten beleid

Naast kwalitatief hoogwaardige training gebruiken we instrumenten zoals de assessmentlijst voor betrouwbare AI als effectief hulpmiddel voor het inventariseren van AI-toepassingen omdat het een systematische beoordeling mogelijk maakt van de betrouwbaarheid, ethiek en veiligheid van AI-systemen.

Onze aanpak helpt organisaties bij het identificeren en classificeren van risicovolle AI-toepassingen volgens de categorieën van de Europese AI-Verordening, waardoor ze snel kunnen bepalen welke systemen extra controle vereisen. Daarnaast bevordert dit transparantie en verantwoording door te zorgen dat AI-systemen uitlegbaar zijn en op ethische wijze functioneren, met inachtneming van fundamentele rechten zoals privacy en non-discriminatie. Verder helpt deze aanpak organisaties in het verbeteren van datamanagement en veiligheid door inzicht te bieden in zwakke punten, wat cruciaal is om bias en andere problemen in AI-besluitvorming te voorkomen.

Door AI-systemen vooraf te toetsen met de assessment lijst, worden risico’s op niet-naleving van de AI-Verordening geminimaliseerd en is de organisatie beter voorbereid op externe audits. Het gestructureerde karakter van de lijst maakt het tot een krachtig instrument om compliance en ethisch verantwoord AI-gebruik te waarborgen.

Samenvatting

De Europese AI-Verordening biedt een juridisch en ethisch kader voor de ontwikkeling van veilige, transparante en betrouwbare AI-toepassingen. Het is van cruciaal belang dat organisaties zich nu voorbereiden op de naleving van deze regelgeving door:

• Investeringen te doen in AI-geletterdheid door middel van trainingen en opleiding.
• Een grondige inventarisatie en risicobeoordeling van hun AI-systemen uit te voeren.
• Beleid en procedures te ontwikkelen die voldoen aan de eisen van de verordening.
• Governance processen te implementeren die gericht zijn op transparantie en verantwoording.

Door proactief te handelen, kunnen organisaties niet alleen voldoen aan de wettelijke eisen, maar ook bijdragen aan een veilige en ethische digitale toekomst. Dit whitepaper biedt een compact overzicht van de AI-Verordening en de stappen die organisaties kunnen nemen om compliant te zijn met deze nieuwe regelgeving. Tevens biedt deze aanpak een leidraad voor organisaties om te komen tot beschaafde digitalisering, ook voor traditionele toepassingen waarbij geen gebruik van AI wordt gemaakt.

Neem onderaan deze pagina contact met ons op over de genoemde dienstverlening.

Over ons