De EU AI-wet. Hoe reguleert Europa het gebruik van kunstmatige intelligentie | AI in business #68

Wat is de AI-wet, en waarom is het belangrijk voor KMO’s (kleine en middelgrote ondernemingen)?

De AI-wet is de eerste regelgeving van zijn soort ter wereld. De eerste die kunstmatige intelligentie op een mensgerichte manier grondig aanpakt. Het doel is ervoor te zorgen dat AI-systemen die in Europa worden gebruikt veilig zijn en innovatie stimuleren, terwijl de fundamentele rechten worden gerespecteerd, met een speciale focus op:

• gezondheidszorg – bijvoorbeeld het respecteren van de privacy van patiëntgegevens,
• onderwijs – het naleven van waarden die door de Europese Unie worden bevorderd en het vermijden van discriminatie,
• grensbescherming – zorgen voor veiligheid zonder de rechten van burgers te schenden,
• publieke diensten – het volgen van best practices op het gebied van gegevensbescherming, het recht op informatie en duidelijke communicatie.

Voor KMO’s zal de AI-wet voornamelijk zorgen voor meer juridische zekerheid, aangezien deze duidelijk het kader voor innovatie definieert: de principes van het ontwerpen, ontwikkelen en toepassen van AI-systemen. Het zal het voor bedrijven gemakkelijker maken om te investeren in AI-gebaseerde oplossingen, waardoor juridische risico’s worden verminderd. Bovendien zullen regels die in de hele Unie van toepassing zijn, marktfragmentatie voorkomen.

Europese regelgeving over kunstmatige intelligentie werd op 9 december 2023 aangenomen door het Europees Parlement en de Raad van Europa. Nu moeten ze formeel door beide instellingen worden goedgekeurd om in werking te treden.

Belangrijke aspecten van de AI-wet voor bedrijven

De EU AI-wet introduceert een reeks vereisten voor AI-systemen, afhankelijk van het risiconiveau. Deze vereisten omvatten onder andere:

• de verplichting tot transparantie en het informeren van gebruikers in het geval van interacties met chatbots, biometrische systemen of emotieherkenningstechnologieën,
• verbod op het gebruik van gevoelige attributen voor biometrische categorisatie,
• verplichte conformiteitsbeoordeling vóór de markttoegang voor systemen met een hoog risico,
• verplichte registratie in de EU-database — nadat de AI-wet in werking treedt, moeten AI-systemen die in belangrijke sectoren zoals onderwijs, werkgelegenheid, gezondheidszorg en wetshandhaving worden gebruikt, geregistreerd worden.

Fabrikanten en bedrijven die AI-systemen gebruiken, zullen ook verplicht zijn om risico’s te monitoren na de introductie op de markt. Dit zal een directe impact hebben op bedrijven die AI-systemen ontwerpen en implementeren.

Risiconiveaus van AI-systemen volgens de EU AI-wet

De AI-wet classificeert AI-systemen in vier categorieën op basis van hun risiconiveau:

1. Onaanvaardbaar risico
2. Hoog risico
3. Beperkt risico
4. Minimaal risico

Laten we eens nader bekijken hoe elke groep zal worden gedefinieerd, samen met voorbeelden van systemen en hun classificaties.

Onaanvaardbaar risico

De Europese Unie legt een volledig verbod op het gebruik van technologieën die in de AI-wet zijn vermeld als systemen met onaanvaardbaar risico. Dit zijn voornamelijk systemen die zijn ontworpen om de kwetsbaarheid van individuen voor suggestie te exploiteren voor manipulatie of misleiding, systemen die kunstmatige intelligentie de mogelijkheid geven om beslissingen te nemen in cruciale zaken, en die kunnen leiden tot machtsmisbruik. Voorbeelden van AI met onaanvaardbaar risico zijn:

• autonome wapens die zonder menselijke supervisie opereren,
• systemen voor geloofwaardigheidsbeoordeling die door wetshandhavingsinstanties worden gebruikt,
• automatische identificatiesystemen van individuen in openbare ruimtes, zoals die op basis van camerabeelden,
• kunstmatige intelligentiesystemen die schadelijk kunnen zijn voor individuen met fysieke of mentale beperkingen,
• AI die voor wetshandhaving wordt gebruikt, met beperkte uitzonderingen,
• kunstmatige intelligentiesystemen die schadelijke “subliminale” en manipulerende technieken gebruiken.

Voor bedrijven is de laatste categorie bijzonder belangrijk. Daarom zal transparantie in de werking van systemen die suggesties aan gebruikers en klanten bieden cruciaal zijn voor de naleving van de nieuwe wetgeving van de Europese Unie.

Hoog risico

Kunstmatige intelligentie die als een hoog-risico AI-oplossing wordt geclassificeerd, moet voldoen aan strenge vereisten voordat deze op de markt komt. Dit omvat conformiteitsbeoordelingen en strenge tests voordat goedkeuring voor gebruik wordt verleend. Deze risicocategorie omvat acht gebieden, zoals:

• autonome voertuigen,
• medische diagnostische systemen,
• voorspellende algoritmen ter ondersteuning van het rechtssysteem,
• migratie- en asielbeheer, grenscontrole, evenals
• werkgelegenheid en personeelsbeheer.

Beperkt risico

Voor systemen met beperkt risico, die het meest worden gebruikt in het bedrijfsleven, hebben wetgevers gelukkig veel minder aandacht besteed. Deze categorie omvat:

• AI-chatbots – gebruikt voor klantenservice of het beantwoorden van veelgestelde vragen in de vorm van een vrijlopende conversatie,
• emotieherkenningssystemen – gebruikt, bijvoorbeeld, om gegevens te verzamelen over klantopinies over een bedrijf,
• biometrische categorisatiesystemen – zoals het beoordelen van het geslacht of de leeftijd van klanten in een fysieke winkel,
• beeld-, audio- of videogeneratie – ondanks de bedreiging die door deep fakes wordt gevormd, zal dit gebied onderworpen zijn aan een beperkte set verplichtingen.

Laag of minimaal risico

AI-oplossingen met een laag risico zijn niet onderworpen aan wettelijke regelgeving. De AI-wet zal alleen vermelden dat makers en gebruikers van dergelijke oplossingen vrijwillig gebruiksbeleid moeten vaststellen. Dit betreft oplossingen zoals:

• inhoudsaanbevelingssystemen in streamingdiensten, of
• chatbots op websites die reageren op typische klantvragen.

Welke vereisten stelt de AI-wet aan oplossingen die door mijn bedrijf worden gebruikt?

Om te controleren of de kunstmatige intelligentie die door een bedrijf wordt gebruikt, voldoet aan de AI-wet, moet je:

• het classificeren in een van de vier hierboven beschreven risicocategorieën,
• als het AI van hoog risico is, een conformiteitsbeoordeling uitvoeren,
• goede praktijken toepassen met betrekking tot laag-risico AI.

Laten we kijken naar voorbeelden van veelgebruikte AI-oplossingen door bedrijven. Aan welke vereisten moeten ze voldoen?

Een klantenservice-chatbot die basisinformatie over producten biedt of typische klantvragen beantwoordt, zal waarschijnlijk worden geclassificeerd als een minimaal-risicosysteem. Het zal moeten:

• gebruikers informeren dat ze met AI interageren,
• de optie bieden om te worden doorgeschakeld naar een menselijke consultant,
• zich houden aan algemene vereisten met betrekking tot transparantie, non-discriminatie, enz.

Een productaanbevelingssysteem in e-commerce zal waarschijnlijk worden beschouwd als een laag-risicosysteem. Het zal noodzakelijk zijn om klanten te informeren dat ze gepersonaliseerde aanbevelingen ontvangen en de optie te bieden om deze uit te schakelen.

Daarentegen zal een systeem voor automatische medische diagnostiek worden geclassificeerd als een hoog-risicosysteem. Het zal een rigoureuze beoordeling moeten ondergaan voordat het op de markt komt en moet worden gecontroleerd door een mens. Bovendien zal het noodzakelijk zijn om de werking ervan te monitoren en incidenten te rapporteren.

Het stedelijke criminaliteitspreventiesysteem zal ook als hoog-risico worden beschouwd. Het zal moeten voldoen aan de regelgeving inzake privacybescherming en andere fundamentele rechten. De werking ervan moet onder constante menselijke supervisie staan.

Het is onduidelijk in welke categorie AI-gebaseerde besluitvormingssystemen zullen vallen. Het is waarschijnlijk dat een AI-gebaseerd wervingssysteem dat zelfstandig aanstellingsbeslissingen neemt, zal worden beschouwd als een AI-oplossing met onaanvaardbaar risico. Aan de andere kant zou een wervingsondersteuningssysteem dat mensen helpt hun werk te doen, als een hoog-risico-oplossing worden beschouwd.

In het belang van het welzijn van de gebruikers, evenals mogelijke wijzigingen in classificaties, is het van groot belang om de constructie en het gebruik van AI-systemen vanaf het begin op een ethische en verantwoorde manier aan te pakken.

Wat zijn de gevolgen van het niet naleven van de AI-wet?

Het niet volgen van de AI-wet kan leiden tot aanzienlijke boetes voor bedrijven, variërend van €35 miljoen of 7% van de wereldwijde omzet voor grote ondernemingen tot €7,5 miljoen of 1,5% voor KMO’s. Onwettige AI-systemen kunnen van de markt worden gehaald, en hun gebruik kan worden beperkt.

Hoe je voorbereiden op de inwerkingtreding van de AI-wet?

Hoe bereid je een bedrijf dat kunstmatige intelligentie gebruikt voor de inwerkingtreding van de AI-wet in 2025? Hier zijn enkele tips over hoe KMO’s en startups zich op dit moment kunnen voorbereiden:

• op de hoogte blijven van de voortgang van het werk en de tijdlijn voor de implementatie van de regelgeving,
• AI-systemen die al in gebruik zijn evalueren en aanpassen aan de nieuwe vereisten,
• bijzondere aandacht besteden aan ethische aspecten bij het ontwerp van AI.

Samenvatting

De introductie van de AI-wet is een grote verandering voor het AI-ecosysteem in Europa. Met duidelijke en consistente regels belooft het echter de veilige en ethische ontwikkeling van deze technologie te waarborgen, wat vooral ten goede moet komen aan KMO’s en startups.

De AI-wet, die in 2025 in werking treedt, zal aanzienlijke veranderingen met zich meebrengen in hoe kleine en middelgrote ondernemingen (KMO’s) kunstmatige intelligentie kunnen benutten. Voor KMO’s betekent dit voornamelijk de noodzaak van zorgvuldige overweging en analyse van de AI-oplossingen die ze gebruiken, zowel wat betreft de naleving van regelgeving als de potentiële impact op klanten en de gemeenschap.

Voor kleine ondernemers en managers is het essentieel om te begrijpen hoe hun AI-systemen worden gecategoriseerd op basis van risico en welke acties nodig zijn om ze in overeenstemming te brengen met de aankomende regelgeving. Neem bijvoorbeeld AI-systemen die worden gebruikt in klantbeheer of marketing, die voorheen vrij werden gebruikt. Nu zullen ze een grondige analyse vereisen voor naleving van de AI-wet. Dit zou nieuwe kansen kunnen creëren voor bedrijven die gespecialiseerd zijn in juridische technologie, die KMO’s ondersteuning bieden bij het aanpassen aan deze nieuwe vereisten.

Als je onze inhoud leuk vindt, sluit je dan aan bij onze drukke bijengemeenschap op Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.