Wat Moeten Bedrijven Weten?

De technologische vooruitgang, met name op het gebied van kunstmatige intelligentie (AI), heeft de afgelopen jaren een ongekende groei doorgemaakt. Terwijl veel bedrijven AI in rap tempo integreren om concurrentievoordeel te behalen, is er tegelijkertijd ook veel te doen rondom de wetgeving en AI.

De EU AI Act

Op 17 februari 2024 trad de EU AI-wetgeving, ook bekend als de "Artificial Intelligence Act" (EU AI Act), in werking. Deze wetgeving, die al sinds april 2021 in ontwikkeling was, heeft als doel de ontwikkeling en toepassing van kunstmatige intelligentie in de Europese Unie te reguleren en te zorgen voor een veilige, betrouwbare en ethische toepassing van deze technologie.

De update van februari 2024 bracht geen ingrijpende wijzigingen aan de kernprincipes van de wet, maar verfijnde wel de uitvoering ervan. Zo werd de lijst van aangewezen "zeer grote onlineplatforms" en "zeer grote online zoekmachines" gepubliceerd, die aan strengere verplichtingen onderhevig zijn. Daarnaast publiceerde de Nederlandse Autoriteit Consument & Markt (ACM) een concept-leidraad om bedrijven te helpen bij de naleving van de wet.

De EU AI Act categoriseert kunstmatige intelligentie in verschillende risicoklassen, waarbij "onaanvaardbare risico's" zoals sociale manipulatie en massasurveillance verboden zijn. Voor hoog-risico-AI, zoals biometrische identificatie en kredietverlening, gelden strenge eisen op het gebied van transparantie, verantwoordingsplicht en risicobeheer.

Hoewel de precieze impact van de EU AI Act nog moet blijken, wordt verwacht dat deze wetgeving een behoorlijke invloed zal hebben op de ontwikkeling en toepassing van kunstmatige intelligentie in Europa. Bedrijven die AI ontwikkelen of gebruiken, moeten zich bewust zijn van de nieuwe regels en zich hieraan aanpassen om compliant te blijven.

Voorbereiding op de Toekomstige AI-Richtlijnen

De toekomst van veel bedrijven is sterk verweven met kunstmatige intelligentie. Terwijl de technologie zich blijft ontwikkelen, is het essentieel dat bedrijven niet alleen de voordelen ervan omarmen, maar ook de verantwoordelijkheid nemen voor het ethisch en wettelijk gebruik ervan.

De nieuwe AI-richtlijnen zullen een cruciale rol spelen in het gebruik van AI in het bedrijfsleven. Deze richtlijnen zullen focussen op:

1. Aansprakelijkheid: Bedrijven kunnen aansprakelijk worden gesteld voor schade die voortvloeit uit het gebruik van AI. Dit betekent dat bedrijven moeten zorgen voor robuuste systemen en processen om eventuele schade te voorkomen of te beperken.
2. Transparantie: Het is essentieel dat AI-systemen transparant zijn in hun werking, zodat gebruikers en belanghebbenden de besluitvormingsprocessen kunnen begrijpen.
3. Privacy: Met de integratie van AI in bedrijfsprocessen is de bescherming van persoonlijke gegevens van het grootste belang. Bedrijven moeten ervoor zorgen dat AI-systemen voldoen aan de privacywetgeving.
4. Ethiek: Naast wettelijke verplichtingen moeten bedrijven ook ethische overwegingen in acht nemen bij het gebruik van AI. Dit omvat het waarborgen van eerlijkheid, rechtvaardigheid en het voorkomen van discriminatie.

Stel nu alvast AI Beleid op

Voor bedrijven is het nu het moment om vooruit te denken en zich aan te passen aan deze richtlijnen. Dit betekent het ontwikkelen van een duidelijk AI-beleid dat aantoont dat ze de verantwoordelijkheid nemen voor hun AI-initiatieven. Een proactieve benadering nu kan bedrijven in de toekomst beschermen tegen mogelijke juridische en ethische valkuilen.

Bedrijven die nu de tijd nemen om zich voor te bereiden en een duidelijk beleid op te stellen, zullen straks beter gepositioneerd zijn om te profiteren van de voordelen van AI, terwijl ze ook voldoen aan de wettelijke en ethische normen.

De Huidige Stand van AI-Regulering in Europa

De Europese Unie heeft al vroeg het belang van AI-regulering ingezien. In 2020 presenteerde de Europese Commissie de 'European approach to artificial intelligence'. Het doel? Het bevorderen van de ontwikkeling en het gebruik van AI op een veilige en eerlijke manier. In 2021 werd het eerste voorstel voor de AI-verordening gepubliceerd, wat een primeur was in zijn soort. Hoewel het voorstel met lof werd ontvangen, waren er ook kritieken. Na uitgebreide discussies en aanpassingen is in mei 2023 het herziene voorstel gepresenteerd. De verwachting is dat de verordening tussen 2024 en 2026 gefaseerd in werking treedt.

Implicaties voor Bedrijven

De EU AI Act classificeert AI-systemen in vier risiconiveaus, variërend van minimaal tot onaanvaardbaar risico, met specifieke vereisten en gevolgen voor elk niveau:

1. Onaanvaardbaar risico: Dit niveau verbiedt AI-systemen die een duidelijke bedreiging vormen voor de menselijke veiligheid of rechten. Voorbeelden zijn speelgoed met spraakassistentie dat gevaarlijk gedrag promoot, sociale scoresystemen door overheden die kunnen leiden tot discriminatie, en real-time biometrische identificatiesystemen door wetshandhavingsinstanties in openbaar toegankelijke ruimtes​​​​.
2. Hoog risico: AI-systemen die een bedreiging kunnen vormen voor de menselijke veiligheid of fundamentele rechten, zoals systemen gebruikt in speelgoed, luchtvaart, auto's, medische apparaten, en liften. Dit omvat ook kritieke infrastructuren (zoals transportsystemen) en toepassingen in het onderwijs, de werkgelegenheid en het welzijn. Voordat een AI-systeem met hoog risico op de markt wordt gebracht of in dienst wordt genomen in de EU, moeten bedrijven een voorafgaande "conformiteitsbeoordeling" uitvoeren en aan een lange lijst van eisen voldoen om de veiligheid van het systeem te garanderen​​​​​​.
3. Beperkt risico: Deze categorie betreft AI-systemen die aan specifieke transparantieverplichtingen moeten voldoen, zoals het informeren van gebruikers dat ze met een machine interageren wanneer ze een chatbot gebruiken. Gebruikers moeten op de hoogte worden gebracht dat ze met een AI-systeem te maken hebben, tenzij dit duidelijk is vanuit de context​​​​.
4. Minimaal of geen risico: Dit niveau omvat AI-toepassingen zoals AI-gestuurde videogames of e-mail spamfilters, die niet onderworpen zijn aan nalevingsverplichtingen buiten de algemene vereisten. Het merendeel van de AI-systemen waarmee we vandaag interageren valt onder deze categorie​​​​.

De gevolgen voor bedrijven

Wat de gevolgen betreft, zullen systemen die als onaanvaardbaar risico worden beschouwd, strikt verboden zijn binnen de EU. AI-systemen met een hoog risico zullen aanzienlijke compliance-uitdagingen met zich meebrengen voor de aanbieders van die systemen, waaronder een risicobeheersysteem, nauwkeurigheid, robuustheid en cyberbeveiliging, gegevens- en datagovernance, menselijk toezicht, transparantie en informatievoorziening aan gebruikers, registratie en technische documentatie​​.

Bedrijven die AI-systemen met een beperkt of minimaal risico gebruiken, zullen over het algemeen minder strenge eisen hebben. Deze zullen vooral gericht zijn op transparantie en informatievoorziening. Maar ook voor systemen met een aanvaardbaar risico zijn een gedegen AI Beleid en een AI Roadmap essentieel.

Dit vereist een grondige voorbereiding, vergelijkbaar met de implementatie van de Algemene verordening gegevensbescherming (AVG).

Risico's en Aansprakelijkheid

Naast de regulering zijn er ook aansprakelijkheidskwesties. Bedrijven kunnen aansprakelijk worden gesteld voor schade die voortvloeit uit het gebruik van AI. Er zijn richtlijnen in de maak, zoals de Richtlijn AI-aansprakelijkheid en de Richtlijn Productaansprakelijkheid, die consumenten moeten beschermen en het makkelijker moeten maken om bedrijven aansprakelijk te stellen.

Ondersteuning bij het schrijven van AI-beleid door AIpersoneelstraining

Bij AIpersoneelstraining begrijpen we de complexiteit en nuances van het integreren van kunstmatige intelligentie binnen bedrijfsstructuren. In een tijdperk waarin AI steeds meer invloed krijgt op bedrijfsprocessen, is het van cruciaal belang dat organisaties beschikken over duidelijke en effectieve beleidslijnen. Wij zijn er ook om bedrijven te begeleiden bij het opstellen en implementeren van deze beleidslijnen met betrekking tot AI. Ons team van experts biedt op maat gemaakte oplossingen die niet alleen voldoen aan de huidige regelgevende eisen, maar ook anticiperen op toekomstige ontwikkelingen. Samen zorgen we ervoor dat uw organisatie op een ethische, verantwoorde en efficiënte manier gebruikmaakt van de voordelen van AI, terwijl risico's worden geminimaliseerd. Met deze aanpak bent u verzekerd van een solide en toekomstbestendig AI-beleid.

Conclusie

AI biedt bedrijven ongekende mogelijkheden, maar met de opkomende regulering komt ook verantwoordelijkheid. Bedrijven moeten proactief zijn, zich voorbereiden op de implementatie van de AI-verordening en een evenwicht vinden tussen innovatie en verantwoord gebruik. Om in de toekomst verstandig met AI om te gaan, dienen bedrijven nu al actie te ondernemen.

Wij helpen bedrijven met het opstellen van AI policies

Wij staan u graag bij. Na een vrijblijvend introductiegesprek doen wij een vrijblijvende scan om uw organisatie "AI future proof" te helpen maken.

Neem voor meer informatie contact met ons op via het contactformulier.

Wat is de EU AI Act?

De EU AI Act, die op 17 februari 2024 in werking trad, heeft als doel de ontwikkeling en toepassing van kunstmatige intelligentie binnen de Europese Unie te reguleren. Het doel is om een veilige, betrouwbare en ethische toepassing van AI-technologie te waarborgen. De wetgeving categoriseert AI in verschillende risicoklassen en stelt specifieke regels voor elk om onaanvaardbare risico's zoals sociale manipulatie en massasurveillance te voorkomen.

Hoe beïnvloedt de EU AI Act bedrijven?

Bedrijven die AI ontwikkelen of gebruiken, moeten zich aan de nieuwe regels aanpassen om compliant te blijven. Dit omvat het aanpassen aan richtlijnen op het gebied van aansprakelijkheid, transparantie, privacy en ethiek. Toepassingen van AI met een hoog risico, zoals biometrische identificatie en kredietverlening, worden geconfronteerd met strenge eisen op het gebied van transparantie, verantwoordingsplicht en risicobeheer.

Wat zijn de implicaties van AI-systemen geclassificeerd onder de EU AI Act?

De EU AI Act classificeert AI-systemen in vier risiconiveaus, variërend van minimaal tot onaanvaardbaar risico, met specifieke vereisten voor elk niveau. Systemen die onaanvaardbare risico's vormen, zijn strikt verboden, terwijl systemen met een hoog risico aanzienlijke nalevingsuitdagingen zullen ondervinden. Systemen met beperkt risico moeten aan transparantieverplichtingen voldoen, en toepassingen met minimaal of geen risico worden geconfronteerd met de minst strenge vereisten.

Hoe kunnen bedrijven zich voorbereiden op de toekomstige AI-richtlijnen?

Bedrijven moeten een duidelijk AI-beleid ontwikkelen dat verantwoordelijkheid toont voor hun AI-initiatieven en voldoet aan juridische en ethische normen. Een proactieve aanpak kan bedrijven nu beschermen tegen mogelijke juridische en ethische valkuilen in de toekomst.

Welke ondersteuning biedt AIpersoneelstraining aan bedrijven bij het formuleren van AI-beleid?

AIpersoneelstraining biedt begeleiding aan organisaties over het verantwoord integreren van kunstmatige intelligentie binnen hun bedrijfsstructuren. Het team biedt op maat gemaakte oplossingen die voldoen aan de huidige regelgevende vereisten en anticiperen op toekomstige ontwikkelingen, om te zorgen dat organisaties op een ethische, verantwoordelijke en efficiënte manier gebruikmaken van AI.

Conclusie: Waarom is het belangrijk voor bedrijven om nu te handelen?

Met de opkomende regelgeving hebben bedrijven de verantwoordelijkheid om proactief te zijn, zich voor te bereiden op de implementatie van de AI-regelgeving en een evenwicht te vinden tussen innovatie en verantwoord gebruik. Het is cruciaal voor bedrijven om nu actie te ondernemen om wijs met AI om te gaan in de toekomst.