AI Act update

Redactionele noot
Voor de in dit artikel genoemde verplichtingen voor hoog-risico AI-systemen geldt op grond van de Digital Omnibus een aangepaste implementatietijdlijn. Deze verplichtingen gelden vanaf 2 december 2027 respectievelijk 2 augustus 2028. De overige onderdelen van dit artikel blijven ongewijzigd.

Sparren over de AI Act verplichtingen en te ondernemen stappen voor uw organisatie?
Vraag een vrijblijvend gesprek aan

Voor aanbieders van zogenoemde general purpose AI-modellen (GPAI), modellen die niet voor één specifiek doel zijn gebouwd maar breed inzetbaar zijn, zoals grote taalmodellen, gelden sinds augustus 2025 aparte regels. Nu, vanaf 2 augustus 2026, wijzigen de bijbehorende verplichtingen. Het is daarom essentieel voor organisaties om hun AI-gebruik in kaart te brengen en hun processen af te stemmen op de verplichtingen van de AI Act. [verplaatst naar 2 december 2027 voor hoog-risico AI-systemen]

Basisregels sinds 2025

Aanbieders (dat wil zeggen: partijen die een GPAI-model ontwikkelen of laten ontwikkelen en op de markt brengen), moeten technische documentatie bijhouden, afnemers informeren over mogelijkheden en beperkingen van het model, het Europese auteursrecht respecteren en informatie verstrekken over de gebruikte trainingsdata. Voor modellen met systeemrisico (modellen waarvan de cumulatieve rekenkracht bij de training een bepaalde drempelwaarde overschrijdt en die daardoor grootschalige risico’s kunnen meebrengen), gelden zwaardere eisen: evaluaties, stresstests, incidentmelding en verplichte cybersecuritymaatregelen.

Lees hier meer over de beginselen van de AI Act.

Wat verandert er?

Vanaf 2 augustus 2026 gelden nieuwe verplichtingen voor met name hoog-risico AI-systemen. [verplaatst naar 2 december 2027 voor hoog-risico AI-systemen]

Hoog-risico
Een AI-systeem kan op twee manieren als hoog-risico worden aangemerkt:

1. Wanneer het wordt gebruikt binnen een van de gebruiksgebieden die de AI Act expliciet aanwijst, zoals biometrie, kritieke infrastructuur, onderwijs, werkgelegenheid, essentiële publieke en private diensten, rechtshandhaving, migratie en rechtspraak.
2. Wanneer AI onderdeel uitmaakt van bepaalde producten waarvoor op grond van bestaande Europese productwetgeving al een conformiteitsbeoordeling vereist is, zoals medische hulpmiddelen, voertuigen, machines en speelgoed.

Voor aanbieders van hoog-risico AI-systemen gelden onder meer verplichtingen op het gebied van risicomanagement, technische documentatie, databeheer, menselijk toezicht en waarborgen voor nauwkeurigheid, betrouwbaarheid en cybersecurity. Gebruikers moeten het systeem inzetten overeenkomstig de instructies van de aanbieder, de kwaliteit van invoerdata bewaken en het systeem monitoren.

Bij bepaalde toepassingen, waaronder kredietbeoordeling, risicotaxatie voor verzekeringen en bepaalde vormen van publieke dienstverlening, moet voorafgaand aan het gebruik een beoordeling van de impact op grondrechten worden uitgevoerd.

Beperkt risico: transparantie
Voor AI-systemen met een beperkt risico gelden transparantieverplichtingen, waaronder de verplichting om duidelijk te maken wanneer iemand met AI communiceert of wanneer content door AI is gegenereerd of gemanipuleerd. Denk bijvoorbeeld aan deepfakes.

Wat betekent dit voor uw organisatie?

De komende periode biedt organisaties de gelegenheid om hun AI-gebruik in kaart te brengen, de toepasselijke risicocategorieën vast te stellen en te beoordelen of bestaande processen en contractuele afspraken aansluiten op de verplichtingen van de AI Act.

Neem contact op

Halsten helpt u bij het in kaart brengen van uw verplichtingen, het beoordelen van risico’s en contracten, en het inrichten van de juiste interne afspraken. Neem gerust contact op met ons team om de mogelijkheden te bespreken. Onze experts helpen u graag verder:

Andrea Cuijpers
andrea.cuijpers@halsten.nl

Allard Koers
allard.koers@halsten.nl

Linde Lotte van de Ven
lindelotte.vandeven@halsten.nl

Céline Teeuwen
celine.teeuwen@halsten.nl

Roel Hakvoort
roel.hakvoort@halsten.nl