AI en machineveiligheid: wat verandert er met de nieuwe wet?

Een belangrijke stap vooruit — maar tegelijk een complex vraagstuk:
👉 Wanneer is software een veiligheidscomponent, en wanneer is het gewoon een operationeel hulpmiddel?
👉 En hoe beoordeel je dat correct in het kader van CE-markering?

AI en machineveiligheid: wat verandert er met de nieuwe wet?

De nieuwe verordening verruimt het begrip ‘veiligheidscomponent’

De machineverordening 2023/1230 breidt de klassieke definitie van een veiligheidscomponent fors uit.
Niet enkel fysieke onderdelen zoals lichtschermen of noodstops vallen eronder, maar ook zelfstandige software die veiligheidsfuncties uitvoert.

“Software die ingrijpt bij een gevaarlijke situatie, of een AI-algoritme dat afwijkend gedrag herkent en een machine automatisch stillegt — dat zijn vandaag volwaardige veiligheidscomponenten.”
— Niels Ongkowidjojo, medeoprichter van SafetyPilots

Dat betekent ook dat deze software aan dezelfde eisen moet voldoen als traditionele veiligheidscomponenten:

• Betrouwbaarheid en voorspelbaarheid van het gedrag
• Traceerbare validatie van de functionaliteit
• Documentatie en onderhoudbaarheid over de volledige levensduur van de machine

Met andere woorden: software krijgt een plaats in de veiligheidsketen, mét bijbehorende verantwoordelijkheid.

Het grijze gebied van operationele software

Maar er is ook een keerzijde.
Software en AI worden vandaag steeds vaker ingezet voor operationele doeleinden: denk aan optimalisatie, adaptieve besturing, onderhoudsvoorspelling of energie-efficiëntie.
Dat zijn toepassingen die onder de normale werking vallen — ze zijn niet bedoeld als veiligheidsmaatregel.

Toch wordt de grens tussen veiligheid en functionaliteit steeds vager.

“Een AI-systeem dat bedoeld is om de efficiëntie te verhogen, kan onbedoeld ook veiligheidsbeslissingen nemen,” waarschuwt Ongkowidjojo.

Een klassiek voorbeeld:
Een AI-module past de snelheid van een robotarm automatisch aan op basis van de omgeving.
Klinkt efficiënt — maar als dat gedrag invloed heeft op het risico voor de operator, wordt het plots ook een veiligheidsvraagstuk.

Daarom moet de fabrikant kunnen aantonen dat:

• De veiligheidsfunctie strikt gescheiden is van de operationele logica
• Er fail-safe mechanismen bestaan bij een fout of falen van de AI
• De risicobeoordeling expliciet rekening houdt met het gedrag van de software

AI vraagt om een nieuwe veiligheidsreflex

De kernboodschap?
Met de komst van de machineverordening wordt AI niet langer een black box, maar een actieve speler in de veiligheidsanalyse.
Dat vraagt om nieuwe kennis, nieuwe tools én een kritische houding bij ontwerp, validatie en CE-markering.

“Software is niet zomaar code,” besluit Ongkowidjojo.
“Ze kan levens beïnvloeden. Daarom moeten we ze beoordelen met hetzelfde veiligheidsdenken dat we altijd al toepasten op fysieke componenten.”