Runtime veiligheidswaarborging van AI-modellen in de industrie
Deadline
Uitdaging
Bedrijven moeten tijdens de hele levenscyclus van hun industriële systemen een continue systeemveiligheid garanderen. Omdat AI-technieken steeds vaker worden gebruikt voor waarneming, navigatie en besturingsfunctionaliteit in industriële cyberfysieke systemen, zullen OEM's en integrators van industriële cyberfysieke mechatronische systemen worden gestimuleerd om de algehele systeemveiligheid te garanderen, inclusief de betreffende AI-modellen.
Terwijl conventionele technische veiligheidsnormen beschikbaar zijn om de veiligheid van mechanische of elektronische systemen te garanderen, zijn deze niet direct van toepassing op het ontwerp van algoritmen voor machinaal leren, vanwege de datagestuurde aanpak waarmee het model wordt geconstrueerd. Bedrijven hebben methoden en hulpmiddelen nodig om hen te ondersteunen bij de ontwikkeling en verificatie van de veiligheid van op AI gebaseerde industriële cyberfysieke systemen.
Doel van het project
Het doel van dit project is het ontwikkelen van een raamwerk en een toolkit voor het specificeren en testen van de veiligheid van AI-modellen in industriële veiligheidskritische systemen, inclusief:
- Methoden en hulpmiddelen voor de technische veiligheidsspecificatie en analyse van het AI-model;
- Robuustheidsstrategieën voor het ontwerp, de selectie en training van modelarchitecturen, en;
- Technieken om veiligheid te meten en te monitoren.
Interesse om deel te nemen?
SAIfety_SBO is een Strategisch Basis Onderzoek (SBO) project. Wij zijn op zoek naar bedrijven die lid willen worden van de Gebruikersgroep en met ons willen werken aan de valorisatie van het project.
Interesse? Vul onderstaand formulier in en wij nemen zo spoedig mogelijk contact met u op.
