Veerkrachtige en conforme AI agenten

Uitdaging

Agentic AI-systemen doen in hoog tempo hun intrede in industriële softwareomgevingen, waar autonome agenten, vaak uit organisaties, samenwerken en beslissingen nemen in een systeem-van-systemen context. Hoewel dit krachtige nieuwe toepassingen mogelijk maakt, brengt het ook grote uitdagingen met zich mee op het gebied van veiligheid, beveiliging, schaalbaarheid en naleving van regelgeving. Bedrijven worstelen met het verifiëren en controleren van het gedrag van interacterende agenten, vooral in de context van de EU AI Act, die vereist dat AI-systemen veilig, transparant en traceerbaar zijn. De huidige tools en standaarden bieden geen systematische manier om correct gedrag van agenten in complexe multi-agent systemen te specificeren, te verifiëren en aan te tonen.

Doel van het project

Door middel van dit Strategisch Basis Onderzoeksproject (ORCA_SBO), willen we veerkrachtige, veilige en AI Act-compliant multi-agent systemen mogelijk maken door middel van een contract-gebaseerde aanpak. Het project ontwikkelt domeinspecifieke talen en geautomatiseerde tooling waarmee bedrijven formeel kunnen specificeren wat “veilig, beveiligd en correct” gedrag betekent voor agentische AI-systemen, en om dit gedrag te verifiëren voor en tijdens de implementatie.

Door minder afhankelijk te zijn van schaarse experts en grote delen van de verificatie van agenten te automatiseren, helpen we bedrijven om agentic AI sneller in te zetten, met meer vertrouwen op te schalen en de kosten en risico's van compliance te verlagen.