Bouw vertrouwen in industriële GenAI

Generatieve AI vindt snel zijn weg naar de industrie, van ondersteuning voor operatoren en geautomatiseerde rapportering tot forecasting en andere digitale toepassingen. Maar aantonen dat een AI-toepassing werkt, is slechts de eerste stap.

In een industriële omgeving moeten bedrijven ook weten wanneer ze op de output kunnen vertrouwen, welke risico’s ze moeten beheersen en welke voorzorgsmaatregelen nodig zijn. Samen met Sirris ontwikkelden we een praktische AI trustworthiness playbook die bedrijven helpt te bepalen welke maatregelen nodig zijn voor hun specifieke toepassing.

Betrouwbaarheid hangt af van de toepassing

Er bestaat geen universele definitie van een betrouwbare GenAI-toepassing die voor elke industriële use case werkt.

Een AI-assistent die een operator ondersteunt, stelt bijvoorbeeld andere eisen dan een toepassing die helpt bij het opstellen van administratieve documenten. Alle mogelijke voorzorgsmaatregelen toepassen op elke toepassing zorgt voor onnodige complexiteit. Een belangrijk risico over het hoofd zien, kan er dan weer toe leiden dat een toepassing niet geschikt is voor de omgeving waarin ze wordt ingezet.

Onze playbook benadert betrouwbaarheid daarom steeds binnen de context van de toepassing. We kijken naar negen aspecten van betrouwbaarheid en helpen teams te bepalen welke daarvan bijzondere aandacht vragen voor hun toepassing: nauwkeurigheid, veiligheid, compliance, betrouwbaarheid, robuustheid, verklaarbaarheid, transparantie, fairness en lage latency.

Een beslissingstabel helpt je om de omstandigheden van een use case te koppelen aan geschikte ontwerpstrategieën. Zo wordt het eenvoudiger om van een algemene discussie over betrouwbare AI naar concrete technische en organisatorische keuzes te gaan.

Om dit praktisch toepasbaar te maken, onderscheiden we vijf clusters van industriële use cases:

• digitale assistenten;
• anomaliedetectie;
• forecasting van tijdreeksen;
• administratieve ondersteuning;
• bestaande producten die met GenAI worden uitgebreid.

Uitgetest: GenAI-playbook voor operatorondersteuning

We pasten het trustwothiness playbook toe in de praktijk. Dat resulteerde in een multimodale GenAI-starterkit voor dynamische ondersteuning van operatoren op de werkvloer.

Operatoren werken in veranderende omgevingen waarin nuttige informatie uit verschillende bronnen kan komen. In tegenstelling tot chatbots voor consumenten moeten industriële assistenten informatie uit verschillende gestructureerde en ongestructureerde bronnen kunnen combineren. Denk aan handleidingen en onderhoudsprocedures, maar ook aan live sensordata en inspectiebeelden.

In plaats van de oplossing rond één AI-model te bouwen, gebruiken we een modelagnostische, agentgebaseerde architectuur. Daardoor kan de toepassing gemakkelijker worden aangepast wanneer modellen en vereisten evolueren.

De multimodale starterkit omvat onder meer:

Antwoorden baseren op gevalideerde informatie
Retrieval-Augmented Generation (RAG) verbindt de assistent met gevalideerde interne documentatie. Zo worden antwoorden gebaseerd op relevante bedrijfsinformatie en verkleint het risico op niet-onderbouwde antwoorden.

Visuele en talige informatie combineren
Vision-language-technologie maakt het mogelijk om visuele informatie uit de werkomgeving te interpreteren in combinatie met tekst en andere input. Dit kan bijvoorbeeld helpen om componenten te identificeren of informatie over hun locatie te geven.

AI-gedrag transparanter maken
Een specifieke trustworthiness-interface geeft inzicht in onder meer het gebruik van tools, opgehaalde documentfragmenten en verwerkingsstappen. Zo kunnen ingenieurs en gebruikers beter begrijpen hoe de toepassing tot een bepaalde output komt en deze evalueren vóór een bredere implementatie.

Verantwoorde implementatie

Generatieve AI biedt interessante mogelijkheden voor productiebedrijven, maar een succesvolle industriële implementatie vraagt meer dan de keuze voor een performant model.

We willen het besluitvormingsproces ondersteunen door:

• de vereisten rond betrouwbaarheid voor een specifieke use case te identificeren;
• tools aan te bieden om oplossingen in een gecontroleerde omgeving te testen;
• het gedrag en de beperkingen van een AI-toepassing gemakkelijker te kunnen beoordelen;
• teams te helpen om het gedrag, de sterke punten en de beperkingen van een AI-toepassing beter te begrijpen.

Generative AI offers useful opportunities for manufacturing, but successful industrial deployment requires more than selecting a capable model.