TNO zet generatieve AI en AI-agents in om de interne bedrijfsvoering te ondersteunen. Hiervoor richt TNO binnen Microsoft Azure een centraal GenAI-platform in. Dit platform biedt onder meer centrale toegang tot taalmodellen, hosting van agents, guardrails en monitoring. Nieuwe AI-toepassingen worden op dit platform gebouwd.
...
De eerste toepassing binnen deze opdracht is een helpdesk-agent. Deze agent handelt vragen van gebruikers af en haalt, afhankelijk van de vraag, informatie op of roept specialistische agents en achterliggende systemen aan. Na deze eerste toepassing volgen vergelijkbare AI-toepassingen voor andere onderdelen van de bedrijfsvoering.
Opdracht
De opdrachtnemer ontwerpt, bouwt, test en documenteert een werkende agentic AI-oplossing op basis van Microsoft Foundry, op het TNO GenAI-platform. De opdracht is uitvoerend van aard: het resultaat is werkende, geteste en gedocumenteerde software.
De aanpak is om klein te starten met de helpdesk-toepassing, daarvan te leren en de opgedane patronen en bouwstenen via het GenAI-platform herbruikbaar te maken voor volgende AI-toepassingen.
Resultaten
- Een werkende proof of concept (PoC) van de helpdesk-agent, die als basis dient voor verdere opschaling.
- Een centrale agent die vragen interpreteert en waar nodig specialistische agents of tools inschakelt, gebouwd met een agent framework, inclusief state management en persistente opslag.
- Koppelingen met bestaande systemen via REST API's en ontsluiting van aanvullende data uit een database.
- Een architectuur waarin API's en tools in een volgende fase via MCP (Model Context Protocol) ontsloten kunnen worden. Herbruikbare onderdelen, zoals MCP-servers en koppelingen, worden opgeleverd als bouwsteen van het GenAI-platform.
- Authenticatie en autorisatie via Microsoft Entra ID, passend binnen de enterprise Azure-omgeving. Agent haalt gegevens op op data waar gebruiker rechten toe heeft.
- Logging en monitoring van de werking van de agents via de monitoring van het GenAI-platform.
- Evaluatiesets en succescriteria, waarmee de kwaliteit van de antwoorden bij elke wijziging wordt gemeten.
- Een afgebakende scope en concrete functionele eisen, opgesteld op basis van de behoeften van de interne opdrachtgever.
- Technische documentatie en kennisoverdracht, zodat TNO de oplossing kan beheren en de patronen kan hergebruiken.
- Kaders
- De oplossing wordt gebouwd op het TNO GenAI-platform en volgt de platformkaders en de onboarding-documentatie van het platform.
- Taalmodellen worden gebruikt via het platform, niet via een eigen omgeving.
- De agent gebruikt de beveiligingsfilters (guardrails) van het platform en gaat met gegevens om volgens de AVG en het TNO-beveiligingsbeleid.
- Belangrijke technische keuzes worden afgestemd met het platformteam, en vóór livegang volgt een architectuurcheck.
- Ontwikkeling volgens de TNO Software Excellence-richtlijnen: versiebeheer, CI/CD en code reviews.
- Secure coding: geen gevoelige gegevens, wachtwoorden of sleutels in de code of de repository.