Enterprise chatbot met Open AI: handige hulp bij groot zoekwerk

Na een inspirende sessie van Microsoft zagen we zoveel mogelijkheden op het gebied van Azure Open AI. En daarom hebben we met onze IT-partner InSpark de handen ineengeslagen.’

Laurens Piekaar | Service- en ICT-manager

Wanneer je veel tekst moet doorscrollen op zoek naar een juist antwoord – tekst die ook nog eens verspreid is over verschillende documenten, in allerlei mappen en structuren – dan is het fijn als iemand je een handje helpt. Die ‘iemand’ kan heel goed een enterprise chatbot zijn. Dankzij kunstmatige intelligentie kun je hem namelijk in gewoon Nederlands je vraag stellen. Voor onze klant Prominent zetten wij in een proof of concept zo’n enterprise chatbot neer, op basis van Azure Open AI. Het resultaat: medewerkers kunnen eenvoudig vragen stellen over personeelszaken, de chatbot geeft ze antwoord.

De vraag van Prominent: Azure Open AI inzetten voor je organisatie: kan dat veilig en compliant? En hoe doe je dat dan?

Ons expertteam was deze vraag al aan het onderzoeken, toen een van onze klanten – het Veluwse meubelbedrijf Prominent – ons om hulp vroeg. Ook zij waren met Azure Open AI aan de slag gegaan na een inspirerende sessie van Microsoft, vertelt Laurens Piekaar, service- en ICT-manager bij Prominent. ‘We zagen zoveel mogelijkheden. Zo bieden we onze klanten alle service en keuzes bij de configuratie van hun stoel of bank. Dat betekent ook veel handboeken en instructies die onze servicemonteurs – in de winkel of bij mensen thuis – snel moeten kunnen doornemen. In zo’n geval is een enterprise chatbot ideaal: servicemonteurs kunnen een gerichte vraag stellen over bijvoorbeeld passende poten of andere onderdelen, en hebben razendsnel het juiste antwoord. Dat scheelt veel zoekwerk door mappen en losse documenten, tijd die ze aan klanten kunnen besteden. Andere mogelijkheden zien we voor de klantbediening op de website, bij het inplannen van een winkelafspraak bijvoorbeeld of een bezoek van een servicemonteur. Veel mogelijkheden dus, maar waar te beginnen?’

Daarom Prominent voor InSpark: Open AI combineren met zoekmachine

Floris Berends, datascientist bij InSpark, vertelt waarom er voor het personeelshandboek gekozen is als onderwerp voor een proof of concept (PoC).  ‘Als medewerkers van Prominent willen opzoeken hoeveel verlofdagen ze mogen opnemen of hoe ze zich ziek kunnen melden, scheelt het veel tijd als ze die vraag aan de chatbot kunnen stellen. Het is een mooi afgebakend onderwerp, waarmee we in een PoC goed konden onderzoeken hoe je Open AI het beste kunt toepassen.’

Een enterprise chatbot gaat pas echt voor je werken als je meerdere producten van Azure combineert, gaat Floris verder. ‘Met alleen Azure Open AI inzetten ben je er nog niet – in een organisatieomgeving moet je het algoritme meer context geven. De publieke Open AI-toepassingen maken namelijk gebruik van de gigantische hoeveelheden data van het open internet. In een compactere, meer afgesloten organisatieomgeving met een veel beperktere dataset, zul je de data op een andere manier moeten organiseren. Het algoritme gaat namelijk, als het de gevraagde informatie niet vindt, zélf informatie creëren. Hallucineren, noem je dat ook wel. En dat wil je natuurlijk niet voor je personeelshandboek of andere kritische bedrijfsinformatie. Door er een zoekmachine bij neer te zetten op basis van Azure Cognitive Search, losten we dat op. Daarmee helpen we het algoritme met een geoptimaliseerde zoekindex op weg. Dit kan uiteindelijk nog beter met vector search: een techniek die het mogelijk maakt om semantisch

De aanpak van InSpark: succesvolle PoC

‘Omdat we zelf al onderzoek hadden gedaan en omdat het voor deze PoC nog niet om heel veel data ging, konden we de enterprise chatbot in een paar dagen realiseren,’ vertelt Floris. Laurens waardeerde die snelheid. ‘Dat al in een paar dagen een eerste goed werkende PoC stond, was voor ons een fantastisch begin. Je kunt hem een vraag stellen en je krijgt een antwoord! Het is mogelijk, het kan snel én het kan veilig. De variatie in bewoordingen is nog wel wat lastig. Dat we met telefoon en mobiel of met salaris en inkomen hetzelfde bedoelen bijvoorbeeld.’

Laurens: ‘Hoewel er dus nog veel te leren is, willen we er graag verder mee gaan. Zoals ik al zei: ideeën en mogelijkheden genoeg. De instructies en handboeken voor onze servicemonteurs bijvoorbeeld, of de informatie van onze IT-servicedesk. Het gaat ons namelijk veel tickets schelen als we via de chatbot makkelijk informatie kunnen ontsluiten over het toevoegen van een printer of het aanmaken van een teamskanaal. En die tijdswinst geldt eigenlijk voor alle informatie die nu nog verstopt zit in wordbestanden, excelsheets en pdf’s – het is zoveel makkelijker voor medewerkers wanneer ze alleen nog maar een vraag hoeven te stellen en ze een consistent antwoord krijgen, eventueel inclusief een verwijzing naar de plek waar het staat. Ik kan me goed voorstellen dat andere organisaties daar ook veel aan hebben.’

‘Hoewel er nog veel te leren is, willen we er graag verder mee gaan - ideeën en mogelijkheden genoeg.
Laurens Piekaar, service- en ICT-manager bij Prominent’

Over InSpark

Wij laten organisaties vooroplopen in de markt door hun digitale transformatie te versnellen. Met de juiste technologische intelligentie, innovatieve en schaalbare technologie creëren we alle ruimte voor je. Onze ruim 190 gedreven collega’s leveren Microsoft-expertise en ontwikkelen impactvolle oplossingen op het Microsoft-Cloud Platform. Met 13 Advanced Specializations, 16 Microsoft Gold statussen en de status van Azure Expert Managed Service Provider (MSP) – als één van de weinige in Nederland – zijn we dé Microsoft-partner.