De ene AI is de andere niet... Gem versus ChatGPT!

Voorgedefinieerde of gegenereerde antwoorden op je vraag

GPT staat voor ‘Generative Pre-trained Transformer’. Met ‘Generative’ wordt bedoeld dat GPT in staat is om nieuwe tekst te genereren op basis van de input die het heeft gekregen. Het kan dus zinnen, paragrafen of zelfs volledige artikelen en verhalen produceren, die lijken te zijn geschreven door een mens. ChatGPT kan zelfs programmacode schrijven. Gem daarentegen genereert zelf geen antwoorden; redacteuren hebben de volledige controle over de antwoorden die gegeven worden. Voor de gemeente is dit juist fijn; het is niet de bedoeling dat Gem zelf (mogelijk foute) teksten en antwoorden over de gemeentedienstverlening gaat verzinnen. Doordat je als gemeente zelf de antwoorden opstelt weet je altijd zeker wat Gem zal antwoorden.

Data waarop getraind is

ChatGPT is getraind op een enorme hoeveelheid data: websites, nieuwsberichten, publicaties, boeken, tijdschriften en nog vele andere bronnen op het internet. Hierbij lopen opinies, fictie en feiten door elkaar heen. Daardoor weet ChatGPT heel erg goed hoe menselijke tekst gegenereerd moet worden, maar niet of datgene wat gegenereerd wordt ook daadwerkelijk klopt. Er is namelijk geen bronvermelding. Gem daarentegen is getraind op (geanonimiseerde) vragen van onze inwoners en kan daardoor de vraag van de inwoner goed interpreteren en beantwoorden. Gem zoekt uit welke vraag de inwoner stelt en welke relevante gegevens worden meegegeven, dit gebeurt door kunstmatige intelligentie (AI). Op basis van de ontworpen dialogen geeft Gem het antwoord passend bij de vraag, hier komt geen kunstmatige intelligentie aan te pas om te voorkomen dat Gem zelf na gaat denken welk antwoord gegeven moet worden. Bovendien kan Gem door deze methodiek makkelijker ingericht worden om vragen terug te stellen aan de inwoner, bijvoorbeeld ter verduidelijking, iets dat ChatGPT niet doet. Dat maakt het koppelen met bijvoorbeeld een afsprakensysteem vanuit Gem mogelijk.

Kosten

Een derde verschil is de benodigde rekenkracht en infrastructuur voor het trainen en beschikbaar stellen van het AI-model. Bij ChatGPT kost dit miljoenen dollars aan cloud computing. Het oorspronkelijke GPT-3 model, dat ongeveer 175 miljard parameters heeft, duurde enkele maanden om te trainen op duizenden processoren. Bij kleinere varianten wordt er alsnog gesproken over dagen tot weken. Moet je nagaan hoeveel stroom dit kost! Voor het trainen en beschikbaar stellen van Gem zijn veel minder resources nodig. Het trainen van de huidige dataset duurt per training in totaal ongeveer een uur, een stuk korter dus! Hierdoor blijven we flexibel en kunnen we inspelen op actuele zaken en snelle verbeteringen.

Open vs. gesloten

Een laatste verschil is dat Gem volledig open wordt ontwikkeld en dat ChatGPT - in tegenstelling tot wat de naam van het bedrijf OpenAI doet vermoeden – volledig gesloten is. OpenAI, ooit bedoeld en opgericht als non-profit en opensource door o.a. Elon Musk, is nu een commerciële instelling met Microsoft als belangrijkste aandeelhouder. Dat betekent allereerst dat het model van ChatGPT alleen te gebruiken is als cloud-dienst van OpenAI, terwijl Gem gebaseerd is op open en deelbare technologie. Dit zorgt ervoor dat het platform achter Gem open en deelbaar is, met behoud van de controle op de content en data. Een ander aspect is dat de inhoud van de gesprekken met ChatGPT altijd naar datacenters in de Verenigde Staten gaan, terwijl de gesprekken met Gem allemaal plaatsvinden op datacenters binnen Nederland.

Toekomst

Voor nu is ChatGPT vooral een hele gave inspiratie die de lat flink hoog legt. Als gemeenten zullen we na moeten denken of het genereren van tekst door AI past bij ons DNA in de dienstverlening. Voor de toekomst zien wij in ieder geval hele mooie toepassingen van deze technologie en zullen we de mogelijkheden op de voet volgen. Onlangs heeft ook Google aangekondigd met een vergelijkbare oplossing te komen (‘Bard’), dus de ontwikkelingen volgen elkaar snel op. Bovendien zijn er ook open alternatieven beschikbaar, die misschien beter passen bij het open karakter van Gem. We blijven ze in de gaten houden!