ChatGPT is vooral een heel krachtig tool om in te zetten in je onderwijs. Echter, er zijn ook risico’s aan verbonden. Hieronder staan de belangrijkste benoemd, met per onderdeel een suggestie over hoe ermee om te gaan. 

Privacy.

Wanneer je chatGPT gebruikt, zal Openai, het bedrijf achter chatGPT, de data automatisch gebruiken voor het trainen van nieuwe modellen. Dat betekent niet dat je gegevens letterlijk zijn terug te vinden in output van komende modellen. Het betekent wel dat jouw gegevens meehelpen bij het genereren van betere output in de latere modellen. Hoogstwaarschijnlijk heeft de school waar je voor werkt regels omtrent het gebruik van gevoelige gegevens. Het zal niet toegestaan zijn om dit soort data te delen met chatGPT. Bijvoorbeeld een verslag invoeren met de naam van een leerling/student erin zal niet zijn toegestaan. Mocht je liever niet willen dat jouw gegevens worden gebruikt voor trainingsdoeleinden, dan kun je dat uitzetten. Lees hier meer over alle opties en gevolgen voor je account: https://help.openai.com/en/articles/7730893-data-controls-faq 

Plagiaat.

Jouw leerlingen/studenten zullen ongetwijfeld chatGPT gebruiken voor het helpen bij huiswerk en toetsen. Er zijn tools die je kunt gebruiken om te detecteren of tekst door ai is geschreven of niet. Echter, deze tools zijn niet volledig betrouwbaar en ook relatief eenvoudig te omzeilen. Bij een verslag over de slag bij Waterloo vanuit chatGPT 3.5 (de gratis versie) geven de eerste drie detectors die we getets hebben aan dat het 100% door een mens is geschreven. Het advies is om in je opdrachten en toetsen te zorgen dat het gedachteloos invoegen van teksten uit chatGPT niet voldoende is voor het afronden ervan. Een gesprek over de inhoud zal snel duidelijk maken of de leerling/student chatgpt gebruikt heeft op een constructieve manier, of als manier om te frauderen. 

Bias.

ChatGPT is getraind op een groot deel van het internet. Dat zijn teksten die door mensen zijn geschreven. In deze teksten zit een culturele bias verscholen, die chatGPT zal meenemen in zijn antwoorden. Wanneer je bijvoorbeeld vraagt naar de 5 meest interessante filosofen, is de kans erg groot dat je 5 blanke westerse mannelijke filosofen krijgt. Bij onze test kregen we Socrates, Nietzsche, de Beauvoir, Kant en Camus. Behoorlijke bias dus, allemaal Westers en 4 mannen. Wanneer je je hiervan bewust bent, kun je met betere prompts vrij eenvoudig om deze bias heen werken. Bij het testen van de prompt “geef me 5 interessante filosofen vanuit verschillende culturen en met verschillende achtergronden en van verschillend geslacht” kregen we 5 hele andere filosofen (Laozi, Hypatia, Avicenna, de Beauvoir en West ). Stuk beter al!

Hallucineren.

ChatGPT, en zeker versie 4, is behoorlijk vaak juist in zijn antwoorden. Echter, als het antwoord fout is, zul je dat zelf moeten zien. ChatGPT brengt niet juiste informatie namelijk met dezelfde ‘zekerheid’ als juiste informatie. De belangrijkste manier om hiermee om te gaan als docent is om je hiervan bewust te zijn en dus altijd output te controleren op juistheid. In het algemeen zul je als expert op het vakgebied heel snel de hallucinaties detecteren.  

Verouderde data.

ChatGPT is getraind tot 2021 en weet dus niets van gebeurtenissen na die tijd. Met de betaalde versie zijn de webbrowse plugins een makkelijke oplossing hiervoor. Met de gratis versie is dat niet mogelijk, dus zul je hier rekening mee moeten houden.

Op deze website zullen we jullie meenemen naar hoe je zo goed mogelijk kan prompten.