ANALYSE AI EN EXAMENFRAUDE

Gebruik ChatGPT is examenfraude

Robots AI

De populaire AI-tool ChatGPT beroert ook de KU Leuven. Het is verboden om de tool te gebruiken voor gequoteerde opdrachten, tenzij de Toledo-pagina van een vak het expliciet toelaat.

Gepubliceerd Laatst geüpdatet

Wat is ChatGPT?

ChatGPT is momenteel een van de populairste voorbeelden van een Large Language Model (LLM). 'LLM's zijn een vorm van machine learning, waarbij een model aangeleerd wordt om automatisch tekst op te stellen', aldus Tim Van de Cruys, professor computationele taalkunde aan de KU Leuven.

'Het model is getraind met een heel groot stuk van het internet. Op basis daarvan heeft het geleerd om telkens het volgende woord in een tekst te voorspellen', zegt Van de Cruys. Het model kan daardoor op een vrij natuurlijke en realistisch lijkende manier antwoorden op je vragen, alsof je met iemand aan het chatten bent. De trainingsdata zijn wel maar beperkt tot 2021, waardoor ChatGPT je niets kan vertellen over de voorbije twee jaar.

ChatGPT voegt hier nog een extra laag training aan toe met de zogenaamde Reinforcement Learning with Human Feedback (RLHF). Het model wordt aangemoedigd om een bepaald soort antwoorden eerder te geven door feedback die het gekregen heeft van mensen. 'Zo proberen ze ook te vermijden dat het model racistische of seksistische antwoorden geeft op vragen', zegt Van de Cruys.

OpenAI, het bedrijf achter ChatGPT, stelt het programma gratis beschikbaar sinds de publicatie ervan in november 2022. Er is daarnaast een betaalde versie waar je voor 20 dollar per maand een aantal extra voordelen krijgt, zoals onbeperkte toegang tijdens piekuren en een snellere respons.

De voorbije maanden is de populariteit en toegankelijkheid van artificiële intelligentie plots enorm toegenomen. Het Amerikaanse bedrijf OpenAI lanceerde namelijk eind vorig jaar het generatief model ChatGPT. Dat taalmodel maakt het mogelijk om gratis teksten te laten opstellen op basis van een groot corpus aan bestaande teksten. Het doet dat door het volgende woord zo goed mogelijk te voorspellen.

Die technologie werd niet overal even goed onthaald. Een school in New York besliste zelfs om de website op haar campus te bannen. Aan de KU Leuven is zo'n ban nog niet aan de orde, al is het gebruik ervan voor papers en examens vooralsnog illegaal. 'Het is van dezelfde orde als iemand anders voor jou een tekst laten schrijven', aldus vicerector Onderwijsbeleid Tine Baelmans.

Examenfraude moeilijk op te sporen

Er bestaat reeds een kader rond examenfraude waar studenten rekening mee moeten houden. Dat kader is terug te vinden in het examenreglement (OER). Volgens het OER kunnen studenten bestraft worden als ze niet transparant zijn over hun gebruik van hulpmiddelen of onregelmatigheden begaan.

Baelmans vertelt dat er elk semester een aantal studenten per faculteit gesanctioneerd worden omdat ze de regels van dat artikel geschonden hebben. 'Het gaat slechts om enkelingen', verduidelijkt ze. Volgens haar zijn er wellicht meer gevallen van fraude die niet gedetecteerd worden.

'ChatGPT is zelfs in staat om referenties volledig uit te vinden'

Tim Van de Cruys, professor computationele taalkunde

Volgens expert academische integriteit Gert Storms is er onderzoek naar oneerlijke studenten bij thesissen gedaan dat stelt dat de meeste studenten iets oneerlijk gedaan hebben tijdens hun onderzoek. 'Maar weinig mensen hebben gegevens zwaar vervalst', vervolgt hij.

'De controlemechanismen die we nu hebben, geven geen zekerheid', meent professor computationele taalkunde Tim Van de Cruys. Volgens hem zullen ze aangepast moeten worden om aan nieuwe vormen van fraude tegemoet te kunnen komen. Tine Baelmans vertelt wel dat het gebruik van een tool als ChatGPT makkelijker op te sporen is dan bijvoorbeeld het inschakelen van een familielid.

Impliciet plagiaat

Baelmans verzekert ons dat het OER het gebruik van nieuwe technologie zoals ChatGPT reeds dekt. In artikel 84 staat namelijk dat 'elk gedrag strafbaar is, waarbij de student niet geëvalueerd kan worden'. Dat is bewust zo geschreven dat het elke vorm van fraude kan omvatten. Van de Cruys bevestigt dit.

Daarnaast kan het gebruik van ChatGPT er voor zorgen dat een student impliciet plagiaat pleegt. De tool slaagt er namelijk niet altijd in om correct te verwijzen naar bronnen of parafraseert soms passages tekst zonder enige vorm van referentie. 'De tool is zelfs in staat om referenties volledig uit te vinden', aldus Van de Cruys. Door zulke stukken tekst klakkeloos over te nemen in een paper of thesis pleegt de student dus plagiaat, wat strafbaar is.

'Het gebruik van zo'n tool is altijd een bewuste keuze'

Tine Baelmans, vicerector Onderwijsbeleid

Dat betekent niet dat elk gebruik noodzakelijk onethisch is. Volgens Storms hangt het er van af hoe en wanneer in het proces je de tool gebruikt. 'Als je het verantwoord gebruikt zoals je zou omgaan met bestaande literatuur, kan je er moeilijk tegen zijn', voegt hij toe. Baelmans ziet het anders: 'Als het de bedoeling is dat je iets zelf schrijft, mag je ChatGPT daarvoor niet gebruiken.'

Speciaal kader volgt

Aangezien het om een nieuwe technologie gaat, waren er voor de vorige examenperiode nog geen bijzondere regels van kracht. Verschillende faculteiten zijn wel volop bezig met het uitwerken van een kader om docenten de kennis en tools aan te reiken over hoe ze moeten omgaan met ChatGPT.

Zo zijn aan de faculteit Letteren de discussies reeds in volle gang. Het kader dat beslist wordt zal aan de onderwijscommissies worden voorgelegd, waar per opleidingsonderdeel kan afgewogen worden of ChatGPT toegelaten moet worden of niet. 'Als het expliciet op Toledo vermeld wordt, dan valt het binnen de regels van het OER', verzekert Van de Cruys. Bovenop die facultaire kaders wordt er ook werk gemaakt van een universiteitsbrede aanpak.

Over de mogelijkheid om een duidelijke grens vast te leggen vanaf wanneer gebruik problematisch is, heerst nog discussie. Een tool als ChatGPT heeft namelijk verschillende toepassingen en kan ook gebruikt worden om een zelfgeschreven tekst te herschrijven. 'We accepteren nu dat je een spellingcorrector gebruikt, dertig jaar geleden vonden ze dat waarschijnlijk ook niet koosjer', aldus Storms.

Serieuze straffen

Aangezien gebruik van ChatGPT valt onder de reeds bestaande regels rond examenfraude, gelden ook dezelfde strafmaatregelen. Er zijn in totaal zeven verschillende soorten straffen mogelijk, die variëren van een nul op het examen in kwestie tot een verbod op inschrijving aan de universiteit.

Bij het uitspreken van die strafmaatregelen wordt rekening gehouden met een aantal factoren. Zo speelt het al dan niet bewust plegen van examenfraude een belangrijke rol. Daarover is Baelmans duidelijk: 'Het gebruik van zo'n tool is altijd een bewuste keuze.'

'Een aantal vakken zullen hun evaluatietechniek moeten aanpassen'

Tine Baelmans, vicerector Onderwijsbeleid

Dat betekent dat studenten die tijdens de vorige examenperiode gebruik hebben gemaakt van ChatGPT – indien ze gevat worden – zware straffen kunnen krijgen. Tegen april worden alle casussen verzameld om nadien geëvalueerd te worden. Baelmans geeft toe dat haar al een aantal gevallen ter ore zijn gekomen.

Aanpassing evaluatie nodig

Nu ChatGPT door studenten gebruikt kan worden, en het voor sommige vakken naar alle waarschijnlijkheid zal toegelaten worden, rijst de vraag hoe docenten zich zullen aanpassen. Volgens Van de Cruys zullen docenten hun opdrachten moeten aanpassen op basis van wat een generatief model ermee zou aanvatten.

Ook Baelmans denkt dat een aantal vakken hun evaluatietechniek zullen moeten bijstellen. 'Al zal zijn er zeker ook vakken waarvoor niets zal moeten veranderen', vervolgt ze. Er zijn verschillende mogelijkheden: 'Een mondelinge toets bijvoorbeeld, maar ook een tekst on the spot tijdens een examen laten schrijven kan een oplossing zijn.'

Powered by Labrador CMS