De (on)zin van ChatGPT

Voordelen

Het grootste voordeel van ChatGPT is de accuraatheid. Die zorgt ervoor dat de mogelijkheden voor het gebruik werkelijk eindeloos zijn. Een collega van expert academische integriteit Gert Storms testte de chatbot uit voor een onderwerp waar nog nauwelijks onderzoek naar gedaan was en stond versteld van de accuraatheid.

Een tweede rol die de bot zou kunnen spelen in het onderwijs van de toekomst is als hulpmiddel voor het leren schrijven van teksten. Volgens Storms houdt het model mogelijkheden in om academisch schrijven aan te leren. Professor computationele taalkunde Tim Van de Cruys verwijst dan weer naar de mogelijkheden voor het controleren op grammaticale fouten.

Een derde voordeel is de rol die ChatGPT kan spelen in het leerproces. Volgens Storms is ChatGPT ideaal om hints te geven en op basis daarvan de literatuur in te duiken. Je moet het dus gebruiken als een soort geavanceerde zoekmachine, al mag die net zoals bij Google nooit het eindpunt van een zoektocht zijn.

Vicerector Onderwijsbeleid Tine Baelmans verwijst ten slotte naar de strijd tegen fake news. 'Het leert ons kritischer te kijken naar teksten en doet ons beseffen dat teksten vaak slechts samenraapsels zijn', stelt ze.

Nadelen

Het grootste probleem van ChatGPT zit hem net in de essentie van het model: het is puur gebaseerd op taal. Volgens professor computationele taalkunde Tim Van de Cruys heeft het daardoor geen echte link met de werkelijkheid. 'Het enige wat het model probeert, is het volgende woord zo goed mogelijk voorspellen', aldus Van de Cruys.

Dat zorgt ervoor dat teksten heel logisch en zelfs menselijk kunnen lijken, maar tegelijk pertinente onwaarheden bevatten. 'Zulke onwaarheden worden hallucinaties genoemd', verklaart Van de Cruys.

Een tweede nadeel is eveneens inherent aan het model. Wanneer je een tekst geproduceerd door ChatGPT overneemt, pleeg je namelijk waarschijnlijk impliciet plagiaat. ChatGPT parafraseert namelijk bestaande teksten en verwijst niet altijd correct naar de bronnen waarop het programma zich baseert. Soms gaat het zelfs zo ver dat het programma referenties verzint. Volgens Van de Cruys kan het programma verwijzen naar artikels die in de realiteit gewoonweg niet bestaan.

Een derde nadeel is dat niet alle informatie waar het model zich op baseert neutraal is. Er bevindt zich heel wat biased informatie in het gebruikte corpus en die wordt door het model op dezelfde manier beoordeeld als informatie van betrouwbare bronnen. Volgens Van de Cruys probeert het bedrijf achter ChatGPT die informatie eruit te filteren, maar slaagt het daar niet altijd volledig in.

Conclusie

ChatGPT kan dus heel waardevol zijn, al moet het op de juiste manier gebruikt worden. Idealiter gebruik je het als een hulpmiddel om hints te krijgen over concepten en bestaande literatuur. Het is belangrijk dat je altijd de controle behoudt en wat het model produceert niet voor waar aanneemt.