In tegenstelling tot vorige versies geeft OpenAI, het bedrijf achter ChatGPT, maar weinig technische uitleg over de nieuwe versie. Het systeem zou beter getraind zijn, maar op basis van welke data dat gebeurd is, weten we niet. OpenAI wil de concurrentie niet slimmer maken dan ze al zijn.

Wat ze wel prijsgeven is dat GPT-4 voor het eerst ook afbeeldingen kan interpreteren. Computerwetenschapper Jeroen Baert licht toe wat we daaronder moeten verstaan: “Het systeem kan zelf geen afbeeldingen maken, maar kan wel foto’s of tekeningen analyseren. Je zou bijvoorbeeld een foto van de inhoud van je ijskast kunnen nemen en vragen welke recepten je daarmee kan maken.” De nieuwe afbeeldingsfunctie is wel nog niet beschikbaar voor gebruikers.

(Lees verder onder de foto)

Hallucinaties blijven

Andere aangekondigde verbeteringen zijn minder opvallend, maar daarom niet minder belangrijk. Zo zou onder meer het taalmodel verbeterd zijn. En het systeem zou ook minder foutieve informatie verspreiden, of “hallucineren” zoals het in de techwereld wordt genoemd. Al vermeldde het bedrijf er meteen bij dat dat probleem nog niet helemaal weg is.

Nochtans zijn de frequente hallucinaties van de beruchte chatbot al langer de grootste bron van kritiek. Krijgen ze dat probleem ooit opgelost? “Dat is heel moeilijk te zeggen”, vindt Baert. “GPT is een taalmodel, geen orakel. Het probeert teksten te fabriceren die goed werken door woorden bij elkaar te plaatsen die vaak bij elkaar geplaatst worden. Juistheid en accuraatheid zijn geen kenmerken van een taalmodel.”

LEES OOK. Zo maakten we een chatbot boos: “Zo behandel je een vriend niet!” (+)

Dat de teksten almaar beter geschreven zijn, maakt het des te gevaarlijk. Hoe beter de vorm, hoe geloofwaardiger de inhoud. Baert bevestigt: “Als je een tekst besprenkelt met passende woorden of moeilijke taal, kan je mensen snel overtuigen dat de tekst waarheid bevat, maar dat is natuurlijk niet zo. Bedrijven als OpenAI moeten steeds vaker disclaimers bij hun chatbots plaatsen dat ze niet kunnen garanderen dat de informatie van de bot correct is. Mensen moeten beseffen dat GPT geen slimme butler is die voor jou alles gaat opzoeken.”

“Ik ben geen robot”

En dat is heus niet het enige gevaar waar we attent voor moeten zijn. De nieuwe GPT-4 is ook in staat om mensen ervan te overtuigen dat hij geen robot is. Tijdens een experiment werd hem gevraagd om in te loggen bij een website. Toen de chatbot op het punt kwam dat hij afbeeldingen moest herkennen om aan te tonen geen robot te zijn, stuurde hij een mail naar de helpdesk. “Kan u me helpen met inloggen? Ik heb een probleem aan mijn ogen, waardoor ik de beelden niet goed kan zien.” Een medewerker gaf hem uiteindelijk toegang.

LEES OOK. Verbieden is zinloos, maar opsporen niet zo moeilijk: zo hard zit ChatGPT al verweven in ons onderwijs (+)

“Het is niet helemaal duidelijk hoe dat allemaal gebeurd is”, verklaart Baert. “Ik denk dat het toch iets minder alarmerend is dan het lijkt. De bot heeft niet zelf beslist om daar in te loggen, dat is op basis van cues gebeurd. En wat die cues waren, weten we niet. Maar het klopt wel dat ChatGPT een tool is die zowel goed als slecht kan worden ingezet.”

Hoe meer hij kan, hoe meer gevaren er aan verbonden zijn? “Toch wel. Dit is een soort brandversneller voor mensen met slechte bedoelingen. Ik denk dan bijvoorbeeld aan phishers of scammers. Je moet minder moeite doen om mensen om de tuin te leiden”, aldus Baert.