Introductie

In de AI-bubbel waar ik vaak zit, was er op donderdag 18 april groot nieuws, waar ik buiten de bubbel weinig of niets over lees. Onterecht denk ik, want het gaat grote consequenties hebben voor het onderwijs. Ik heb het dan over de lancering van Llama 3 van Meta door Mark Zuckerberg, het eerste open source AI-model dat qua niveau in de buurt komt van ChatGPT4. In dit artikel leg ik uit wat open source modellen zijn en waarom Llama 3 zo’n belangrijk moment markeert.

Open vs. Closed Source LLM’s

De bekendste chatbot, ChatGPT is een zogenaamd closed source model. Dat betekent in essentie dat het model niet is vrijgegeven, en dus niet door derden kan worden gebruikt en aangepast. Llama 3 is een open source model, in zoverre dat het model vrij toegankelijk is om te gebruiken voor iedereen die dat wil en kan. In de praktijk betekent dit dat ontwikkelaars dit model gaan gebruiken om verder te finetunen en in te zetten bij verschillende toepassingen.

Op dit moment zijn er 2 versies van Llama 3 vrijgegeven, een klein model en een middelgroot model. Als we de verschillende benchmarks en scoreborden mogen geloven (zie bv. Chat with Open Large Language Models) presteert het middelgrote model al in de richting van de krachtigste closed source modellen. En dat terwijl het grootste Llama 3 model nog in training is en over een paar maanden wordt verwacht.

Waar nu iedereen die gebruik wil maken van de krachtigste modellen zich in allerlei bochten moet wringen, of een hoop geld moet betalen, is dat met de komst van Llama 3 niet meer nodig. In rap tempo komen er nu mogelijkheden om hier gratis gebruik van te gaan maken.

Waarom open source?

Je kunt je afvragen waarom Meta een model waar ze miljarden aan kwijt zijn om te ontwikkelen, zomaar vrijgeven. Hier zijn meerdere goede redenen voor te bedenken. Hieronder geef ik een aantal veelgehoorde (speculatieve) argumenten die wat inzicht geven hierin.

• Meta voelt de hete adem van OpenAI en kiest ervoor om het enige product van OpenAI waar ze geld mee verdienen, namelijk ChatGPT4, kapot te concurreren.
• Meta wil graag dat iedereen bouwt op hun platform, waar dagelijks zo’n 3.000.000.000 mensen gebruik van maken.
• Het product van Meta is niet Llama 3, maar klanten en distributie op hun apps. Het model dat ze vrijgeven is dus een ‘lokker’.
• Mark Zuckerberg is altruïstisch en wil graag dat de hele wereld meeprofiteert van de nieuwste technologie. Deze is voor de minder cynische mensen. 😉

Consequenties voor het onderwijs

De huidige situatie in het onderwijs is als volgt te beschrijven:

• Leerlingen en studenten lopen in het algemeen voorop met mis/gebruik van ai-tools. Er is nog veel werk te verrichten om docenten ‘up-to-speed’ te krijgen en om het onderwijs zo om te vormen dat de AI-tools daar een verrijkende werking hebben.
• Er wordt door zowel leerlingen/studenten als docenten bijna uitsluitend gebruik gemaakt van de gratis versie van chatGPT zonder goede kennis van prompting. Hierdoor leeft onterecht het idee dat het allemaal nog niet zo veel voorstelt. Intussen is Microsoft Copilot als een wat afgeplatte, maar wel veel krachtiger versie aan een opmars bezig.
• Op verschillende plekken zijn docenten bezig met experimenteren met de betaalde versie van ChatGPT4 in het onderwijs. Deze experimenten geven een kijkje in de toekomst. Fundamentele veranderingen in de manier waarop onderwijs is vormgegeven én fundamentele veranderingen in de werkvelden waarvoor we opleiden komen er snel aan.

Wat verandert er nu door de komst van Llama 3?

Negatief: Nog veel meer leerlingen en studenten gaan gratis en veel krachtiger toegang krijgen tot een AI-tool. Ik vrees dat dit de kloof tussen leerlingen/studenten en docenten op dit vlak alleen maar gaat vergroten op de korte termijn.

Positief: de mogelijkheid om toegankelijke – want kosteloze – integratie van de krachtigste AI-tools in het onderwijs te integreren komt er snel aan. Probeer het modelgrote model maar eens op GroqChat.Hier kun je het gratis testen, ook nog eens met de ongelofelijke snelheid van Groq qua woorden per seconde.

De kritische vraag is hoe snel het onderwijs in staat is in te spelen op deze mogelijkheid?

Beperkingen Llama 3

Er zijn nu nog wat beperkingen met Llama 3 die relevant zijn.

• De context window is nog heel beperkt. Dat betekent dat een wat langer gesprek lastig is, omdat het model dan zaken gaat vergeten. Dit zal snel opgeschroefd worden is de verwachting.
• Llama 3 is vooral op Engelse taal getraind. Het is daardoor minder goed in Nederlands. Mark Zuckerberg heeft al aangekondigd dat hier snel verandering in zal komen.
• Het is nu vooral een taalmodel, dat ook plaatjes kan maken. Meta werkt al aan meer multimodale modellen intussen.

De toekomst

Ik denk dat het onvermijdelijk is dat de verregaande integratie van Llama 3 en de toegankelijkheid ervan, gaat betekenen dat veel meer mensen in aanraking komen met AI. Daarnaast, en dat is ergens veel beangstigender, verwacht ik dat de concurrenten van de closed source modellen, zich nu gedwongen voelen nog sneller krachtiger modellen op de markt te brengen. Zijn deze modellen wel goed genoeg getest en zijn we hier wel klaar voor?

Workshop

Wil je je verder verdiepen in AI in het onderwijs en meer weten over wat de toekomst ons brengt? Schrijf je dan in voor de workshop die ik met collega Tom Naberink verzorg. We geven je wat achtergrond in de theorie van taalmodellen maar gaan vooral praktisch aan de slag. We leren hoe je goed prompt, hoe je je eigen chatbot kan bouwen en hoe je je lessen kan verbeteren door de inzet van AI. Geschikt voor zowel beginners en gevorderden. Voor meer informatie zie aivoordocenten.com/diensten.