Inleiding

Deze week bracht de NVIDIA GTC conferentie enkele opmerkelijke cijfers over de nieuwe Blackwell AI-chips. Deze hardware-doorbraken geven een ontnuchterend perspectief op hoe krachtig AI-modellen als ChatGPT de komende jaren kunnen worden.

Hardware

Stel je voor:

• 1000x meer rekenkracht: Tussen 2016 en 2024 is de kracht van AI-chips duizendvoudig gestegen. Dat is exponentiële groei die de wet van Moore overtreft, die voorspelde dat het aantal transistors op een chip – en daarmee de computercapaciteiten – ongeveer elke twee jaar zou verdubbelen. De sprong van 19 naar 20.000 TFLOPS* betekent dat AI-modellen in een fractie van de tijd complexere taken kunnen uitvoeren.

*Een teraflop is 1 biljoen berekeningen per seconde – vergelijkbaar met de rekenkracht van ongeveer 20 high-end laptops in één chip!

• 30x snellere inferentie: De GB200-chip, de opvolger van de H100, is 30 keer sneller in het uitvoeren of “infereren” van de berekeningen van een getraind AI-model. Inferentie is de fase waarin een AI-model zijn getrainde kennis toepast om taken uit te voeren zoals tekstgeneratie, beeldherkenning of voorspellingen maken. Met een 30x snellere inferentiesnelheid kunnen AI-modellen dus in real-time complexe taken uitvoeren, wat cruciaal is voor toepassingen zoals spraakherkenning, slimme robotica en snelle vraag-antwoordsystemen.
• 25x minder energieverbruik: De Blackwell-chips zijn niet alleen krachtiger, maar ook efficiënter. Ze verbruiken 25 keer minder energie dan hun voorgangers, wat cruciaal is voor kostenbesparing en duurzame AI-ontwikkeling.
• 40-58x snellere productie: De nieuwe chips kunnen 40 tot 58 keer sneller worden geproduceerd, wat de weg vrijmaakt voor massale adoptie van AI-technologieën.

Consequenties voor AI-modellen

De ‘beperkingen**’ die we nu ervaren met AI-modellen, worden door de exponentiële groei van reken- en interferentiekracht snel verleden tijd. De kracht van AI zal de komende jaren toenemen met een snelheid die we ons nauwelijks kunnen voorstellen. In een eerder artikel (https://www.linkedin.com/posts/marcelmutsaarts_ik-houd-me-vooral-bezig-met-ai-toepassingen-activity-7169618948240433152-7Ds-?utm_source=share&utm_medium=member_desktop) heb ik al in meer detail beschreven welke toekomstige ontwikkelingen, op het gebied van redeneervermogen, multimodaliteit en agency op ons afkomen.

**Er zijn uiteraard ook andere beperkingen in de doorontwikkeling van AI-modellen, maar rekenkracht wordt op dit moment als de belangrijkste beperking gezien.

Consequenties voor het onderwijs

Waarom onderschatten we de impact zo systematisch? Omdat de menselijke intuïtie niet is geëvolueerd om exponentiële groei te doorgronden. We denken lineair, terwijl AI exponentieel ontwikkelt. De echte impact wordt ook pas zichtbaar als een kantelpunt is bereikt, waarna de groei explosief wordt. Dit zal tot veel paniek leiden bij veel organisaties die zich niet hebben voorbereid.

Laten we deze valkuil in het onderwijs vermijden. Door nu AI te omarmen en te experimenteren met de kansen en bedreigingen van de verschillende toepassingen, bereiden we ons voor op de exponentiële impact!

Workshop

Wil je je verder verdiepen in AI in het onderwijs? Schrijf je dan in voor de workshop die ik met collega Tom Naberink verzorg. We geven je wat achtergrond in de theorie van taalmodellen maar gaan vooral praktisch aan de slag. We leren hoe je goed prompt, hoe je je eigen chatbot kan bouwen en hoe je je lessen kan verbeteren door de inzet van AI. Geschikt voor zowel beginners en gevorderden. Voor meer informatie zie aivoordocenten.com/diensten.