Open-weight AI-modellen zijn sterk, veiligheid blijft achter

Wat het SaferAI-rapport precies zegt over GLM-5.2

SaferAI is een onafhankelijke onderzoeksorganisatie die AI-modellen beoordeelt op veiligheidsbeleid, niet op taalvaardigheid of snelheid. Ze kijken naar zaken als: is er een risicobeoordeling gedaan voor de release, zitten er grenzen in tegen misbruik, en is er een proces om nieuwe risico's op te sporen nadat een model live staat.

GLM-5.2 van Z.ai scoort op pure capaciteiten verrassend hoog, in de buurt van de nieuwste modellen van OpenAI en Anthropic. Op de veiligheidscriteria van SaferAI blijft het model juist achter. Er is weinig gepubliceerd over risicotesten, en omdat het een open-weight model is, kan iedereen de gewichten downloaden en aanpassen zonder dat Z.ai daar nog zicht op heeft.

Dat laatste is precies waar SaferAI voor waarschuwt: bij een closed model kan de leverancier achteraf nog ingrijpen als er misbruik wordt gesignaleerd. Bij een open-weight model dat al gedownload is, kan dat niet meer.

Open-weight versus closed source: wat is veiliger voor jouw bedrijf?

De discussie tussen open-weight en closed source AI gaat allang niet meer alleen over prijs. Twee alinea's om het verschil scherp te krijgen.

Open-weight modellen zoals GLM-5.2 van Z.ai of Llama van Meta zijn gratis of goedkoop te gebruiken, kunnen desgewenst op je eigen servers draaien en geven je volledige controle over je data. Het nadeel: de veiligheidstesten die er zijn, zijn vaak minder uitgebreid gedocumenteerd, en niemand houdt bij hoe het model na de release wordt aangepast of misbruikt.

Closed modellen zoals Claude van Anthropic of GPT van OpenAI zijn duurder en je bent afhankelijk van hun infrastructuur en voorwaarden. Daar staat tegenover dat deze bedrijven uitgebreider publiceren over veiligheidstesten, en dat ze een update kunnen uitrollen of toegang kunnen blokkeren zodra er een probleem opduikt.

Voor een MKB is dat een simpele afweging: hoeveel controle wil je over je data, tegenover hoeveel garantie wil je over wat het model wel en niet doet. Er is geen model dat op alle punten wint.

Waarom dit meer is dan een discussie voor techbedrijven

Je gebruikt misschien zelf helemaal geen open-weight model. Maar de kans is groot dat een tool die je al gebruikt er wel een onder de motorkap heeft. Steeds meer goedkope AI-features in software, van boekhoudpakketten tot marketing-tools, draaien op open-weight modellen omdat dat de kosten voor de leverancier laag houdt.

Dat is verklaarbaar vanuit hun kant, maar het betekent dat jij als afnemer een risico overneemt zonder dat je dat altijd weet. Zet een leverancier een model als GLM-5.2 in voor het verwerken van klantgegevens en blijkt dat model gevoelig voor misbruik of datalekken, dan is dat volgens de AVG uiteindelijk ook jouw verantwoordelijkheid als verwerkingsverantwoordelijke.

Dit soort vragen komt ook terug in de EU AI-Act, die voorschrijft dat aanbieders van AI-systemen met een hoger risiconiveau risicobeheer en documentatie op orde moeten hebben. Een model dat matig scoort op onafhankelijke veiligheidscriteria past daar niet zomaar in.

Wat je nu concreet kunt doen als MKB-ondernemer

Je hoeft geen AI-veiligheidsexpert te worden om hier verstandig mee om te gaan. Een paar vragen zijn genoeg om het gesprek met je softwareleverancier te openen.

Vraag welk model er precies onder een AI-feature zit, en of de leverancier weet of dat model open-weight of closed is. Vraag ook wat er gebeurt met de gegevens die je invoert: worden die gebruikt om het model verder te trainen, en waar staan de servers.

Voor gevoelige toepassingen, zoals alles met klantdata, persoonsgegevens of financiële informatie, kies je bij voorkeur een leverancier die kan aantonen dat er onafhankelijk naar veiligheid is gekeken. Voor lichtere toepassingen, zoals het samenvatten van interne notities, is een goedkoop open-weight model vaak prima te verantwoorden.

De bredere trend: open modellen halen de top in, snel

Dit is niet de eerste keer dat een open-weight model de aandacht trekt. Eerder dit jaar haalde GLM-5.2 al de koppen omdat het qua prestaties in de buurt kwam van de grote Amerikaanse modellen, tegen een fractie van de kosten. Die trend zet door: elke paar maanden komt er een nieuw open model dat de kloof met de frontier verder dicht.

Voor jou als ondernemer is dat goed nieuws voor je portemonnee. Maar dit SaferAI-rapport laat zien dat de snelheid waarmee deze modellen capaciteiten bijbouwen niet gelijk opgaat met de snelheid waarmee veiligheidswaarborgen worden bijgebouwd. Dat gat is precies waar je als afnemer alert op moet blijven.