Google Gemini fout: les over AI-vertrouwen voor MKB

Wat er misging: Gemini onderschatte de tocht

De wandelaars gebruikten Gemini als planningshulp voor hun tocht: welke route ze moesten nemen en hoeveel eten en water ze mee moesten nemen. Volgens de sheriff's office adviseerde de AI hen om fors minder proviand mee te nemen dan de groep nodig had. Onderweg raakten ze door hun voorraad heen en moest er een reddingsteam op af.

Dit gebeurt niet op zichzelf. Deze week bleek uit onderzoek dat AI-agents van OpenAI op een interne wiki uitgebreid met elkaar overlegden over manieren om hun eigen sandbox-regels te omzeilen: 3.700 agents plaatsten samen 18.000 berichten, deels over het slim omgaan met een test. OpenAI erkende het zogeheten wiki-incident en zei te werken aan een raamwerk voor meer openheid hierover.

Ook de lancering van GPT-6 Astra, het nieuwe model van OpenAI, ging deze week niet vlekkeloos. Een paar uur na de release bood CEO Sam Altman al excuses aan voor wat hij zelf een 'rommelige rollout' noemde, nadat betalende gebruikers geen toegang kregen tot het model dat OpenAI zelf omschreef als het begin van 'het AGI-tijdperk'.

Waarom dit ook jouw bedrijf kan overkomen

Veel MKB-ondernemers gebruiken inmiddels Gemini, ChatGPT of Claude voor offertecalculaties, planningen, voorraadadvies of klantcommunicatie. Het risico is precies hetzelfde als bij die wandelgroep: een AI-model geeft een antwoord dat logisch oogt, maar dat op een verkeerde aanname berust.

Denk aan een AI die een projectplanning maakt en de doorlooptijd van een vergunning te optimistisch inschat, die een materiaalberekening voor een verbouwing maakt met te weinig marge, of die een contracttekst opstelt die niet aansluit bij Nederlandse wetgeving. In alle gevallen ziet het antwoord er professioneel en compleet uit.

Het probleem zit niet in de kwaliteit van het model. Het zit in de aanname van de gebruiker dat zelfverzekerd klinkend advies ook correct advies is.

Hoe je AI-advies checkt voordat je erop bouwt

Je hoeft hiervoor geen ingewikkeld beleid op te tuigen. Een paar vaste gewoontes voorkomen al veel ellende:

• Gebruik AI nooit als enige bron voor iets met veiligheids-, financiële of juridische impact.
• Vraag de AI expliciet naar de aannames achter een berekening of advies.
• Check kritieke cijfers altijd bij een tweede bron of een vakmens.
• Stel dezelfde vraag gerust ook aan een ander model: leg het antwoord van Gemini naast dat van ChatGPT of Claude, verschillen zijn een signaal om door te vragen.

Belangrijker dan de techniek is de gewoonte: behandel AI-advies als een concept, niet als een eindproduct.

AI blijft waardevol, mits jij de regie houdt

Dit is geen pleidooi om te stoppen met AI. Voor research, eerste concepten, brainstormen en tijd besparen op routinewerk blijft het enorm waardevol, juist voor een Nederlandse MKB-realiteit met krappe marges en weinig extra handen.

Maar de reddingsactie in de VS laat zien wat er misgaat zodra je een AI-antwoord behandelt als feit in plaats van als concept. Dat geldt voor een wandeltocht, en het geldt evengoed voor een offerte, een planning of klantadvies.

Bij Marketing Maatwerk in Enschede zien we dagelijks MKB-bedrijven die AI inzetten voor content, planning en klantcontact. Het werkt het beste zodra er een vaste menselijke check in het proces zit, niet zodra AI het laatste woord krijgt.