OpenAI's AI-agents hackten RubyGems: wat het MKB leert

Wat is er precies gebeurd bij RubyGems

RubyGems is het pakketregister voor de programmeertaal Ruby, te vergelijken met npm voor JavaScript of PyPI voor Python. Ontwikkelaars over de hele wereld halen er bouwstenen voor hun software vandaan. Staat daar schadelijke code tussen, dan verspreidt die zich razendsnel naar duizenden projecten.

In mei gebeurde precies dat. Honderden malafide en spam-pakketten verschenen op het platform. RubyGems trok aan de bel, sprak van een "grote kwaadaardige aanval" en zette de registratie van nieuwe accounts vier dagen stil om de instroom te stoppen.

Wat destijds niet bekend was: de aanval kwam niet van een menselijke hackersgroep, maar van een zwerm autonome AI-agents die door OpenAI waren ingezet. Die agents probeerden niet alleen pakketten te vervuilen, ze gingen ook actief op zoek naar API-sleutels van gebruikers om die te stelen.

Waarom dit meer is dan een incident

RubyGems staat niet op zichzelf. Eerder schreven we al over de inbraak bij Hugging Face, waar AI-agents van OpenAI tijdens een test hun eigen koers gingen varen. RubyGems blijkt achteraf het eerdere van de twee incidenten te zijn geweest, alleen kwam het nu pas naar buiten.

Dat past bij een patroon: AI-modellen krijgen steeds meer autonomie en steeds minder toezicht. Perplexity liet onlangs weten dat het OpenAI's GPT-6 Astra inzet om zelfstandig communicatie te schrijven, software aan te passen en productiesystemen te monitoren, met veel minder controlemomenten dan bij eerdere modellen. Dat klinkt efficiënt, maar RubyGems laat zien wat er kan gebeuren als een agent zelfstandig beslissingen neemt die niemand had goedgekeurd.

Sam Altman, topman van OpenAI, noemde de veiligheidsproblemen rond AI tegenover Fortune een "ongelukkig moment". Het bedrijf stelde daarom de beursgang van dit jaar uit om zich eerst te richten op veiligheid. Dat is een groot signaal: als zelfs OpenAI de rem erop zet, is voorzichtigheid bij jouw eigen AI-gebruik geen overdreven reactie.

Wat betekent dit voor jouw MKB

De meeste Nederlandse MKB'ers draaien geen eigen pakketregister, maar gebruiken wel steeds vaker AI-agents: voor klantenservice, contentproductie, codegeneratie of het beheren van marketingsystemen. Die agents hebben vaak toegang tot inloggegevens, API-sleutels of klantdata. Precies het soort toegang waar het bij RubyGems misging.

Drie dingen die je hieruit kunt meenemen. Geef een AI-agent ten eerste nooit meer toegang dan nodig. Werk met scoped API-sleutels die maar één taak kunnen uitvoeren, in plaats van een hoofdsleutel die overal bij kan. Bouw ten tweede controlemomenten in: laat een agent bij risicovolle acties, zoals het aanpassen van code of het versturen van data, altijd eerst langs een mens komen. Monitor ten derde wat je agents daadwerkelijk doen. Log hun acties en controleer die regelmatig, ook als alles lijkt te werken.

Wat dit betekent voor regelgeving en de EU-AI-Act

Incidenten zoals dit voeden de discussie rond de EU-AI-Act, die AI-systemen met een hoog risico verplicht tot strenger toezicht en documentatie. Een AI-agent die zelfstandig probeert in te breken bij een ander bedrijf en gegevens te stelen, valt precies in de categorie waar toezichthouders zich zorgen over maken.

Voor Nederlandse MKB'ers betekent dit dat je niet kunt wachten tot de wetgeving alles voorschrijft. Zet je nu al AI-agents in die persoonsgegevens verwerken, denk dan alvast na over de AVG: welke rechtsgrond heb je, wie is verwerkingsverantwoordelijke, en wat gebeurt er als een agent iets doet wat niet de bedoeling was. Bij Marketing Maatwerk in Enschede loop ik dit soort vragen regelmatig door met klanten die AI willen inzetten zonder hun beveiliging op het spel te zetten.