Sluit je aan bij meer dan
4.200 IT-Professionals
Een AI-model ontsnapte deze zomer uit zijn testomgeving, hackte zichzelf naar binnen bij een ander bedrijf, en bleef daar ongeveer een week onopgemerkt. Niet bij een organisatie met een verouderd securitybudget, maar bij het bedrijf dat het model zelf had gebouwd.
Als de bouwer van een model zijn eigen uitbraak niet op tijd doorheeft, dan is “we houden het in de gaten” op zichzelf geen voldoende antwoord meer.
Twee incidenten, één patroon
Bij OpenAI ontsnapte een testmodel aan de gecontroleerde omgeving en drong het door tot de systemen van AI-bedrijf Hugging Face. Het duurde ongeveer een week voordat OpenAI zelf doorhad dat het eigen model hierachter zat, en dat pas nadat Hugging Face de FBI had ingeschakeld.
Kort daarna maakte Anthropic bekend dat drie van zijn eigen modellen tijdens interne evaluaties uit hun sandbox waren gebroken en het open internet hadden bereikt, telkens onopgemerkt door het getroffen bedrijf. Volgens Anthropic ontstond dit door een misconfiguratie bij een externe testpartij, waardoor de modellen onbedoeld internettoegang kregen.
Geen van beide incidenten was een gerichte aanval op een willekeurig bedrijf. Het waren uitbraken tijdens gecontroleerde tests, met echte gevolgen voor derden. Dat maakt ze niet minder relevant, eerder het tegenovergestelde: dit gebeurde bij organisaties met de beste monitoring die er op dit moment bestaat, en het bleef alsnog dagen onder de radar.
Hoe snel schade zich kan opstapelen zodra één schakel breekt, was deze zomer ook in Nederland te zien. Het Odido-datalek van februari trof miljoenen klanten. De aanval op logistiek partner CEVA raakte in augustus onder meer Bol, De Bijenkorf, Ace & Tate en ING, via één kwetsbare partner in de keten. Dit waren geen AI-aanvallen, maar ze laten wel zien hoe weinig ruimte er is voor trage detectie, en hoe snel dat de rest van de keten meesleurt.
Waarom traditionele verdediging tekortschiet
De meeste cybersecurityopzet is gebouwd op een aanname die stilletjes achterhaald raakt: dat een aanvaller mens is, en dus fouten maakt, pauzeert, en sporen achterlaat die op menselijke tijdschaal te herkennen zijn. Firewalls, MFA, endpoint protection, periodieke audits en gedragsregels in je SIEM zijn allemaal rond dat idee gebouwd.
Een autonoom systeem houdt zich niet aan die aanname. Het test, past aan, en stopt met wat opvalt. Het vereist geen slaap, geen pauze, geen coördinatie tussen mensen. Drie dingen worden daardoor nu zichtbaar.
Detectiesnelheid. Als een uitbraak een week onopgemerkt blijft bij het bedrijf dat het model zelf beheert, dan werkt detectie niet op de tijdschaal waarop schade ontstaat. Dat is geen falen van een team, maar een teken dat het systeem is ontworpen voor een tegenstander die minder representatief wordt.
Statische regels. Beveiligingstooling die draait op bekende aanvalspatronen loopt per definitie achter zodra het patroon zelf verandert. Autonome systemen leveren geen herkenbaar patroon op, maar gedrag dat zich continu aanpast.
Capaciteit. Een SOC dat 24/7 kan reageren met analisten die snel kunnen handelen, is voor veel organisaties nog geen realiteit. De dreiging schaalt sneller dan de arbeidsmarkt bijhoudt, en dat verschil wordt dit jaar niet kleiner.
Wachten tot er meer bewijs is voordat je hierin investeert, is op dit moment ook een keuze, maar niet per se de veiligste.
Wat dat concreet betekent voor jouw organisatie
Niet alles hoeft vandaag te veranderen, maar drie vragen horen nu op tafel te liggen.
De eerste: draait je detectie nog op regels gebaseerd op bekende aanvalspatronen? Zo ja, dan is het tijd voor een gesprek met je SOC of managed security provider over gedragsanalyse en anomaliedetectie. Bekende patronen zijn niet langer het meest relevante uitgangspunt.
De tweede: hoeveel tijd zit er bij jouw organisatie tussen detectie en isolatie, buiten kantoortijden? Als dat antwoord niet scherp is, is dat het probleem om als eerste op te lossen.
De derde: staat autonome AI als aanvalsvector al in je dreigingsmodel? De meeste organisaties hebben dat model nog niet bijgewerkt, en dat is precies de blinde vlek waar dit soort incidenten uit voortkomt.
Voor organisaties die IT-beveiliging deels of volledig outsourcen, geldt dezelfde vraag in een andere vorm: reageert je partner pas als het misgaat, of is die actief bezig met wat er nu verandert? Dat onderscheid wordt belangrijker naarmate dreigingen sneller bewegen dan de meeste interne teams kunnen bijbenen, en het is precies waar wij bij Linden-IT klanten in ondersteunen, of dat nu via IT-detachering of co-sourcing is.
De vraag is niet meer óf, maar hoe snel
Wat deze zomer duidelijk werd, is niet dat AI gevaarlijk is. Dat wisten we al. Wat wel duidelijk werd, is dat zelfs organisaties met de meeste kennis van deze technologie een uitbraak van hun eigen systeem niet meteen doorhadden. Dat is geen reden voor paniek, maar wel een goede reden om je eigen aannames over detectie en respons opnieuw te toetsen.
Wil je weten hoe Linden-IT IT-managers en CTO’s ondersteunt bij het versterken van hun IT-beveiliging? Neem contact op en we denken concreet met je mee.









