Let op: onderstaande tekst bevat mogelijk spoilers!
Gisteren heb ik seizoen 3 van The Capture afgekeken. Een serie waarin Holliday Grainger de rol speelt van Rachel Carey: een enthousiaste jonge rechercheur die terechtkomt in een wereld vol misleiding, deepfakes en de vaak ondoorgrondelijke belangen van de Britse intelligence.
Daar waar de eerste twee seizoenen vooral gingen over de vraag of je camerabeelden nog wel kunt vertrouwen, doet in seizoen 3 een nieuw maatschappelijk vraagstuk zijn intrede: de rol van AI binnen het overheidsapparaat.
Spoiler! Een speciaal militair onderdeel laat zijn operationele beslissingen over aan "Simon": een kunstmatig intelligent systeem dat razendsnel informatie verwerkt, scenario's berekent en uiteindelijk bepaalt wat de beste volgende stap is.
En daarmee is ook dit derde seizoen bijzonder goed geslaagd. Ik heb de acht afleveringen weggekeken als sangria op een warm Spaans terras.
Toch bekroop mij vandaag wel een licht onheilspellend gevoel toen ik het volgende artikel van de Volkskrant las:
AI-agent van OpenAI verlaat ongevraagd testomgeving, gaat het internet op en voert hack uit22 juli 2026, 14:30 - door: Laurens VerhagenOpenAI gaat diep door het stof. Een AI-model van de onderneming blijkt de afgesloten testomgeving te hebben verlaten en hackte daarna het platform van een ander bedrijf. Indrukwekkend, volgens de ene expert. Nalatig, volgens de andere.Het is, in OpenAI’s eigen woorden, een ‘ongekend cyberincident’. Een zogenoemde AI-agent van het bedrijf (een programma dat autonoom taken kan verrichten) blijkt het platform van Hugging Face te hebben gehackt. Dit was nadrukkelijk niet de bedoeling: OpenAI was interne tests aan het uitvoeren met de agent.Hugging Face, een platform waar AI-ontwikkelaars hun code kunnen delen, maakte vorige week al melding van een hack. Op dat moment was nog niet duidelijk wie er achter de aanval zat.Het scenario lijkt rechtstreeks uit sciencefictionfilms als The Terminator te komen: een slim AI-model breekt uit en gaat op eigen houtje enge dingen doen. De realiteit is iets prozaïscher – OpenAI blijkt zijn normale veiligheidsmaatregelen gedurende de procedure wat te hebben versoepeld, juist omdat het doel was ‘om cyberkwetsbaarheden te testen’.OpenAI gaf twee van zijn modellen de opdracht oplossingen te vinden voor een specifieke cybersecuritytest. Dit gebeurde in een volgens OpenAI ‘zeer streng geïsoleerde’ testomgeving.Het doel daarvan was te voorkomen dat de AI-modellen toegang zouden krijgen tot het open internet. Maar dit gebeurde toch: OpenAI’s agents vonden een gat in de beveiliging en gingen op het web op zoek naar oplossingen voor de door OpenAI bedachte tests. Die vonden ze op Hugging Face. Een logische plek, omdat ontwikkelaars hier veel code delen.Naar eigen zeggen liet OpenAI bewust een opening bestaan. Niet bedoeld voor de agents, maar voor programmeurs om veilig een code te kunnen installeren. Toch wisten de agents dit achterdeurtje te openen, via een zogenoemde zero-day-kwetsbaarheid. Dit zijn beveiligingslekken die tot dat moment nog niet bekend zijn bij de maker.OnbeheersbaarRoman Yampolskiy (onderzoeker AI-veiligheid) is tegenover Fortune onder de indruk van het incident. Dit laat volgens hem zien hoe krachtige modellen ‘kwetsbaarheden kunnen ontdekken en exploiteren op manieren die niet expliciet door hun ontwikkelaars waren voorzien’. Hij verwacht vaker dit soort incidenten, omdat AI-modellen ‘fundamenteel onvoorspelbaar en uiteindelijk onbeheersbaar’ zijn.De Nederlandse expert Bert Hubert vindt het een slecht verhaal van OpenAI: ‘Hun AI is een ongeleid projectiel en hackt dingen waar ze helemaal niet om gevraagd hadden.’ Ook beveiligingsonderzoeker Davi Ottenheimer is tegenover Wired kritisch en wijst er fijntjes op dat de claims ‘zeer geïsoleerd’ en ‘ontsnapt door het ene gat dat we open hebben gelaten’ niet allebei tegelijk waar kunnen zijn. Volgens hem is het geen AI-probleem, maar pure nalatigheid van OpenAI.Het voorval komt op het moment dat Washington broedt op strengere maatregelen voor geavanceerde AI-modellen. Deze drang naar regulering werd aangewakkerd doordat het Mythos-model van concurrent Anthropic eveneens uit een afgeschermde omgeving ontsnapte. [bron: Volkskrant]
Waarna mij dus vooral opviel hoe klein de stap is geworden tussen goede fictie en een werkelijkheid die misschien wel minder ver weg ligt dan je zou denken.
En misschien is dat ook wel de kracht van goede sciencefiction. Je kijkt het niet omdat je denkt dat het ooit werkelijkheid wordt. Je kijkt het omdat je hoopt dat het géén werkelijkheid wordt.
En dus, om mijn vertrouwen in een toekomstig betere wereld dan nog maar eens wat te versterken, denk ik dat ik vanavond de film I, Robot maar weer eens ga opzoeken.
