AI/ML-beveiligingsdiensten

Aanvallers hebben geen shell-toegang nodig om schade aan te richten. Een prompt injection kan een chatbot omzetten in een exfiltratiekanaal. Vergiftigde data kunnen de beslissingen van een model sturen zonder een alarm te activeren. Retrieval-augmented generation (RAG) en tool calling, of dit nu via function calling, plugins of Model Context Protocol (MCP)-servers gebeurt, zetten één verzoek om in aanroepen naar bestanden, API’s en productiesystemen.

IOActive test het gehele AI-systeem: het model, de onderliggende data, de applicaties en apparaten die het aanroepen en de infrastructuur die de gewichten bevat. Elke opdracht eindigt op dezelfde manier: bevindingen aangetoond met bewijs dat u kunt reproduceren, oplossingen toegewezen aan een benoemde eigenaar en een hertest nadat u deze heeft opgelost.

De onderstaande opdrachten volgen de levenscyclus van een AI-systeem. Begin waar u wilt.

Praat met een AI-securityconsultant

Voordat u bouwt: basis

De beslissingen die hier worden genomen, bepalen welke aanvallen een systeem moet weerstaan.

Beoordeling AI-beveiligingsprogramma en governance

Weet uw organisatie welke AI het gebruikt, wie de eigenaar is en wat er gebeurt als het niet goed functioneert? Wij inventariseren de gebruikte AI en beoordelen het beleid en de controles eromheen, van acceptabel gebruik en classificatie van modellrisico’s tot leveranciersbeoordeling en incidentrespons. Bevindingen worden georganiseerd volgens het NIST AI Risk Management Framework en het bijbehorende Generative AI Profile, en alles wat raakt aan regelgeving, waaronder de EU AI Act, wordt gemarkeerd voor juridische review met de technische context bijgevoegd.

Threat modeling voor AI-systemen

Waar kan dit systeem worden aangevallen en wat zou de aanvaller winnen? We volgen de paden die een aanvaller zou inslaan via uw modellen, prompts, agents, plugins en leveranciers, en koppelen elk aan de impact op het bedrijf. Blootstellingen zijn afgestemd op MITRE ATLAS, zodat de volgende guardrails en detecties concrete engineeringtaken zijn.

Beoordeling van de AI-ontwikkelingscyclus

Hoe worden modellen, data, prompts en tools gebouwd, getest en in productie genomen, en waar is dit proces vatbaar voor misbruik? We beoordelen het end-to-end en geven u praktische guardrails voor datacollectie, labeling en CI/CD die aansluiten bij de werkwijze van uw teams.

Tijdens het bouwen: code en bevindingen

AI verandert niet alleen hoe code wordt geschreven, maar ook wat er wordt uitgebracht. In De beveiligingskloof in AI-gegenereerde code (april 2026) gaf IOActive 730 realistische codeeropdrachten aan 27 AI-modellen en codeertools. Bijna een derde van de gegenereerde voorbeelden (31,6%) was volledig exploitable en geen enkel model had het elke keer goed.

Beveiligde codebeoordeling met AI

Is de code die het model omhult net zo veilig als het model? We beoordelen hoe uw applicatie communiceert met de LLM: prompt construction, output handling, authentication en authorization, RAG- en vector database-toegang, tool integrations, agent orchestration, secrets en logging. Als IOActive uw code al beoordeelt, breidt dit de engagement uit die u vandaag uitvoert.

Secure coding met AI: implementatie en training

Hoe behoudt u de productiviteit van AI-ondersteunde ontwikkeling zonder de bijbehorende gebreken over te nemen? Wij helpen u te bepalen waar een mens zich ten opzichte van de lus voor door AI geschreven en door AI beoordeelde code bevindt (erin, erop of erover), helpen u het beleid en de tooling in te richten en trainen uw engineers op de faalpatronen die wij zien in echte opdrachten en in ons eigen onderzoek naar het besturen van AI-coding assistants.

Triage en verificatie van AI-gegenereerde bevindingen

Uw scanners en AI-agents melden duizenden issues. Welke zijn echt? Wij verifiëren ze: exploitability aangetoond, duplicaten en false positives verwijderd, severity opnieuw beoordeeld. U ontvangt een korte backlog waar uw engineers mee aan de slag kunnen. Als u een geautomatiseerd AI security-platform gebruikt, controleren wij op deze manier ook wat het u vertelt.

Vóór verzending: adversarial testing

Vijf trajecten, elk gericht op een deel van het systeem. Kies het traject dat het dichtst bij uw risico ligt; de meeste programma’s voegen de andere toe naarmate het systeem meer autonomie krijgt.

Beoordeling van AI-modellen

Kunnen we erop vertrouwen dat dit model zich veilig gedraagt in de situaties die voor uw bedrijf van belang zijn? We testen het gedrag van het model, niet de onderliggende infrastructuur: onveilige of bevooroordeelde output, hallucinaties, lekken van gevoelige gegevens, het volgen van instructies en weigeringen, en hoe het zich gedraagt buiten het beoogde gebruik. Daarna worden we vijandig: verduidelijkte en gecodeerde instructies, onverwachte talen, long-context- en multi-turn-aanvallen, en documenten of afbeeldingen die zelf instructies bevatten. Vision-, spraak- en beslissingsystemen krijgen dezelfde behandeling. Deliverable: een AI safety assessment report, een risk scorecard en een remediation roadmap.

Beveiligingsbeoordeling van AI-toepassingen

Kan een aanvaller de AI-functie gebruiken om toegang te krijgen tot gegevens of acties waarvoor hij niet geautoriseerd is? Het pad van een gebruiker naar uw enterprise-systemen loopt via de applicatie, de prompt, het model, RAG, een vector database en de tools en API’s die het model kan aanroepen, ongeacht de integratie. We testen elke stap, inclusief data segregation tussen tenants, tool permissions en third-party AI-integraties, en we nemen de klassieke web-, mobile- en API-flaws mee die AI-functies versterken. AI op apparaten en embedded targets valt binnen de scope.

Beveiligingsbeoordeling van AI-agenten

Een agent kan handelen, niet alleen antwoorden. Wat gebeurt er als we hem overtuigen iets te doen wat hij niet zou mogen doen? We proberen: een vertrouwelijk bestand lezen, een e-mail verzenden, een record of configuratie wijzigen, code uitvoeren, een aankoop doen, een andere agent aanmaken, of zijn eigen rechten escaleren. Elke actie die de agent kan ondernemen, en elk tool dat hij kan bereiken, is een testcase, inclusief manipulatie door een andere agent of een vergiftigde tool-response. Bij elk succes tonen wij u welke controle faalde en adviseren wij de fix daar.

Beoordeling van AI-gegevens en privacy

Kan een aanvaller beïnvloeden wat het model leert of ophaalt, en kan het model worden gedwongen informatie vrij te geven die het nooit zou mogen onthullen? Aan de invoerkant onderzoeken we elke plek waar data binnenkomt: trainings- en fine-tuning-sets, RAG-documenten, embeddings en vector databases, datasets van derden en de toeleveringsketen van het model, op zoek naar mogelijkheden voor poisoning en lacunes in de herkomst. Aan de uitvoerkant testen we op onbedoelde lekken en adversarial extraction van persoonsgegevens, klantrecords, broncode, inloggegevens, interne documenten en vertrouwelijke prompts, inclusief of een aanvaller kan vaststellen dat een record is gebruikt bij het trainen.

AI red teaming

In plaats van een netwerk aan te vallen, richt het team zich op de AI en alles wat deze kan bereiken. Een doelgerichte campagne omvat prompt injection, jailbreaking, system-prompt extraction, excessive agency, tool abuse, data exfiltration en agent-to-agent manipulation. Uw guardrails maken deel uit van het doel: we documenteren elke controle (filters, moderation, approval workflows, rate limits, permissions) en proberen deze vervolgens te omzeilen; elke bypass wordt geleverd met de stappen om deze te reproduceren. AI-targeted penetration tests en agentic attack simulations worden uitgevoerd onder dezelfde regels van engagement als onze red en purple team services.

Na levering: beheer en hertest

Modellen, prompts, tools en retrieval-sources veranderen wekelijks. Een bevinding die in maart is opgelost, kan in april terugkeren door een modelupdate die niemand heeft getest.

Beoordeling van AI-infrastructuur en modelbeheer

Hoe worden uw modelgewichten opgeslagen, ondertekend, verplaatst en ingezet, en wie heeft er toegang toe? We testen de integriteit van de implementatie, toegangsbeperkingen rondom gewichten, brongrenzen en controles tegen denial-of-service, observability voor abnormaal gebruik en isolatie tussen projecten en tenants, en wij wijzen op de tekortkomingen die modeldiefstal, manipulatie of laterale beweging mogelijk maken.

Retest- en regressietestharness

Bij elke opdracht horen replay-scripts, gestructureerde logs en expliciete slaag-/mislukkingscriteria, zodat uw team elke bevinding kan reproduceren en de fix kan testen. Na de fix voeren we dezelfde testharness opnieuw uit om de verandering in aanvalssucces te meten.

Continue AI-beoordeling

Voor systemen die sneller veranderen dan een jaarlijkse test kan bijhouden, voeren we de test op een afgesproken frequentie en na materiële wijzigingen (een nieuwe modelversie, een nieuwe tool, een nieuwe databron) opnieuw uit, zowel binnen als buiten uw perimeter, en rapporteren we wat er is gewijzigd. AIUC-1, de certificeringsstandaard voor AI-agents, vereist deskundige testing van derden voor adversarial robustness en tool calls minimaal elke drie maanden; een kwartaalcadence levert hierbij het bewijs voor uw auditor. Wij evalueren en dragen over; uw team bedient de controls in de tussentijd.

Hoe wij werken

We tonen de exploitability in plaats van mogelijkheden op te sommen, verifiëren de resultaten over seeds en decoding settings om duurzame fouten van ruis te scheiden, en documenteren elk probleem met de inputs en replay steps die het reproduceren. Bevindingen worden afgebeeld op de OWASP Top 10 for LLM Applications, de OWASP Machine Learning Security Top Ten, MITRE ATLAS, het NIST AI Risk Management Framework en, voor AI agents, de AIUC-1 requirements, en worden gemarkeerd voor juridische review waar ze beleid of regelgeving raken. Na fixes herhalen we de tests, zodat het resultaat een gemeten verandering in attack success is, niet een bewering.

Onderbouwd door onderzoek

De mensen die deze beoordelingen uitvoeren, publiceren wat zij vinden. In 2026 heeft IOActive The Security Gap in AI-Generated Code gepubliceerd, de studie achter de bovenstaande cijfers, en heeft het Husn Canaries gepresenteerd, zijn onderzoek naar het reguleren van hoe AI-codingassistenten broncode gebruiken, op de CSA AI Summit 2026. Daarnaast heeft IOActive bijgedragen aan Cybersecurity AI: Hacking Consumer Robots in the AI Era, gepubliceerd met Alias Robotics in maart 2026. Op CanSecWest 2025 toonde een IOActive-consultant hoe AI-gegenereerde voice clones werden gebruikt in een echte red team-engagement. Dit onderzoek is de basis voor onze testcases.

Veelgestelde vragen