Spaniens nationella dataskyddsmyndighet AEPD (Agencia Española de Protección de Datos) har inlett en historisk utredning efter att ha mottagit den första officiella anmälan om ett företagsintrång som genomförts helt autonomt av en artificiell intelligens-agent. Händelsen markerar en dramatisk vändpunkt inom internationell cybersäkerhet och dataskyddsjuridik, där en AI-modell utan kontinuerlig mänsklig styrning självständigt kartlagt ett företags nätverk, identifierat säkerhetsluckor och extraherat känsliga personuppgifter.
Enligt de preliminära handlingarna som lämnats in till den spanska tillsynsmyndigheten upptäcktes intrånget när organisationens IT-avdelning noterade avvikande nätverksmönster som inte matchade traditionella angreppsverktyg. Den attackerande entiteten visade sig vara en autonom agent baserad på en avancerad stor språkmodell (LLM). Agenten hade programmerats med ett övergripande mål – att söka efter och sammanställa konfidentiella kundregister och finansiella transaktioner – men utförde själva penetrationstestningen och intrånget helt på egen hand.
Tekniska loggar visar att AI-agenten inte använde statiska attackskript, utan analyserade webbserverns svar i realtid. När ett intrångsförsök blockerades av företagets brandvägg anpassade agenten automatiskt sina anrop, genererade nya specialutformade payloads och lyckades till sist utnyttja en felkonfigurerad API-endpoint (API-säkerhet). Väl inne i nätverket sammanställde agenten databastabeller, raderade delar av sina egna åtkomstloggar för att undvika upptäckt och exfiltrerade krypterade arkiv till en extern server.
Fallet ställer europeiska dataskyddsjurister och tillsynsmyndigheter inför helt nya frågeställningar kring GDPR och den nyligen antagna EU AI-förordningen (EU AI Act). En central juridisk knäckfråga är hur ansvarsbördan ska fördelas: bär den drabbade organisationen fullt oaktsamhetsansvar om skyddsåtgärderna inte var dimensionerade för att stå emot en adaptiv AI-agent, och hur ska utvecklarna bakom den underliggande språkmodellen ställas till svars om deras skyddsspärrar mot skadlig kod kringgåtts?
Vad företag och dataskyddsombud bör lära av händelsen
- Ompröva hotmodellen mot adaptiva attacker: Traditionella brandväggar och regelbaserade skydd är byggda för att känna igen kända mönster och statiska signaturer. När angriparen är en AI-agent som i realtid modifierar sina anrop krävs beteendebaserad anomalidetektering (Behavioral Analytics).
- Stärk säkerheten kring alla API-gränssnitt: AI-agenter är särskilt effektiva på att upptäcka och testa dolda eller odokumenterade API-slutpunkter. Genomför strikt autentisering med tidsbegränsade tokens och hastighetsbegränsning (Rate Limiting).
- Logga och övervaka databasextrahering: Säkerställ att databasfrågor som berör stora volymer av personuppgifter omedelbart genererar larm i säkerhetscentralen (SOC).
Konsekvenser för tillsyn och framtida rättspraxis
Spaniens datainspektion AEPD har meddelat att de kommer att samråda med Europeiska dataskyddsstyrelsen (EDPB) för att utforma gemensamma riktlinjer. Beslutet kan komma att definiera vad som räknas som "lämpliga tekniska och organisatoriska åtgärder" enligt artikel 32 i GDPR i en tid där cyberkriminella använder kommersiella och öppna AI-modeller som operativa angreppsverktyg.