En ny studie fra Unit 42 viser hvordan AI-systemer kan revolusjonere oppdagelsen av sårbarheter i åpen kildekode. Forskerne utviklet NOVA, et autonomt system som kombinerer LLM-basert kodeanalyse med tradisjonelle fuzzing-teknikker for å identifisere tidligere ukjente zero-days. I løpet av en seksmånedersperiode analyserte NOVA over 1,2 millioner åpen kildekode-pakker og avdekket 14 000+ sårbarheter, hvorav 1 500 ble klassifisert som kritiske eller høyrisiko. Systemet benytter en hybridmodell der maskinlæring forutsier potensielle sårbarhetsmønstre, mens dynamisk analyse verifiserer utnyttbarheten i reelle miljøer.
De identifiserte sårbarhetene spenner over flere kritiske programvarekategorier, inkludert nettverksbiblioteker, databasesystemer og sikkerhetsrammeverk. Ifølge forskerne er den største utfordringen ikke oppdagelsen av sårbarhetene, men håndteringen av det enorme datavolumet som genereres. For å effektivt integrere funnene i digitale undersøkelser kreves automatiserte prioriteringsmekanismer og kontekstbevissthet. Studien understreker at tradisjonelle manuelle gjennomgangsteknikker ikke lenger er tilstrekkelige for å håndtere dagens omfang av programvaresårbarheter.
For digitale etterforskere representerer denne utviklingen både muligheter og utfordringer. På den ene siden kan AI-drevet analyse raskt identifisere kritiske sårbarheter i store kodebaser, noe som letter ressursprioritering under hendelseshåndtering. På den andre siden introduserer autonome systemer nye kompleksitetsnivåer, særlig når det gjelder bevisinnsamling og dokumentasjon av sårbarhetenes opprinnelse. Etterforskere må nå forholde seg til AI-genererte rapporter og sikre at beviskjeden forblir uantastelig.
Studien fremhever også risikoen for at AI-systemer selv kan introdusere sårbarheter gjennom feilaktig kodegenerering eller manglende forståelse av sikkerhetskontekster. Flere av de identifiserte sårbarhetene stammet fra kode generert eller modifisert av tidligere AI-verktøy, noe som peker på et voksende problem i programvareutviklingens økosystem. Forskerne anbefaler at organisasjoner implementerer robuste valideringsprosesser for AI-generert kode og kontinuerlig overvåker avhengigheter.
Fra et juridisk perspektiv har oppdagelsen av disse sårbarhetene potensielle implikasjoner for ansvarsforhold og due diligence-standarder. Hvis AI-systemer kan identifisere sårbarheter tidligere enn tradisjonelle metoder, kan dette påvirke hvordan organisasjoner vurderes i spørsmål om uaktsomhet eller utilstrekkelige sikkerhetstiltak. Studien foreslår at bransjestandarder bør utvikles for å definere rimelige sikkerhetstiltak i en tid med AI-drevet sårbarhetsoppdagelse.
For å støtte digitale etterforskere har Unit 42 publisert en åpen database over identifiserte sårbarheter, inkludert CVE-identifikatorer og detaljerte analyserapporter. Denne ressursen kan være verdifull for etterforskere som trenger rask tilgang til informasjon om kritiske sårbarheter under sine undersøkelser. Studien avsluttes med en oppfordring til bransjesamarbeid om utvikling av standarder for AI-drevet sikkerhetsanalyse og investering i opplæring for etterforskere for å forstå og håndtere AI-genererte sikkerhetsdata.
Konklusjoner & forslag til tiltak
- Forensisk fokus: Kontroller systemlogger, artefakter og beviskjeden for berørte systemer.
- Kildegrunnlag: Verifisert teknisk analyse basert på rapporter fra Unit 42.
- Tiltak: Omedelbar kontroll och säkring av telemetri krävs för att förhindra bevisförlust.