En ny undersøgelse fra Unit 42 viser, hvordan AI-systemer kan revolutionere opdagelsen af sårbarheder i open source. Forskerne har udviklet NOVA, et autonomt system, der kombinerer LLM-baseret kodeanalyse med traditionelle fuzzing-teknikker for at identificere tidligere ukendte zero-days. Over en seksmånedersperiode analyserede NOVA over 1,2 millioner open source-pakker og afslørede 14.000+ sårbarheder, hvoraf 1.500 blev klassificeret som kritiske eller højrisiko. Systemet anvender en hybridmodel, hvor maskinlæring forudsiger potentielle sårbarhedsmønstre, mens dynamisk analyse verificerer udnyttbarheden i reelle miljøer.
De identificerede sårbarheder spænder over flere kritiske softwarekategorier, herunder netværksbiblioteker, databasesystemer og sikkerhedsrammeværker. Ifølge forskerne er den største udfordring ikke opdagelsen af sårbarhederne, men håndteringen af det enorme datavolumen, der genereres. For effektivt at integrere resultaterne i digitale undersøgelser kræves automatiserede prioriteringsmekanismer og kontekstbevidsthed. Undersøgelsen understreger, at traditionelle manuelle gennemgangsteknikker ikke længere er tilstrækkelige til at håndtere den nuværende skala af software-sårbarheder.
For digitale efterforskere repræsenterer denne udvikling både muligheder og udfordringer. På den ene side kan AI-drevet analyse hurtigt identificere kritiske sårbarheder i store kodebaser, hvilket letter ressourceprioritering under hændelseshåndtering. På den anden side introducerer autonome systemer nye kompleksitetsniveauer, især når det kommer til bevisindsamling og dokumentation af sårbarheders oprindelse. Efterforskere skal nu forholde sig til AI-genererede rapporter og sikre, at beviskæden forbliver uantastelig.
Undersøgelsen fremhæver også risikoen for, at AI-systemer selv kan introducere sårbarheder gennem fejlagtig kodegenerering eller manglende forståelse af sikkerhedskontekster. Flere af de identificerede sårbarheder stammede fra kode genereret eller modificeret af tidligere AI-værktøjer, hvilket peger på et voksende problem i softwareudviklingens økosystem. Forskerne anbefaler, at organisationer implementerer robuste valideringsprocesser for AI-genereret kode og kontinuerligt overvåger deres afhængigheder.
Fra et juridisk perspektiv har opdagelsen af disse sårbarheder potentielle implikationer for ansvarsforhold og due diligence-standarder. Hvis AI-systemer kan identificere sårbarheder tidligere end traditionelle metoder, kan dette påvirke, hvordan organisationer vurderes i spørgsmål om uagtsomhed eller utilstrækkelige sikkerhedsforanstaltninger. Undersøgelsen foreslår, at branchestandarder bør udvikles for at definere rimelige sikkerhedsforanstaltninger i en tid med AI-drevet sårbarhedsopdagelse.
For at støtte digitale efterforskere har Unit 42 offentliggjort en åben database over identificerede sårbarheder, inklusive CVE-identifikatorer og detaljerede analyserapporter. Denne ressource kan være værdifuld for efterforskere, der har brug for hurtig adgang til information om kritiske sårbarheder under deres undersøgelser. Undersøgelsen afsluttes med en opfordring til branchemæssigt samarbejde om udvikling af standarder for AI-drevet sikkerhedsanalyse og investering i uddannelse af efterforskere til at forstå og håndtere AI-genererede sikkerhedsdata.
Konklusioner & forslag til handlinger
- Forensisk fokus: Gennemgå systemlogger, undersøg centrale artefakter og verificer beviskæden.
- Kildegrundlag: Verificeret teknisk briefing baseret på rapporter fra Unit 42.
- Handling: Omedelbar kontroll och säkring av telemetri krävs för att förhindra bevisförlust.